Dela via

Vad är AI Toolkit för Visual Studio Code?

  • Artikel

AI Toolkit for Visual Studio Code (VS Code) är ett VS Code tillägg som förenklar generativ AI-apputveckling genom att sammanföra avancerade AI-utvecklingsverktyg och modeller från Azure AI Foundry-katalogen och andra kataloger som Hugging Face.

Not

Ytterligare dokumentation och handledningar för AI Toolkit för VS Code finns i GitHub-förvaret: microsoft/vscode-ai-toolkit. Du hittar vägledning om Playground, arbeta med AI-modeller, finjustera lokala och molnbaserade modeller med mera.

AI Toolkit-funktioner

Med AI Toolkit for VS Code (AI Toolkit) kan du:

  • Ladda ned och köra AI-modeller lokalt. AI Toolkit ger åtkomst till högoptimerade modeller för följande plattformar och maskinvara:
    • Windows 11 körs med DirectML-acceleration
    • Windows 11 körs direkt på processorn
    • Windows 11 Copilot+-datorer som körs på NPU:n
    • Linux med NVIDIA-acceleration
    • Linux körs direkt på processorn
    • MacOS-stöd kommer snart
  • Testa modeller på en intuitiv lekplats eller i ditt program med ett REST API.
  • Finjustera DIN AI-modell – lokalt eller i molnet (på en virtuell dator) – för att skapa nya färdigheter, förbättra svarstillförlitligheten, ange tonen och formatet för svaret. AI Toolkit ger en guidad genomgång för att finjustera populära småspråksmodeller ( SLA) - som Phi-3 och Mistral.
  • Distribuera din AI-funktion antingen till molnet eller med ett program som körs på en enhet.

Not

Deepseek R1 Distilled-modellen är optimerad för den neurala bearbetningsenheten (NPU) och är tillgänglig för nedladdning på Snapdragon-baserade Copilot+-datorer som kör Windows 11. Mer information finns i Kör Distilled DeepSeek R1-modeller lokalt på Copilot+ PC, med Windows Copilot Runtime.

AI Toolkit stöder nu en Bring Your Own Model-metod. Du kan använda AI Toolkit för att ladda ned dina egna modeller, till exempel DeepSeek-R1, från kataloger som Ollama och köra dem lokalt.

Vill du veta mer om AI Toolkit för VS Code? Dona Sarkar och John Lam ger en översikt över AI Toolkit i den här videon från Microsoft Build 2024:

Den senaste dokumentationen och för att ladda ned och använda AI Toolkit finns på GitHub-sidan.

Relaterat innehåll