Vad är AI Toolkit för Visual Studio Code?
AI Toolkit for Visual Studio Code (VS Code) är ett VS Code tillägg som förenklar generativ AI-apputveckling genom att sammanföra avancerade AI-utvecklingsverktyg och modeller från Azure AI Foundry-katalogen och andra kataloger som Hugging Face.
Not
Ytterligare dokumentation och handledningar för AI Toolkit för VS Code finns i GitHub-förvaret: microsoft/vscode-ai-toolkit. Du hittar vägledning om Playground, arbeta med AI-modeller, finjustera lokala och molnbaserade modeller med mera.
AI Toolkit-funktioner
Med AI Toolkit for VS Code (AI Toolkit) kan du:
- Ladda ned och köra AI-modeller lokalt. AI Toolkit ger åtkomst till högoptimerade modeller för följande plattformar och maskinvara:
- Windows 11 körs med DirectML-acceleration
- Windows 11 körs direkt på processorn
- Windows 11 Copilot+-datorer som körs på NPU:n
- Linux med NVIDIA-acceleration
- Linux körs direkt på processorn
- MacOS-stöd kommer snart
- Testa modeller på en intuitiv lekplats eller i ditt program med ett REST API.
- Finjustera DIN AI-modell – lokalt eller i molnet (på en virtuell dator) – för att skapa nya färdigheter, förbättra svarstillförlitligheten, ange tonen och formatet för svaret. AI Toolkit ger en guidad genomgång för att finjustera populära småspråksmodeller ( SLA) - som Phi-3 och Mistral.
- Distribuera din AI-funktion antingen till molnet eller med ett program som körs på en enhet.
Not
Deepseek R1 Distilled-modellen är optimerad för den neurala bearbetningsenheten (NPU) och är tillgänglig för nedladdning på Snapdragon-baserade Copilot+-datorer som kör Windows 11. Mer information finns i Kör Distilled DeepSeek R1-modeller lokalt på Copilot+ PC, med Windows Copilot Runtime.
AI Toolkit stöder nu en Bring Your Own Model-metod. Du kan använda AI Toolkit för att ladda ned dina egna modeller, till exempel DeepSeek-R1, från kataloger som Ollama och köra dem lokalt.
Vill du veta mer om AI Toolkit för VS Code? Dona Sarkar och John Lam ger en översikt över AI Toolkit i den här videon från Microsoft Build 2024:
Den senaste dokumentationen och för att ladda ned och använda AI Toolkit finns på GitHub-sidan.