Bagikan melalui

Untuk apa Toolkit Visual Studio CodeAI?

  • Artikel

Toolkit AI untuk Visual Studio Code (VS Code) adalah ekstensi VS Code yang menyederhanakan pengembangan aplikasi AI generatif dengan menggabungkan alat pengembangan dan model AI mutakhir dari Azure AI Foundry katalog dan katalog lainnya seperti Hugging Face.

Catatan

Dokumentasi dan tutorial tambahan untuk Toolkit AI tersedia di repositori VS Code GitHub: microsoft/vscode-ai-toolkit. Anda akan menemukan panduan tentang Playground, bekerja dengan model AI, menyempurnakan model lokal dan berbasis cloud, dan banyak lagi.

Fitur Toolkit AI

Toolkit AI untuk VS Code (AI Toolkit) memungkinkan Anda untuk:

  • Unduh dan jalankan model AI secara lokal. Toolkit AI menyediakan akses ke model yang sangat dioptimalkan untuk platform dan perangkat keras berikut:
    • Windows 11 berjalan dengan akselerasi DirectML
    • Windows 11 berjalan langsung di CPU
    • Pc Windows 11 Copilot+ yang berjalan di NPU
    • Linux dengan akselerasi NVIDIA
    • Linux berjalan langsung di CPU
    • Dukungan MacOS akan segera hadir
  • Uji model di taman bermain intuitif atau di aplikasi Anda dengan REST API.
  • Sesuaikan model AI Anda - secara lokal atau di cloud (pada komputer virtual) - untuk membuat keterampilan baru, meningkatkan keandalan respons, mengatur nada dan format respons. Toolkit AI menyediakan panduan untuk menyempurnakan model bahasa kecil (SLM) populer - seperti Phi-3 dan Mistral.
  • Sebarkan fitur AI Anda baik ke cloud atau dengan aplikasi yang berjalan di perangkat.

Catatan

Model Distilled Deepseek R1 dioptimalkan untuk Neural Processing Unit (NPU) dan tersedia untuk diunduh di PC Copilot+ yang didukung oleh Snapdragon yang menjalankan Windows 11. Untuk informasi selengkapnya, lihat Menjalankan model Distilled DeepSeek R1 secara lokal di PC Copilot+, didukung oleh Windows Copilot Runtime.

Toolkit AI sekarang mendukung pendekatan Bring Your Own Model. Anda dapat menggunakan Toolkit AI untuk mengunduh model Anda sendiri, seperti DeepSeek-R1, dari katalog seperti Ollama dan menjalankannya secara lokal.

Ingin mempelajari lebih lanjut tentang Toolkit AI untuk VS Code? Dona Sarkar dan John Lam memberikan gambaran umum tentang Toolkit AI dalam video ini dari Microsoft Build 2024:

Untuk dokumentasi terbaru dan untuk mengunduh dan menggunakan Toolkit AI, silakan kunjungi halaman GitHub.

Konten terkait