Ondersteunde programmeertalen voor modellen in Azure AI-modeldeductie
Modellen die zijn geïmplementeerd in Azure AI-modeldeductie kunnen worden gebruikt met verschillende SDK's en programmeermodellen. In het volgende document wordt beschreven welke u moet gebruiken:
Alle modellen
Alle modellen die zijn geïmplementeerd in Azure AI-modeldeductie ondersteunen de Azure AI-modeldeductie-API en de bijbehorende serie SDK's.
Als u deze SDK's wilt gebruiken, verbindt u deze met de deductie-URI van het Azure AI-model (meestal in de vormhttps://<resource-name>.services.ai.azure.com/models).
Azure AI-deductiepakket
Met het Azure AI-deductiepakket kunt u alle modellen gebruiken die zijn geïmplementeerd in de deductieservice van het Azure AI-model en deze eenvoudig wijzigen. Het Azure AI-deductiepakket maakt deel uit van de Azure AI Foundry SDK.
| Taal | Documentatie | Pakket | Voorbeelden |
|---|---|---|---|
| C# | Verwijzing | azure-ai-deductie (NuGet) | C#-voorbeelden |
| Java | Verwijzing | azure-ai-deductie (Maven) | Java-voorbeelden |
| JavaScript | Verwijzing | @azure/ai-deductie (npm) | JavaScript-voorbeelden |
| Python | Verwijzing | azure-ai-deductie (PyPi) | Python-voorbeelden |
Azure AI Projects-pakket
Met het Azure AI Projects-pakket heeft de klant toegang tot een uitgebreide set functies vanuit een Azure AI-project. Deze mogelijkheden omvatten deductie van Azure AI-modellen, maar ook geavanceerde mogelijkheden, zoals tracering, evaluatie en gegevensopslag. Het Azure AI Projects-pakket maakt deel uit van de Azure AI Foundry SDK en maakt gebruik van het Azure AI-deductiepakket en het Azure OpenAI-pakket om deductie uit te voeren, afhankelijk van de behoeften van gebruikers.
| Taal | Documentatie | Pakket | Voorbeelden |
|---|---|---|---|
| C# | Verwijzing | Azure.AI.Projects (NuGet) | C#-voorbeelden |
| Python | Verwijzing | azure-ai-projects (PyPi) | Python-voorbeelden |
Integraties
| Framework | Taal | Documentatie | Pakket | Voorbeelden |
|---|---|---|---|---|
| LangChain | Python | Verwijzing | langchain-azure-ai (PyPi) | Python-voorbeelden |
| Llama-Index | Python | Verwijzing |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Python-voorbeelden |
| Semantic Kernel | Python | Verwijzing | semantic-kernel[azure] (PyPi) | Python-voorbeelden |
| AutoGen | Python | Verwijzing | autogen-ext[azure] (PyPi) | Snelstartgids |
Azure OpenAI-modellen
Azure OpenAI-modellen kunnen worden gebruikt met behulp van de volgende SDK's en programmeertalen.
Als u deze SDK's wilt gebruiken, verbindt u deze met de URI van de Azure OpenAI-service (meestal in de vormhttps://<resource-name>.openai.azure.com).
OpenAI en Azure OpenAI SDK
| Taal | Broncode | Pakket | Voorbeelden |
|---|---|---|---|
| C# | Broncode | Azure.AI.OpenAI (NuGet) | C#-voorbeelden |
| Go | Broncode | azopenai (Go) | Go-voorbeelden |
| Java | Broncode | azure-ai-openai (Maven) | Java-voorbeelden |
| JavaScript | Broncode | @azure/openai (npm) | JavaScript-voorbeelden |
| Python | Broncode | openai (PyPi) | Python-voorbeelden |
Integraties
| Framework | Taal | Documentatie | Pakket | Voorbeelden |
|---|---|---|---|---|
| LangChain | Python | Verwijzing | langchain-openai (PyPi) | Python-voorbeelden |
| Llama-Index | Python | Verwijzing |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Python-voorbeelden |
| AutoGen | Python | Verwijzing | autogen-ext[openai] (PyPi) | Snelstartgids |
Beperkingen
Waarschuwing
Cohere SDK en Mistral SDK worden niet ondersteund in Azure AI-modeldeductie in Azure AI Foundry.
Volgende stappen
- Als u wilt zien welke modellen momenteel worden ondersteund, raadpleegt u de sectie Modellen