Linguaggi di programmazione supportati per i modelli nell'inferenza del modello di intelligenza artificiale di Azure
I modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure possono essere usati con sdk e modelli di programmazione diversi. Il documento seguente descrive quale usare:
Tutti i modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure supportano l'API di inferenza del modello di intelligenza artificiale di Azure e la famiglia associata di SDK.
Per usare questi SDK, connetterli all'URI di inferenza del modello di intelligenza artificiale di Azure (in genere nel formato https://<resource-name>.services.ai.azure.com/models).
Il pacchetto di inferenza di intelligenza artificiale di Azure consente di usare tutti i modelli distribuiti nel servizio di inferenza del modello di intelligenza artificiale di Azure e di modificarli facilmente. Il pacchetto di inferenza di Intelligenza artificiale di Azure fa parte di Azure AI Foundry SDK.
| Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|
| C# | Riferimento | azure-ai-inference (NuGet) | Esempi di C# |
| Java | Riferimento | azure-ai-inference (Maven) | Esempi di Java |
| JavaScript | Riferimento | @azure/ai-inference (npm) | Esempi di JavaScript |
| Python | Riferimento | azure-ai-inference (PyPi) | Esempi di Python |
Il pacchetto Azure AI Projects consente al cliente di accedere a un set completo di funzionalità da un progetto di Azure per intelligenza artificiale. Queste funzionalità includono l'inferenza del modello di intelligenza artificiale di Azure, ma anche funzionalità avanzate come traccia, valutazione e archiviazione dei dati. Il pacchetto Azure AI Projects fa parte di Azure AI Foundry SDK e sfrutta il pacchetto Di inferenza di Intelligenza artificiale di Azure e il pacchetto OpenAI di Azure per eseguire l'inferenza a seconda delle esigenze degli utenti.
| Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|
| C# | Riferimento | Azure.AI.Projects (NuGet) | Esempi di C# |
| Python | Riferimento | azure-ai-projects (PyPi) | Esempi di Python |
| Framework | Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|---|
| LangChain | Python | Riferimento | langchain-azure-ai (PyPi) | Esempi di Python |
| Llama-Index | Python | Riferimento |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Esempi di Python |
| Kernel semantico | Python | Riferimento | semantic-kernel[azure] (PyPi) | Esempi di Python |
| AutoGen | Python | Riferimento | autogen-ext[azure] (PyPi) | Guida introduttiva |
I modelli OpenAI di Azure possono essere usati usando gli SDK e i linguaggi di programmazione seguenti.
Per usare questi SDK, connetterli all'URI del servizio OpenAI di Azure (in genere nel formato https://<resource-name>.openai.azure.com).
| Lingua | Codice sorgente | Pacchetto | Esempi |
|---|---|---|---|
| C# | Codice sorgente | Azure.AI.OpenAI (NuGet) | Esempi di C# |
| Go | Codice sorgente | azopenai (Go) | Esempi di Go |
| Java | Codice sorgente | azure-ai-openai (Maven) | Esempi di Java |
| JavaScript | Codice sorgente | @azure/openai (npm) | Esempi di JavaScript |
| Python | Codice sorgente | openai (PyPi) | Esempi di Python |
| Framework | Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|---|
| LangChain | Python | Riferimento | langchain-openai (PyPi) | Esempi di Python |
| Llama-Index | Python | Riferimento |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Esempi di Python |
| AutoGen | Python | Riferimento | autogen-ext[openai] (PyPi) | Guida introduttiva |
Avviso
Cohere SDK e Mistral SDK non sono supportati nell'inferenza del modello di intelligenza artificiale di Azure in Azure AI Foundry.
- Per visualizzare i modelli attualmente supportati, vedere la sezione Modelli