Mi az Azure AI-modell következtetése?
Az Azure AI-modell következtetése hozzáférést biztosít az Azure AI-modellkatalógusban elérhető leghatékonyabb modellekhez. A modellek az iparág legfontosabb modellszolgáltatóitól származnak, beleértve az OpenAI, a Microsoft, a Meta, a Mistral, a Cohere, a G42 és az AI21 Labs szolgáltatást. Ezek a modellek szoftvermegoldásokkal integrálhatók, így számos olyan feladatot elérhetővé tehetnek, amelyek közé tartozik a tartalomgenerálás, az összegzés, a képértés, a szemantikai keresés és a kódgenerálás.
Tipp.
A DeepSeek-R1 vagy az OpenAI o3-mini Azure AI-modellbeli következtetésének üzembe helyezéséhez kövesse a Modellek hozzáadása és konfigurálása című témakörben leírt lépéseket.
Az Azure AI-modell következtetése lehetővé teszi a modellek API-kként való használatát anélkül, hogy az infrastruktúrán üzemelteti őket. A modellek egy Microsoft által felügyelt infrastruktúrában vannak üzemeltetve, amely api-alapú hozzáférést tesz lehetővé a modellszolgáltató modelljéhez. Az API-alapú hozzáférés jelentősen csökkentheti a modell elérésének költségeit, és leegyszerűsítheti a kiépítési élményt.
Az Azure AI-modell következtetése az Azure AI-szolgáltatások része, és a felhasználók REST API-kon, SDK-kon keresztül érhetik el a szolgáltatást több nyelven, például Python, C#, JavaScript és Java nyelven. Az Azure AI Foundryből származó Azure AI-modell következtetését is használhatja egy kapcsolat konfigurálásával.
Modellek
Hozzáférhet az iparág legfontosabb modellszolgáltatóihoz, például az OpenAI-hoz, a Microsofthoz, a Meta-hoz, a Mistralhoz, a Cohere-hoz, a G42-hez és az AI21 Labshoz. A modellszolgáltatók határozzák meg a licencfeltételeket, és meghatározzák a modelljeik használati árát. Az alábbi listában az összes elérhető modell látható:
Az egyes modellek részleteinek megtekintéséhez, beleértve a nyelvet, a típusokat és a képességeket, tekintse meg a Modellek cikket.
| Szolgáltató | Modellek |
|---|---|
| AI21 Labs | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o3-mini - o1 - gpt-4o - o1-preview - o1-mini - gpt-4o-mini - text-embedding-3-large - text-embedding-3-small |
| Összetartó | - Cohere-embed-v3-english - Cohere-embed-v3-többnyelvű - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-command-r-plus - Cohere-command-r |
| Core42 | - jais-30b-chat |
| DeepSeek | - DeepSeek-R1 |
| Meta | - Llama-3.3-70B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruk - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruktor - Phi-4 |
| Miistral AI | - Ministral-3B - Mistral-large - Mistral-small - Mistral-Nemo - Mistral-large-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT-adatok | - Tsuzumi-7b |
Díjszabás
A nem Microsoft-szolgáltatóktól származó modellek (például Meta AI- és Mistral-modellek) esetében a számlázás az Azure Marketplace-en keresztül történik. Ilyen modellek esetén a Microsoft Kereskedelmi Piactér használati feltételeinek megfelelően elő kell fizetnie az adott modellajánlatra. A felhasználók a modellek használatára vonatkozó licencfeltételeket fogadnak el. A használat díjszabási információi az üzembe helyezés során találhatók.
A Microsoft-modellek (például a Phi-3-as és az Azure OpenAI-modellek) számlázása Azure-mérőken keresztül történik, mint First Party Consumption Services. A termékfeltételekben leírtaknak megfelelően az Azure-mérők használatával vásárolja meg a first party consumption services szolgáltatást, de nem vonatkoznak rájuk az Azure szolgáltatási feltételei.
Tipp.
Megtudhatja, hogyan figyelheti és kezelheti a költségeket az Azure AI-modell következtetésében.
Felelős AI
A Microsoftnál elkötelezettek vagyunk a mesterséges intelligencia fejlődése mellett, amelyet az emberek elé helyező alapelvek vezérelnek. Az Olyan generatív modellek, mint amilyenek az Azure AI-modellekben is elérhetők, jelentős potenciális előnyökkel járnak, de gondos tervezés és átgondolt megoldások nélkül az ilyen modellek helytelen vagy akár káros tartalmakat is eredményezhetnek.
A Microsoft az alábbi intézkedések végrehajtásával segít a visszaélések és a nem szándékos károk elleni védekezésben:
- A Microsoft felelősségteljes AI-használatra vonatkozó alapelveinek beépítése
- A szolgáltatás használatára vonatkozó magatartási kódex elfogadása
- Tartalomszűrők létrehozása az ügyfelek támogatásához
- Felelősségteljes AI-információk és útmutatás biztosítása, amelyeket az ügyfeleknek érdemes megfontolni az Azure OpenAI használata során.
Első lépések
Az Azure AI-modell következtetése egy új szolgáltatásajánlat az Azure AI Services-erőforrásokon. A használatbavétel ugyanúgy történik, mint bármely más Azure-termék, ahol az Azure AI-modell következtetéséhez vagy a szolgáltatás példányához létrehozott és konfigurált erőforrást az Azure-előfizetésben hozza létre és konfigurálja. Tetszőleges számú erőforrást hozhat létre, és egymástól függetlenül konfigurálhatja őket, ha több különböző követelményeket támasztó csapattal rendelkezik.
Miután létrehozott egy Azure AI Services-erőforrást, üzembe kell helyeznie egy modellt, mielőtt elkezdené az API-hívásokat. Alapértelmezés szerint nincsenek rajta modellek, így szabályozhatja, hogy mely modellekből induljon ki. Tekintse meg az első modell üzembe helyezésének létrehozása az Azure AI-modell következtetésében című oktatóanyagot.