Az Azure AI-modell következtetésében elérhető modellek
Az Azure AI-modellkövetkeztetés az Azure AI Foundryben lehetővé teszi, hogy az Azure AI-ban kiemelt modelleket használjon fel API-kként anélkül, hogy az infrastruktúrán üzemelteti őket.
A modell rendelkezésre állása modellszolgáltatótól, üzembehelyezési termékváltozattól és felhőtől függően változik. Az Azure AI Model Inference szolgáltatásban elérhető összes modell támogatja a globális szabványos üzembe helyezési típust, amely globális kapacitást használ az átviteli sebesség garantálásához. Az Azure OpenAI-modellek támogatják a regionális üzembe helyezéseket és a szuverén felhőket is – Az Azure Government, az Azure Germany és az Azure China 21Vianet.
További információ az Azure OpenAI konkrét üzembehelyezési képességeiről az Azure OpenAI-modell rendelkezésre állásánál.
Tipp.
Az Azure AI-modellkatalógus nagyobb számú modellt kínál, nagyobb szolgáltatóktól. Előfordulhat azonban, hogy ezek a modellek megkövetelik az infrastruktúra üzemeltetését, beleértve egy AI-központ és projekt létrehozását is. Az Azure AI modellszolgáltatás lehetővé teszi a modellek API-kként való használatát anélkül, hogy az infrastruktúrán üzemelteti őket, használatalapú számlázással. További információ az Azure AI-modellkatalógusról.
Az Azure AI Foundry portál modellkatalógusában láthatja az összes elérhető modellt.
AI21 Labs
A Jamba családi modellek az AI21 éles üzemű Mamba-alapú nagy nyelvi modellje (LLM), amely az AI21 hibrid Mamba-Transformer architektúráját használja. Ez az AI21 hibrid strukturált állapottérmodelljének (SSM) jambamodelljének utasításra hangolt verziója. A Jamba családi modellek megbízható kereskedelmi használatra készültek a minőség és a teljesítmény szempontjából.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| AI21-Jamba-1.5-Mini | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (262 144 jogkivonat) - Kimenet: (4096 token) - Nyelvek: en, fr, es, pt, de, arés he - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| AI21-Jamba-1.5-Large | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (262 144 jogkivonat) - Kimenet: (4096 token) - Nyelvek: en, fr, es, pt, de, arés he - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Azure OpenAI
Az Azure OpenAI Szolgáltatás különböző képességekkel és árpontokkal rendelkező modellek széles halmazát kínálja. Ezek a modellek a következők:
- A legkorszerűbb modellek, amelyek az érvelési és problémamegoldási feladatok nagyobb fókuszú és képességgel történő kezelésére lettek tervezve
- Természetes nyelvet és kódot megértő és generáló modellek
- Olyan modellek, amelyek átírhatják és lefordíthatják a beszédet szöveggé
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| o3-mini | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg és kép (200 000 token) - Kimenet: szöveg (100 000 jogkivonat) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| o1 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg és kép (200 000 token) - Kimenet: szöveg (100 000 jogkivonat) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| o1-preview | csevegés befejezése | Globális szabvány Standard |
-
Bemenet: szöveg (128 000 token) - Kimenet: (32 768 token) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| o1-mini | csevegés befejezése | Globális szabvány Standard |
-
Bemenet: szöveg (128 000 token) - Kimenet: (65 536 token) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| gpt-4o-realtime-preview | valós időben | Globális szabvány |
-
Bemenet: vezérlő, szöveg és hang (131 072 jogkivonat) - Kimenet: szöveg és hang (16 384 token) - Nyelvek: hu - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| gpt-4o | csevegés befejezése | Globális szabvány Standard Batch Kiépítve Globális kiépítés Adatzóna |
-
Bemenet: szöveg és kép (131 072 jogkivonat) - Kimenet: szöveg (16 384 jogkivonat) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| gpt-4o-mini | csevegés befejezése | Globális szabvány Standard Batch Kiépítve Globális kiépítés Adatzóna |
-
Bemenet: szöveg, kép és hang (131 072 token) - Kimenet: (16 384 token) - Nyelvek: , , , esaf, de, fr, id, ru, pl, uk, el, lvzhkotrswjacyaris, thbnmrneurpaés .teiten - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON, strukturált kimenetek |
| text-embedding-3-large | beágyazások | Globális szabvány Standard Kiépítve Globális kiépítés |
-
Bemenet: szöveg (8191 token) - Kimenet: Vektor (3072 dim.) - Nyelvek: en |
| text-embedding-3-small | beágyazások | Globális szabvány Standard Kiépítve Globális kiépítés |
-
Bemenet: szöveg (8191 token) - Kimenet: Vektor (1536 dim.) - Nyelvek: en |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Összetartó
A Cohere modellcsalád különböző használati esetekre optimalizált modelleket tartalmaz, beleértve a csevegések befejezését és a beágyazásokat. A cohere-modellek különböző használati esetekre vannak optimalizálva, amelyek közé tartozik az érvelés, az összegzés és a kérdések megválaszolása.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| Cohere-embed-v3-english | beágyazások képbeágyazások |
Globális szabvány |
-
Bemenet: szöveg (512 token) - Kimenet: Vektor (1024 dim.) - Nyelvek: hu |
| Cohere-embed-v3-többnyelvű | beágyazások képbeágyazások |
Globális szabvány |
-
Bemenet: szöveg (512 token) - Kimenet: Vektor (1024 dim.) - Nyelvek: en, fr, es, it, de, pt-br, ja, ko, zh-cn és ar |
| Cohere-command-r-plus-08-2024 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, fr, es, it, de, pt-br, ja, ko, zh-cn és ar - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Cohere-command-r-08-2024 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, fr, es, it, de, pt-br, ja, ko, zh-cn és ar - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Cohere-command-r-plus | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, fr, es, it, de, pt-br, ja, ko, zh-cn és ar - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Cohere-command-r | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, fr, es, it, de, pt-br, ja, ko, zh-cn és ar - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Core42
A Core42 autoregresszív kétnyelvű, arab és angol nyelvű LLM-eket tartalmaz, és a legmodernebb arab képességeket nyújtja.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| jais-30b-chat | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (8192 token) - Kimenet: (4096 token) - Nyelvek: en és ar - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
DeepSeek
A DeepSeek modellcsalád tartalmazza a DeepSeek-R1-et, amely részletes betanítási folyamatokkal, például nyelvi, tudományos érvelési és kódolási feladatokkal kiválóan használható az érvelési feladatokban.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| DeekSeek-R1 | csevegés befejezése (érvelési tartalommal) |
Globális szabvány |
-
Bemenet: szöveg (16 384 jogkivonat) - Kimenet: (163 840 token) - Nyelvek: en és zh - Eszközhívás: Nem - Válaszformátumok: Szöveg. |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Meta
A Meta Llama-modellek és -eszközök előre betanított és finomhangolt AI-szöveges és képi érvelési modellek gyűjteményei. A metamodellek tartománya a következőkre skálázható:
- Kis nyelvi modellek (SLM-ek), például 1B és 3B alapmodellek, valamint instrukciós modellek az eszköz- és peremhálózati következtetéshez
- Közepes méretű nagy nyelvi modellek (LLM-ek), például 7B, 8B és 70B alap- és instruktúramodellek
- Olyan nagy teljesítményű modellek, mint a Meta Llama 3.1-405B Instruct for szintetikus adatgenerálási és desztillációs használati esetek.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| Llama-3.3-70B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (128 000 token) - Kimenet: szöveg (8192 token) - Nyelvek: en, de, fr, it, pt, hi, es és th - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Llama-3.2-11B-Vision-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg és kép (128 000 token) - Kimenet: (8192 token) - Nyelvek: hu - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Llama-3.2-90B-Vision-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg és kép (128 000 token) - Kimenet: (8192 token) - Nyelvek: hu - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Meta-Llama-3.1-405B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (8192 token) - Nyelvek: en, de, fr, it, pt, hi, es és th - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Meta-Llama-3-8B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (8192 token) - Kimenet: (8192 token) - Nyelvek: hu - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Meta-Llama-3.1-70B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (8192 token) - Nyelvek: en, de, fr, it, pt, hi, es és th - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Meta-Llama-3.1-8B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (8192 token) - Nyelvek: en, de, fr, it, pt, hi, es és th - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
| Meta-Llama-3-70B-Instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (8192 token) - Kimenet: (8192 token) - Nyelvek: hu - Eszközhívás: Nem* - Válaszformátumok: Szöveg |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Microsoft
A Phi egy könnyű, korszerű nyitott modellcsalád. Ezeket a modelleket Phi-3 adatkészletekkel képezték ki. Az adathalmazok közé tartoznak a szintetikus adatok és a szűrt, nyilvánosan elérhető webhelyek adatai, amelyek a magas minőségre és az érvelési-sűrű tulajdonságokra összpontosítanak. A modellek szigorú fejlesztési folyamaton taksálnak, amely magában foglalja a felügyelt finomhangolást, a proximális szabályzatoptimalizálást és a közvetlen preferencia-optimalizálást, hogy pontos utasítások betartását és robusztus biztonsági intézkedéseket biztosítson.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| Phi-3-mini-128k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3-mini-4k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (4096 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3-small-8k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3-medium-128k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3-medium-4k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (4096 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3.5-vision-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg és kép (131 072 jogkivonat) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3.5-MoE-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: szöveg (4096 token) - Nyelvek: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, nem, pl, pt, ru, es, sv, th, tr és uk - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3-small-128k-instruct | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-3.5-mini-instruktor | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, nem, pl, pt, ru, es, sv, th, tr és uk - Eszközhívás: Nem - Válaszformátumok: Szöveg |
| Phi-4 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (16 384 jogkivonat) - Kimenet: (16 384 token) - Nyelvek: en, ar, bn, cs, da, de, el, es, fa, fi, fr, gu, ha, he, hi, hu, id, it, ja, jv, kn, ko, ml, mr, nl, nem, vagy, pa, pl, ps, pt, ro, ru, sv, sw, ta, te, th, tl, tr, uk, your, vi, yo és zh - Eszközhívás: Nem - Válaszformátumok: Szöveg |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
Miistral AI
A Mistral AI két modellkategóriát kínál: a prémium modelleket, köztük a Mistral Large és a Mistral Small modelleket, valamint a nyitott modelleket, köztük a Mistral Nemo-t.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| Ministral-3B | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: szöveg (4096 token) - Nyelvek: fr, de, es, it és en - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
|
Mistral-large (elavult) |
csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (32 768 token) - Kimenet: (4096 token) - Nyelvek: fr, de, es, it és en - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Mistral-small | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (32 768 token) - Kimenet: szöveg (4096 token) - Nyelvek: fr, de, es, it és en - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Mistral-Nemo | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: szöveg (4096 token) - Nyelvek: en, fr, de, es, it, zh, ja, ko, pt, nl és pl - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
|
Mistral-large-2407 (örökölt) |
csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (131 072 token) - Kimenet: (4096 token) - Nyelvek: en, fr, de, es, it, zh, ja, ko, pt, nl és pl - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Mistral-Large-2411 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (128 000 token) - Kimenet: szöveg (4096 token) - Nyelvek: en, fr, de, es, it, zh, ja, ko, pt, nl és pl - Eszközhívás: Igen - Válaszformátumok: Szöveg, JSON |
| Codestral-2501 | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (262 144 jogkivonat) - Kimenet: szöveg (4096 token) - Nyelvek: hu - Eszközhívás: Nem - Válaszformátumok: Szöveg |
Tekintse meg ezt a modellgyűjteményt az Azure AI Foundry portálon.
NTT-adatok
A Tsuzumi egy autoregresszív nyelvre optimalizált transzformátor. A hangolt verziók felügyelt finomhangolást (SFT) használnak. A Tsuzumi nagy hatékonysággal kezeli a japán és az angol nyelvet is.
| Modell | Típus | Szint | Képességek |
|---|---|---|---|
| Tsuzumi-7b | csevegés befejezése | Globális szabvány |
-
Bemenet: szöveg (8192 token) - Kimenet: szöveg (8192 token) - Nyelvek: en és jp - Eszközhívás: Nem - Válaszformátumok: Szöveg |
Következő lépések
- A mai első lépések és az ökölmodell üzembe helyezése az Azure AI-szolgáltatásokban