Megosztás a következőn keresztül:

Az Azure OpenAI szolgáltatás és az Azure Government funkciói

  • Cikk

Ez a cikk az Azure OpenAI Azure Governmentben való használata során a kereskedelmi felhőajánlathoz képest fennálló különbségeket emeli ki. Az Azure OpenAI szolgáltatásról az Azure OpenAI szolgáltatás dokumentációjában talál további információt.

Azure OpenAI-modellek

További információ az egyes modellek különböző képességeiről az Azure OpenAI-szolgáltatásmodellekben. Az üzletmenet-folytonossági és vészhelyreállítási (BCDR) szempontokat figyelembe vevő ügyfeleknél vegye figyelembe az üzembe helyezés típusait, régióit és a modellek rendelkezésre állását, mivel nem minden modell/típus kombináció érhető el mindkét régióban.

Az alábbi szakaszok a modell elérhetőségét mutatják be régió és üzembe helyezési típus szerint. A listán nem szereplő modellek és verziók jelenleg nem érhetők el az Azure Governmentben. Az általános korlátok, kvóták és egyéb részletekért tekintse meg az Azure OpenAI szolgáltatás kvótáit és korlátait.


Standard üzemi modell rendelkezésre állása

Régió gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106 text-embedding-3-large, 1 text-embedding-ada-002, 2
usgovarizona ✅ ✅ ✅ ✅ - ✅ ✅
usgovvirginia ✅ - ✅ ✅ ✅ - ✅

Ha kvótanövelést szeretne kérni ezekhez a modellekhez, küldjön egy kérelmet a következő címen https://aka.ms/AOAIGovQuota: . Figyelje meg az űrlapon keresztül engedélyezett maximális kvótakorlátokat:

gpt-4o gpt-4o-mini gpt-4 gpt-35-turbo text-embedding-3-large text-embedding-ada-002
300k 600k 200k rendelkező városok 700k 700k

Üzembehelyezési modell rendelkezésre állása

Régió gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106
usgovarizona ✅ - - ✅ -
usgovvirginia ✅ - - ✅ -

[MEGJEGYZÉS]

A kiépített átviteli egységek (PTU-k) eltérnek az Azure OpenAI standard kvótájától, és alapértelmezés szerint nem érhetők el az Azure Governmentben. Ha többet szeretne megtudni erről az ajánlatról, forduljon a Microsoft-fiók csapatához.


Azure OpenAI-funkciók

Az Azure OpenAI az Azure Governmentben és a kereskedelmi felhőben való összehasonlítása során az alábbi funkcióbeli különbségek léteznek.

Szolgáltatás Leírás
Strukturált kimenetek Jelenleg nem támogatott.
Foglalásalapú vásárlások Jelenleg nem támogatott.
Batch-telepítések Jelenleg nem támogatott.
Adatok csatlakoztatása A virtuális hálózat és a privát kapcsolatok támogatottak. Webalkalmazásba vagy copilotba való üzembe helyezés a Copilot Studióban nem támogatott.
Visszaélés ellenőrzése A visszaélések monitorozásának nem minden funkciója engedélyezett az Azure OpenAI-ban az Azure Governmentben. Ön felelős azért, hogy ésszerű technikai és üzemeltetési intézkedéseket hajtson végre annak érdekében, hogy észlelje és mérsékelje a szolgáltatásnak a Termékfeltételek megsértésével történő használatát. Az automatikus tartalombesorolás és -szűrés alapértelmezés szerint engedélyezve marad az Azure Government esetében. Ha módosított tartalomszűrőkre van szükség, alkalmazza a következő helyen: https://aka.ms/AOAIGovModifyContentFilter
Adattárolás Az Azure Governmentben jelenleg nincsenek engedélyezve olyan Azure OpenAI-funkciók, amelyek inaktív állapotban tárolják az ügyféladatokat. Az Ügyfél által felügyelt kulcsok (CMK) azonban továbbra is engedélyezhetők az Azure Governmentben, hogy ugyanazokat a szabályzatokat használják az Azure Governmentben, mint a nyilvános felhőben. Vegye figyelembe azt is, hogy ha az ügyféladatokat tároló Azure OpenAI-funkciók a jövőben engedélyezve lesznek az Azure Governmentben, akkor az adatokra akkor minden meglévő CMK-telepítés lesz alkalmazva. További információ az Azure OpenAI adatvédelemről.
Megfelelőség Az Azure OpenAI-megfelelőség aktuális állapotának megtekintése az Azure Governmentben az Azure Government Services naplózási hatókörében
Szolgáltatásvégpontok openai.azure.us
Kulcsportálok
  • Azure OpenAI Studio – aoai.azure.us
  • Azure Portal – portal.azure.us

Üzembe helyezés az Azure Governmentben

Az alábbi útmutató bemutatja, hogyan állíthat be kiépített üzembe helyezést az Azure OpenAI-szolgáltatás erőforrásával az Azure Governmentben.

Előfeltételek

  • Azure Government-előfizetés
  • Azure OpenAI-erőforrás
  • Jóváhagyott kvóta egy kiépített üzembe helyezéshez, és megvásárolt egy kötelezettségvállalást

Kiosztott átviteli sebességre vonatkozó kötelezettségvállalások kezelése

Az Azure OpenAI esetében az Azure Governmentben a kiépített átviteli sebesség üzembe helyezése előre meghatározott kötelezettségvállalásokat igényel, amelyeket az Azure OpenAI Studio Kötelezettségvállalások kezelése nézetéből hoztak létre és kezelnek. Ehhez a nézethez a Kvóta panelEn a Kötelezettségvállalások kezelése lehetőséget választva navigálhat.

A Kötelezettségvállalások kezelése nézetben több dolgot is elvégezhet:

  • Vásároljon új kötelezettségvállalásokat, vagy szerkessze a meglévő kötelezettségvállalásokat.
  • Az előfizetésben lévő összes kötelezettségvállalás figyelése.
  • Azonosíthatja és végrehajthatja azokat a kötelezettségvállalásokat, amelyek váratlan számlázást okozhatnak.
Beállítás Jegyzetek
Erőforrás kiválasztása Válassza ki azt az erőforrást, amelyben a kiépített üzembe helyezést hozza létre. Miután megvásárolta a kötelezettségvállalást, nem használhatja a kvótát egy másik erőforráson, amíg az aktuális kötelezettségvállalás le nem jár.
Kötelezettségvállalási típus kiválasztása Válassza a Kiépített lehetőséget. (A kiépítés egyenértékű a kiépített felügyelt szolgáltatással)
Jelenlegi nem véglegesített kiosztott kvóta Az erőforrás véglegesítéséhez jelenleg elérhető PTU-k száma.
Véglegesíteni kívánt összeg (PTU) Adja meg, hogy hány PTU-t szeretne véglegesíteni. Ez a szám növelhető a kötelezettségvállalási időszak alatt, de nem csökkenthető. Adja meg az értékeket 50-es növekményekben a kiépített kötelezettségvállalási típushoz.
Az aktuális időszakra vonatkozó kötelezettségvállalási szint A kötelezettségvállalási időszak egy hónapra van beállítva.
Megújítási beállítások Automatikus helyreállítás az aktuális PTU-knál
Automatikus helyreállítás alacsonyabb PTU-knál
Ne tegye automatikusan a műveletet

Fontos

A teljes időszakra előre számlázunk egy új kötelezettségvállalást. Ha a megújítási beállítások automatikus megújításra vannak beállítva, akkor a megújítási beállítások alapján minden megújítási dátumon újra kiszámlázzuk.

Fontos

Amikor PTU-kat ad hozzá egy kötelezettségvállaláshoz, azok számlázása azonnal történik, az aktuális dátumtól a meglévő kötelezettségvállalási időszak végéig számított arányosított összeggel. A PTU-k hozzáadása nem állítja vissza a kötelezettségvállalási időtartamot.

Megújítási beállítások módosítása

A kötelezettségvállalás megújítási beállításai bármikor módosíthatók a kötelezettségvállalás lejárati dátuma előtt.

Fontos

Ha engedélyezi egy kötelezettségvállalás lejáratát vagy méretének csökkentését, hogy az erőforrás alatti üzembe helyezések több PTU-t igényelnek, mint amennyi az erőforrás-kötelezettségvállalásban szerepel, óránkénti túlhasználati díjakat fog kapni a felesleges PTU-kért. Egy olyan erőforrás például, amelynek üzembe helyezései összesen 500 PTU-t és 300 PTU-ra vonatkozó kötelezettségvállalást eredményeznek, óránkénti túlhasználati díjakat eredményeznek 200 PTU-ért.

Gyakori kötelezettségvállaláskezelési forgatókönyvek

A kiosztott átviteli sebesség használatának megszüntetése

A kiosztott átviteli sebesség használatának megszüntetéséhez és az óránkénti túlhasználati díjaknak a kötelezettségvállalás lejárata után történő megelőzéséhez két lépést kell végrehajtani:

  1. Állítsa be a megújítási szabályzatot az összes kötelezettségvállalásra, hogy ne adja meg automatikusan.
  2. Törölje a kiépített üzembe helyezéseket a kvótával.

Kötelezettségvállalás/üzembe helyezés áthelyezése egy új erőforrásba ugyanabban az előfizetésben/régióban

Az Azure OpenAI Studióban nem lehet közvetlenül áthelyezni egy üzembe helyezést vagy egy új erőforrásra vonatkozó kötelezettségvállalást. Ehelyett létre kell hozni egy új üzembe helyezést a célerőforráson, és át kell helyezni a forgalmat. Ehhez a folyamathoz új kötelezettségvállalási vásárlásra van szükség az új erőforráson. Mivel a kötelezettségvállalásokat 30 napos időszakra előre terheljük, ezt a lépést az eredeti kötelezettségvállalás lejáratával kell időzíteni, hogy az átfedések során minimális legyen az átfedés az új kötelezettségvállalással és a "kettős számlázással".

Ennek az átmenetnek a megvalósítása két megközelítéssel valósítható meg.

1. lehetőség: Átfedésmentes váltás

Ez a beállítás némi állásidőt igényel, de nem igényel extra kvótát, és nem okoz többletköltségeket.

Lépések Jegyzetek
A megújítási szabályzat beállítása a meglévő lejáró kötelezettségvállalásra Ez a művelet megakadályozza, hogy a kötelezettségvállalás megújítsa és további díjakat állítsunk elő
A meglévő kötelezettségvállalás lejárta előtt törölje az üzembe helyezést Az állásidő ekkor kezdődik, és az új üzembe helyezés és a forgalom áthelyezéséig tart. Az időtartam minimalizálható úgy, hogy a törlés a lehető legközelebb kerül a lejárati dátumhoz/időhöz.
A meglévő kötelezettségvállalás lejárta után hozza létre a kötelezettségvállalást az új erőforráson Minimalizálja az állásidőt a lépés végrehajtásával, és a következő lépéssel a lehető leghamarabb.
Hozza létre az üzembe helyezést az új erőforráson, és helyezze át a forgalmat hozzá

2. lehetőség: Átfedésben lévő váltás

Ez a beállítás nem rendelkezik állásidővel, mivel mind a meglévő, mind az új üzemelő példány egyidejűleg üzemel. Ehhez a módszerhez kvóta szükséges az új üzembe helyezés létrehozásához, és többletköltségeket generál az átfedésben lévő üzemelő példányok során.

Lépések Jegyzetek
A megújítási szabályzat beállítása a meglévő lejáró kötelezettségvállalásra Ezzel megakadályozza a kötelezettségvállalás megújítását és további díjak keletkezését.
A meglévő kötelezettségvállalás lejárta előtt:
1. Hozza létre a kötelezettségvállalást az új erőforráson.
2. Hozza létre az új üzembe helyezést.
3. Forgalomváltás
4. Meglévő üzembe helyezés törlése		 Győződjön meg arról, hogy a meglévő kötelezettségvállalás lejárta előtt minden lépéshez elegendő időt hagy, ellenkező esetben a beállításoknál túlhasználati díjak keletkeznek (lásd a következő szakaszt).