Az AI-riasztások alkalmazás- és végfelhasználói környezetének megszerzése

Felhőhöz készült Microsoft Defender AI-számítási feladatok veszélyforrások elleni védelme lehetővé teszi a létrehozott AI-riasztások kezelhetőségének és biztonsági értékének növelését a végfelhasználói és az alkalmazáskörnyezet biztosításával.

A legtöbb esetben az AI-szolgáltatásokat használó forgatókönyvek egy alkalmazás részeként jönnek létre, így az AI-szolgáltatáshoz érkező API-hívások webalkalmazásból, számítási példányból vagy AI-átjáróból származnak. Ez az architektúra beállítása összetettséghez vezet, mivel nincs kontextus az üzleti alkalmazás vagy az érintett végfelhasználó meghatározására irányuló MI-kérelmek vizsgálatakor.

Felhőhöz készült Defender az Azure AI-vel együtt lehetővé teszi paraméterek hozzáadását az Azure AI API-hívásokhoz a kritikus végfelhasználók vagy alkalmazáskörnyezetek propagálása érdekében Felhőhöz készült Defender AI-riasztásaihoz. Ez viszont hatékonyabb osztályozáshoz és eredményekhez vezet. Végfelhasználói IP-cím vagy identitás hozzáadásakor például letilthatja a felhasználót, vagy korrelálhatja az adott felhasználó incidenseit és riasztásait. Alkalmazáskörnyezet hozzáadásakor rangsorolhatja vagy meghatározhatja, hogy a gyanús viselkedés szabványosnak tekinthető-e az adott alkalmazáshoz a szervezetben.

Előfeltételek

• Olvassa el az áttekintést – AI veszélyforrások elleni védelem.

• Az AI-számítási feladatok (előzetes verzió) veszélyforrások elleni védelmének engedélyezése egy AI-alkalmazáson az Azure OpenAI mögöttes modellel közvetlenül az Azure OpenAI szolgáltatáson keresztül. Vegye figyelembe, hogy ez a funkció jelenleg nem támogatott, ha az Azure AI-modell következtetési API-jával felhasznált modelleket használja.

Biztonsági paraméterek hozzáadása az Azure OpenAI-híváshoz

Ha több környezettel szeretné fogadni az AI biztonsági riasztásait, az alábbi mintaparaméterek UserSecurityContext bármelyikét vagy mindegyikét hozzáadhatja az Azure OpenAI API-hívásokhoz .

A mezők UserSecurityContext nem kötelezőek.

Végfelhasználói környezet esetén azt javasoljuk, hogy legalább adja át a mezőket és SourceIP a EndUserId mezőket. A EndUserId mezők biztosítják SourceIP a Security Operations Center (SOC) elemzői számára az AI-erőforrásokat és a generatív AI-alkalmazásokat érintő biztonsági incidensek kivizsgálását.

Alkalmazáskörnyezet esetén egyszerűen adja át a applicationName mezőt egyszerű sztringként.

Ha egy mező neve hibás, az Azure OpenAI API-hívás továbbra is sikeres lesz. A UserSecurityContext séma nem igényel ellenőrzést az Azure OpenAI felhasználói mezőn való áthaladáshoz. Az alkalmazásfejlesztőknek gondoskodniuk kell arról, hogy az alkalmazás által az Azure OpenAI-nak küldött minden kérésben érvényes JSON-t adjanak át.

UserSecurityContext séma

A pontos séma megtalálható az Azure OpenAI REST API referenciadokumentációjában.

A felhasználói biztonsági környezet objektuma a csevegés-befejezési API kéréstörzsének része.

Ez a funkció jelenleg nem támogatott, ha az Azure AI-modell következtetési API-jával üzembe helyezett modelleket használ.

Elérhetőség

Következő lépés