取得 AI 警示的應用程式和用戶內容

適用於雲端的 Microsoft Defender AI 工作負載的威脅防護可讓您藉由提供使用者和應用程式內容，來增強所產生 AI 警示的可採取動作性和安全性價值。

在大部分情況下，運用 AI 服務的案例會建置為應用程式的一部分，因此對 AI 服務的 API 呼叫源自 Web 應用程式、計算實例或 AI 閘道。 此架構設定引進複雜度，因為調查 AI 要求以判斷相關商務應用程式或使用者時的內容不足。

適用於雲端的 Defender 與 Azure AI 一起，可讓您將參數新增至 Azure AI API 呼叫，以傳播重要的使用者或應用程式內容，以 適用於雲端的 Defender 的 AI 警示。 這反過來又會導致更有效的分級和結果。 例如，新增使用者 IP 或身分識別時，您可以封鎖該使用者，或使該使用者的事件和警示相互關聯。 新增應用程式內容時，您可以排定優先順序或判斷可疑行為是否被視為組織中該應用程式的標準。

必要條件

• 閱讀概觀 - AI 威脅防護。

• 使用 Azure OpenAI 基礎模型，直接透過 Azure OpenAI 服務，在 AI 應用程式上啟用 AI 工作負載的威脅防護（預覽 ）。 請注意，利用透過 Azure AI 模型推斷 API 取用的模型時，目前不支援此功能。

將安全性參數新增至 Azure OpenAI 呼叫

若要接收具有更多內容的 AI 安全性警示，您可以將下列任何或所有範例 UserSecurityContext 參數新增至您的 Azure OpenAI API 呼叫。

UserSecurityContext 中的所有欄位都是選用欄位。

針對使用者內容，我們建議至少傳遞 EndUserId 和 SourceIP 欄位。 EndUserId 和 SourceIP 欄位提供安全性作業中心 (SOC) 分析師調查涉及 AI 資源和生成式 AI 應用程式的安全性事件的能力。

針對應用程式內容，只要將欄位傳遞 applicationName 為簡單的字串即可。

如果欄位的名稱拼錯，Azure OpenAI API 呼叫仍會成功。 UserSecurityContext 結構描述不需要驗證，即可通過 Azure OpenAI 使用者欄位。 應用程式開發人員應該確保應用程式提出的每個要求中都會傳遞有效的 JSON 至 Azure OpenAI。

UserSecurityContext 架構

您可以在 Azure OpenAI REST API 參考檔中找到確切的架構。

使用者安全性內容物件是聊天完成 API 要求本文的一部分。

使用透過 Azure AI 模型推斷 API 部署的模型時，目前不支援此功能。

可用性

後續步驟