Blokklista használata az Azure OpenAI-val

Az Azure OpenAI API-val blokklistákat hozhat létre. Az alábbi lépések segítenek az első lépésekben.

A jogkivonat lekérése

Először le kell szereznie egy jogkivonatot a blokklisták létrehozásához, szerkesztéséhez és törléséhez szükséges API-k eléréséhez. Ezt a jogkivonatot a következő Azure CLI-paranccsal szerezheti be:

az account get-access-token 

Blokklista létrehozása vagy módosítása

Másolja az alábbi cURL parancsot egy szövegszerkesztőbe, és végezze el a következő módosításokat:

1. Cserélje le a(z) {subscriptionId} elemet az előfizetés-azonosítóra.
2. Cserélje le a(z) {resourceGroupName} nevet az erőforráscsoport nevére.
3. Cserélje le a(z) {accountName} nevet az erőforrás nevére.
4. Cserélje le a(z) {raiBlocklistName} elemet (az URL-címben) a lista egyéni nevére. Engedélyezett karakterek: 0-9, A-Z, a-z, - . _ ~.
5. Cserélje le a(z) {token} elemet a fenti "A jogkivonat lekérése" lépésben kapott jogkivonatra.
6. Igény szerint cserélje le a "leírás" mező értékét egy egyéni leírásra.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

A válaszkódnak létre kell hoznia 201 egy új listát, vagy 200 (egy meglévő listát kell frissítenie).

Tiltólista alkalmazása tartalomszűrőre

Ha még nem hozott létre tartalomszűrőt, ezt az Azure AI Foundryben teheti meg. Lásd: Tartalomszűrés.

Ha befejezési blokklistát szeretne alkalmazni egy tartalomszűrőre, használja a következő cURL-parancsot:

1. Cserélje le a(z) {subscriptionId} elemet az alazonosítóra.
2. Cserélje le a(z) {resourceGroupName} nevet az erőforráscsoport nevére.
3. Cserélje le a(z) {accountName} nevet az erőforrás nevére.
4. Cserélje le a(z) {raiPolicyName} elemet a tartalomszűrő nevére
5. Cserélje le a(z) {token} elemet a fenti "A jogkivonat lekérése" lépésben kapott jogkivonatra.
6. Ha azt szeretné, hogy "promptBlocklists" a "completionBlocklists" tiltólista az AI-modell befejezése helyett a felhasználói kérésekre vonatkozzon, tetszés szerint módosítsa a címet.
7. Cserélje le "raiBlocklistName" a törzsben a lista egyéni nevére. Engedélyezett karakterek: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

BlockItems hozzáadása a listához

Másolja az alábbi cURL parancsot egy szövegszerkesztőbe, és végezze el a következő módosításokat:

1. Cserélje le a(z) {subscriptionId} elemet az alazonosítóra.
2. Cserélje le a(z) {resourceGroupName} nevet az erőforráscsoport nevére.
3. Cserélje le a(z) {accountName} nevet az erőforrás nevére.
4. Cserélje le a(z) {raiBlocklistName} elemet (az URL-címben) a lista egyéni nevére. Engedélyezett karakterek: 0-9, A-Z, a-z, - . _ ~.
5. Cserélje le a(z) {raiBlocklistItemName} elemet a listaelem egyéni nevére.
6. Cserélje le a(z) {token} elemet a fenti "A jogkivonat lekérése" lépésben kapott jogkivonatra.
7. Cserélje le a "blocking pattern" mező értékét a blokklistához hozzáadni kívánt elemre. A blokkelem maximális hossza 1000 karakter. Azt is megadhatja, hogy a minta regex vagy pontos egyezés-e.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

A válaszkódnak a következőnek kell lennie 200: .

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Szöveg elemzése blokklistával

Most tesztelheti a blokklistát tartalmazó üzembe helyezést. Az Azure OpenAI-végpontok meghívásával kapcsolatos utasításokért tekintse meg a rövid útmutatót.

Az alábbi példában egy GPT-35-Turbo telepítés blokklistával blokkolja a kérést. A válasz hibát 400 ad vissza.

{ 
    "error": { 
        "message": "The response was filtered due to the prompt triggering Azure OpenAI’s content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766", 
        "type": null, 
        "param": "prompt", 
        "code": "content_filter", 
        "status": 400, 
        "innererror": { 
            "code": "ResponsibleAIPolicyViolation", 
            "content_filter_result": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "raiBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    } 
} 

Ha maga a befejezés le van tiltva, a válasz visszatér 200, mivel a befejezés csak akkor fejeződik be, ha a tiltólista tartalma megfelel. A széljegyzetek azt mutatják, hogy egy tiltólistaelem megfelelt.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Blokklista létrehozása

1. Nyissa meg az Azure AI Foundryt , és keresse meg a projektet/központot. Ezután válassza a bal oldali navigációs sáv Biztonság+ biztonsági lapját, majd a Tiltólisták lapot.

   

2. Válassza a Blokklista létrehozása lehetőséget. Adja meg a blokklista nevét, adjon hozzá egy leírást, és válasszon ki egy Azure OpenAI-erőforrást, amelyhez csatlakoztatni szeretné. Ezután válassza a Blokklista létrehozása lehetőséget.

3. A létrehozás után válassza ki az új blokklistát. A tiltólista oldalán válassza az Új kifejezés hozzáadása lehetőséget.

4. Adja meg a szűrni kívánt kifejezést, és válassza a Kifejezés hozzáadása lehetőséget. Regexet is használhat. A tiltólistán törölheti az egyes kifejezéseket.

Tiltólista csatolása tartalomszűrő-konfigurációhoz

1. Ha elkészült a tiltólista, lépjen vissza a Safety+ Security lapra, és válassza a Tartalomszűrők lapot. Hozzon létre egy új tartalomszűrő-konfigurációt. Ezzel megnyit egy varázslót, amely több AI-tartalombiztonsági összetevőt tartalmaz.

   

2. A Bemeneti szűrő és a Kimenet szűrő képernyőjén kapcsolja be a Tiltólista gombot. Ezután kiválaszthat egy tiltólistát a listából. A tiltólistáknak két típusa van: a létrehozott egyéni blokklisták és a Microsoft által biztosított előre összeállított blokklisták – ebben az esetben a Profanity blocklist (angol).

3. Most már eldöntheti, hogy melyik elérhető tiltólistát szeretné belefoglalni a tartalomszűrési konfigurációba. Az utolsó lépés a tartalomszűrési konfiguráció áttekintése és befejezése a Tovább gombra kattintva. Bármikor visszatérhet, és szerkesztheti a konfigurációt. Ha elkészült, válasszon egy Tartalomszűrő létrehozása lehetőséget. A blokklistákat tartalmazó új konfiguráció mostantól alkalmazható egy központi telepítésre.