Menggunakan daftar blokir dengan Azure OpenAI

Anda dapat membuat daftar blokir dengan Azure OpenAI API. Langkah-langkah berikut membantu Anda memulai.

Dapatkan token Anda

Pertama, Anda perlu mendapatkan token untuk mengakses API untuk membuat, mengedit, dan menghapus daftar blokir. Anda bisa mendapatkan token ini menggunakan perintah Azure CLI berikut:

az account get-access-token 

Membuat atau mengubah daftar blokir

Salin perintah cURL di bawah ini ke editor teks dan buat perubahan berikut:

1. Ganti {subscriptionId} dengan ID langganan Anda.
2. Ganti {resourceGroupName} dengan nama grup sumber daya Anda.
3. Ganti {accountName} dengan nama sumber daya Anda.
4. Ganti {raiBlocklistName} (di URL) dengan nama kustom untuk daftar Anda. Karakter yang diizinkan: 0-9, A-Z, a-z, - . _ ~.
5. Ganti {token} dengan token yang Anda dapatkan dari langkah "Dapatkan token Anda" di atas.
6. Secara opsional ganti nilai bidang "deskripsi" dengan deskripsi kustom.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

Kode respons harus 201 (membuat daftar baru) atau 200 (memperbarui daftar yang sudah ada).

Menerapkan daftar blokir ke filter konten

Jika Anda belum membuat filter konten, Anda dapat melakukannya di Azure AI Foundry. Lihat Pemfilteran konten.

Untuk menerapkan daftar blokir penyelesaian ke filter konten, gunakan perintah cURL berikut:

1. Ganti {subscriptionId} dengan sub ID Anda.
2. Ganti {resourceGroupName} dengan nama grup sumber daya Anda.
3. Ganti {accountName} dengan nama sumber daya Anda.
4. Ganti {raiPolicyName} dengan nama Filter Konten Anda
5. Ganti {token} dengan token yang Anda dapatkan dari langkah "Dapatkan token Anda" di atas.
6. Secara opsional ubah "completionBlocklists" judul menjadi "promptBlocklists" jika Anda ingin daftar blokir diterapkan ke permintaan pengguna alih-alih penyelesaian model AI.
7. Ganti "raiBlocklistName" dalam isi dengan nama kustom untuk daftar Anda. Karakter yang diizinkan: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

Menambahkan blockItems ke daftar

Salin perintah cURL di bawah ini ke editor teks dan buat perubahan berikut:

1. Ganti {subscriptionId} dengan sub ID Anda.
2. Ganti {resourceGroupName} dengan nama grup sumber daya Anda.
3. Ganti {accountName} dengan nama sumber daya Anda.
4. Ganti {raiBlocklistName} (di URL) dengan nama kustom untuk daftar Anda. Karakter yang diizinkan: 0-9, A-Z, a-z, - . _ ~.
5. Ganti {raiBlocklistItemName} dengan nama kustom untuk item daftar Anda.
6. Ganti {token} dengan token yang Anda dapatkan dari langkah "Dapatkan token Anda" di atas.
7. Ganti nilai "blocking pattern" bidang dengan item yang ingin Anda tambahkan ke daftar blokir Anda. Panjang maksimum blockItem adalah 1000 karakter. Tentukan juga apakah pola tersebut regex atau sama persis.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

Kode respons harus 200.

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Menganalisis teks dengan daftar blokir

Sekarang Anda dapat menguji penyebaran yang memiliki daftar blokir. Untuk petunjuk tentang memanggil titik akhir Azure OpenAI, kunjungi Mulai Cepat.

Dalam contoh di bawah ini, penyebaran GPT-35-Turbo dengan daftar blokir memblokir perintah. Respons mengembalikan 400 kesalahan.

{ 
    "error": { 
        "message": "The response was filtered due to the prompt triggering Azure OpenAI’s content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766", 
        "type": null, 
        "param": "prompt", 
        "code": "content_filter", 
        "status": 400, 
        "innererror": { 
            "code": "ResponsibleAIPolicyViolation", 
            "content_filter_result": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "raiBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    } 
} 

Jika penyelesaian itu sendiri diblokir, respons mengembalikan 200, karena penyelesaian hanya dipotong saat konten daftar blokir cocok. Anotasi menunjukkan bahwa item daftar blokir cocok.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Membuat daftar blokir

1. Buka Azure AI Foundry dan navigasikan ke proyek/hub Anda. Lalu pilih halaman Keamanan Safety+ di navigasi kiri dan pilih tab Daftar blokir .

   

2. Pilih Buat daftar blokir. Masukkan nama untuk daftar blokir Anda, tambahkan deskripsi, dan pilih sumber daya Azure OpenAI untuk menyambungkannya. Lalu pilih Buat Daftar Blokir.

3. Pilih daftar blokir baru Anda setelah dibuat. Pada halaman daftar blokir, pilih Tambahkan istilah baru.

4. Masukkan istilah yang harus difilter dan pilih Tambahkan istilah. Anda juga dapat menggunakan regex. Anda dapat menghapus setiap istilah dalam daftar blokir Anda.

Melampirkan daftar blokir ke konfigurasi filter konten

1. Setelah daftar blokir siap, kembali ke halaman Keselamatan+ Keamanan dan pilih tab Filter konten. Buat konfigurasi filter konten baru. Ini membuka wizard dengan beberapa komponen keamanan konten AI.

   

2. Pada layar Filter input dan filter Output, alihkan tombol Daftar blokir aktif. Anda kemudian dapat memilih daftar blokir dari daftar. Ada dua jenis daftar blokir: daftar blokir kustom yang Anda buat, dan daftar blokir bawaan yang disediakan Microsoft—dalam hal ini daftar blokir Kata-kata kocok (Bahasa Inggris).

3. Anda sekarang dapat memutuskan daftar blokir mana yang tersedia yang ingin Anda sertakan dalam konfigurasi pemfilteran konten Anda. Langkah terakhir adalah meninjau dan menyelesaikan konfigurasi pemfilteran konten dengan memilih Berikutnya. Anda selalu dapat kembali dan mengedit konfigurasi Anda. Setelah siap, pilih filter Buat konten. Konfigurasi baru yang menyertakan daftar blokir Anda sekarang dapat diterapkan ke penyebaran.