Azure OpenAI ile blok listesi kullanma

Azure OpenAI API'siyle blok listeleri oluşturabilirsiniz. Aşağıdaki adımlar kullanmaya başlamanıza yardımcı olur.

Belirtecinizi alma

İlk olarak, blok listelerini oluşturmak, düzenlemek ve silmek için API'lere erişmek için bir belirteç almanız gerekir. Aşağıdaki Azure CLI komutunu kullanarak bu belirteci alabilirsiniz:

az account get-access-token 

Blok listesi oluşturma veya değiştirme

Aşağıdaki cURL komutunu bir metin düzenleyicisine kopyalayın ve aşağıdaki değişiklikleri yapın:

1. {subscriptionId} öğesini abonelik kimliğiniz ile değiştirin.
2. {resourceGroupName} öğesini kaynak grubu adınızla değiştirin.
3. {accountName} öğesini kaynak adınız ile değiştirin.
4. {raiBlocklistName} öğesini (URL'de) listenize özel bir adla değiştirin. İzin verilen karakterler: 0-9, A-Z, a-z, - . _ ~.
5. {token} değerini yukarıdaki "Belirtecinizi alın" adımından aldığınız belirteçle değiştirin.
6. İsteğe bağlı olarak , "description" alanının değerini özel bir açıklamayla değiştirin.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

Yanıt kodu (yeni bir liste oluşturulmalıdır) veya 200 (var olan bir liste güncelleştirildi) olmalıdır 201 .

İçerik filtresine blok listesi uygulama

Henüz bir içerik filtresi oluşturmadıysanız bunu Azure AI Foundry'de yapabilirsiniz. Bkz. İçerik filtreleme.

İçerik filtresine tamamlama blok listesi uygulamak için aşağıdaki cURL komutunu kullanın:

1. {subscriptionId} öğesini alt kimliğiniz ile değiştirin.
2. {resourceGroupName} öğesini kaynak grubu adınızla değiştirin.
3. {accountName} öğesini kaynak adınız ile değiştirin.
4. {raiPolicyName} öğesini İçerik Filtrenizin adıyla değiştirin
5. {token} değerini yukarıdaki "Belirtecinizi alın" adımından aldığınız belirteçle değiştirin.
6. Blok listesinin "completionBlocklists" yapay zeka modeli tamamlamaları yerine kullanıcı istemlerine uygulanmasını istiyorsanız başlığı "promptBlocklists" isteğe bağlı olarak olarak değiştirin.
7. gövdedeki öğesini listenize özel bir adla değiştirin "raiBlocklistName" . İzin verilen karakterler: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

Listeye blockItems ekleme

Aşağıdaki cURL komutunu bir metin düzenleyicisine kopyalayın ve aşağıdaki değişiklikleri yapın:

1. {subscriptionId} öğesini alt kimliğiniz ile değiştirin.
2. {resourceGroupName} öğesini kaynak grubu adınızla değiştirin.
3. {accountName} öğesini kaynak adınız ile değiştirin.
4. {raiBlocklistName} öğesini (URL'de) listenize özel bir adla değiştirin. İzin verilen karakterler: 0-9, A-Z, a-z, - . _ ~.
5. {raiBlocklistItemName} öğesini liste öğeniz için özel bir adla değiştirin.
6. {token} değerini yukarıdaki "Belirtecinizi alın" adımından aldığınız belirteçle değiştirin.
7. alanının değerini "blocking pattern" , blok listenize eklemek istediğiniz öğeyle değiştirin. BlockItem'ın uzunluk üst sınırı 1000 karakterdir. Ayrıca desenin regex mi yoksa tam eşleşme mi olduğunu belirtin.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

Yanıt kodu olmalıdır 200.

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Blok listesiyle metni analiz etme

Artık blok listesine sahip dağıtımınızı test edebilirsiniz. Azure OpenAI uç noktalarını çağırma yönergeleri için Hızlı Başlangıç'ı ziyaret edin.

Aşağıdaki örnekte, blok listesi olan bir GPT-35-Turbo dağıtımı istemi engelliyor. Yanıt bir 400 hata döndürür.

{ 
    "error": { 
        "message": "The response was filtered due to the prompt triggering Azure OpenAI’s content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766", 
        "type": null, 
        "param": "prompt", 
        "code": "content_filter", 
        "status": 400, 
        "innererror": { 
            "code": "ResponsibleAIPolicyViolation", 
            "content_filter_result": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "raiBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    } 
} 

Tamamlamanın kendisi engellenirse, tamamlama yalnızca blok listesi içeriği eşleştirildiğinde kesildiğinden yanıt döndürür 200. Ek açıklamalar, bir blok listesi öğesinin eşleştirildiğini gösterir.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Blok listesi oluşturma

1. Azure AI Foundry'ye gidin ve projenize/hub'ınıza gidin. Ardından sol gezinti bölmesinden Safety+ Security sayfasını ve ardından Engelleme Listeleri sekmesini seçin.

   

2. Blok listesi oluştur'u seçin. Blok listeniz için bir ad girin, bir açıklama ekleyin ve bağlanmak için bir Azure OpenAI kaynağı seçin. Ardından Blok Listesi Oluştur'u seçin.

3. Oluşturulduktan sonra yeni blok listenizi seçin. Blok listesinin sayfasında Yeni terim ekle'yi seçin.

4. Filtrelenmesi gereken terimi girin ve Terim ekle'yi seçin. Ayrıca bir regex de kullanabilirsiniz. Blok listenizdeki her terimi silebilirsiniz.

İçerik filtresi yapılandırmasına blok listesi ekleme

1. Blok listesi hazır olduktan sonra Safety+ Security sayfasına dönün ve İçerik filtreleri sekmesini seçin. Yeni bir içerik filtresi yapılandırması oluşturun. Bu işlem, çeşitli yapay zeka içerik güvenliği bileşenlerine sahip bir sihirbaz açar.

   

2. Giriş filtresi ve Çıkış filtresi ekranlarında Engelle listesi düğmesini açın. Ardından listeden bir blok listesi seçebilirsiniz. İki tür blok listesi vardır: oluşturduğunuz özel blok listeleri ve Microsoft'un sağladığı önceden oluşturulmuş blok listeleri; bu örnekte küfür engelleme listesi (İngilizce).

3. Artık içerik filtreleme yapılandırmanıza hangi blok listelerini eklemek istediğinize karar vekleyebilirsiniz. Son adım, İleri'yi seçerek içerik filtreleme yapılandırmasını gözden geçirmek ve tamamlamaktır. İstediğiniz zaman geri dönüp yapılandırmanızı düzenleyebilirsiniz. Hazır olduktan sonra İçerik oluştur filtresini seçin. Blok listelerinizi içeren yeni yapılandırma artık bir dağıtıma uygulanabilir.