Rövid útmutató: Azure AI Content Safety Studio
Ez a cikk bemutatja, hogyan kezdheti meg az Azure AI Content Safety szolgáltatás használatát a Content Safety Studióval a böngészőben.
Figyelemfelhívás
A Content Safety Studio által biztosított mintatartalmak némelyike sértő lehet. A mintaképek alapértelmezés szerint elmosódnak. A felhasználó belátása ajánlott.
Előfeltételek
- Egy Azure-fiók. Ha még nem rendelkezik fiókkal, ingyen létrehozhat egyet.
- Egy Content Safety Azure-erőforrás.
- Rendelje hozzá a Cognitive Services felhasználói szerepkörét a fiókjához. Lépjen az Azure Portalra, keresse meg a Content Safety-erőforrást vagy az Azure AI Services-erőforrást, és válassza a Hozzáférés-vezérlés lehetőséget a bal oldali navigációs sávon, majd válassza a + Szerepkör-hozzárendelés hozzáadása lehetőséget, válassza ki a Cognitive Services-felhasználó szerepkört, és válassza ki a fiók azon tagját, amelyhez hozzá kell rendelnie ezt a szerepkört, majd tekintse át és rendelje hozzá. A hozzárendelés érvénybe lépése eltarthat néhány percig.
- Jelentkezzen be a Content Safety Studióba az Azure-előfizetésével és a Content Safety-erőforrással.
Fontos
A Cognitive Services felhasználói szerepkörét hozzá kell rendelnie az Azure-fiókjához a stúdióélmény használatához. Lépjen az Azure Portalra, keresse meg a Content Safety-erőforrást vagy az Azure AI Services-erőforrást, és válassza a Hozzáférés-vezérlés lehetőséget a bal oldali navigációs sávon, majd válassza a + Szerepkör-hozzárendelés hozzáadása lehetőséget, válassza ki a Cognitive Services-felhasználó szerepkört, és válassza ki a fiók azon tagját, amelyhez hozzá kell rendelnie ezt a szerepkört, majd tekintse át és rendelje hozzá. A hozzárendelés érvénybe lépése eltarthat néhány percig.
Szöveges tartalmak elemzése
A Moderált szövegtartalom lap lehetővé teszi a szövegmoderálás gyors kipróbálását.
- Válassza a Közepes szövegtartalom panelt.
- Adjon hozzá szöveget a beviteli mezőhöz, vagy jelöljön ki mintaszöveget a lap paneljeiből.
Tipp.
Szövegméret és részletesség: Lásd a szöveghossz maximális korlátozására vonatkozó bemeneti követelményeket .
- Válassza a Teszt futtatása lehetőséget.
A szolgáltatás az észlelt összes kategóriát visszaadja, a súlyossági szint pedig az egyes kategóriákhoz tartozik: 0-Safe, 2-Low, 4-Medium, 6-High. A megadott szűrők alapján egy bináris elfogadott elutasított/ eredményt is ad vissza. A Szűrők konfigurálása lapon található mátrix segítségével állíthatja be az egyes kategóriák megengedett/tiltott súlyossági szintjeit. Ezután ismét futtathatja a szöveget a szűrő működésének megtekintéséhez.
A Blokklista használata lapon blokklistát hozhat létre, szerkeszthet és vehet fel a moderálási munkafolyamatba. Ha a teszt futtatásakor engedélyezve van egy tiltólista, az Eredmények csoportban kap egy blocklistészlelési panelt. Minden egyezést jelent a tiltólistával.
Felhasználói bemeneti támadások észlelése
A Prompt Shields panelen kipróbálhatja a felhasználói beviteli kockázatok észlelését. Észleli a Generatív AI-modellnek a rendszerüzenetben beállított szabályok elkerülésére vagy megszegésére betanított viselkedések bemutatására szolgáló felhasználói kéréseket. Ezek a támadások a bonyolult szerepjátéktól a biztonsági célkitűzés finom felforgatóig változhatnak.
- Válassza a Prompt Shields panelt.
- Jelöljön ki egy mintaszöveget a lapon, vagy adja meg a saját tartalmát teszteléshez. CsV-fájlt is feltölthet kötegelt teszteléshez.
- Válassza a Teszt futtatása lehetőséget.
A szolgáltatás minden minta kockázati jelzőt és típust ad vissza.
További információkért tekintse meg a Prompt Shields fogalmi útmutatóját.
Képtartalmak elemzése
A Mérsékelt képtartalom lap lehetővé teszi a képmoderálás gyors kipróbálását.
- Válassza a Közepes képtartalom panelt.
- Válasszon egy mintaképet a lap paneljeiből, vagy töltse fel saját képét. A képbeküldések maximális mérete 4 MB, a képméreteknek pedig 50 x 50 képpont és 2048 x 2048 képpont között kell lenniük. A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
- Válassza a Teszt futtatása lehetőséget.
A szolgáltatás az észlelt összes kategóriát visszaadja, a súlyossági szint pedig az egyes kategóriákhoz tartozik: 0-Safe, 2-Low, 4-Medium, 6-High. A megadott szűrők alapján egy bináris elfogadott elutasított/ eredményt is ad vissza. A jobb oldali Szűrők konfigurálása lapon található mátrix segítségével beállíthatja az egyes kategóriák megengedett/tiltott súlyossági szintjeit. Ezután ismét futtathatja a szöveget a szűrő működésének megtekintéséhez.
Kód megtekintése és exportálása
A Kód megtekintése funkció a szöveges tartalom elemzése vagy a képtartalom elemzése lapon használható a mintakód megtekintéséhez és másolásához, amely a súlyossági szűrés, a tiltólisták és a moderálási függvények konfigurációját is magában foglalja. Ezután üzembe helyezheti a kódot a végén.
Online tevékenység figyelése
Az online tevékenység figyelése panelen megtekintheti az API-használatot és a trendeket.
Kiválaszthatja, hogy melyik médiatípust szeretné figyelni. Megadhatja azt az időtartományt is, amelyet ellenőrizni szeretne, ha az utolsó __adatainak megjelenítése lehetőséget választja.
A kategóriadiagramonkénti elutasítási arányban az egyes kategóriák súlyossági küszöbértékeit is módosíthatja.
A tiltólistákat akkor is szerkesztheti, ha módosítani szeretne bizonyos kifejezéseket a top 10 letiltott kifejezésdiagram alapján.
Az erőforrás kezelése
Az erőforrás részleteinek, például a névnek és a tarifacsomagnak a megtekintéséhez válassza a Beállítások ikont a Content Safety Studio kezdőlapjának jobb felső sarkában, és válassza az Erőforrás lapot. Ha más erőforrásokkal is rendelkezik, itt is válthat erőforrásokat.
Az erőforrások eltávolítása
Ha törölni és eltávolítani szeretne egy Azure AI-szolgáltatási erőforrást, törölheti az erőforrást vagy az erőforráscsoportot. Az erőforráscsoport törlése a hozzá társított egyéb erőforrásokat is törli.
Következő lépés
Ezután kezdje el használni az Azure AI Content Safetyet a REST API-k vagy az ügyféloldali SDK használatával, hogy zökkenőmentesen integrálhassa a szolgáltatást az alkalmazásba.