استكشاف المخاطر التي تتعرض لها البيانات الاصطناعية الذكاء الاصطناعي التوليدية قبل التوزيع
تساعدك خطة Defender Cloud Security Posture Management (CSPM) في Microsoft Defender for Cloud على تحسين الوضع الأمني لتطبيقات الذكاء الاصطناعي التوليدية، من خلال تحديد الثغرات الأمنية في مكتبات الذكاء الاصطناعي التوليدية الموجودة في البيانات الاصطناعية الذكاء الاصطناعي مثل صور الحاوية ومستودعات التعليمات البرمجية. توضح هذه المقالة كيفية استكشاف المخاطر الأمنية لتلك التطبيقات وتحديدها.
المتطلبات الأساسية
اقرأ عن إدارة وضع الأمان الذكاء الاصطناعي.
تعرف على المزيد حول التحقيق في المخاطر باستخدام مستكشف أمان السحابة ومسارات الهجوم.
تحتاج إلى اشتراك Microsoft Azure. إذا لم يكن لديك اشتراك Azure، يمكنك التسجيل للحصول على اشتراك مجاني.
تمكين Defender for Cloud على اشتراك Azure الخاص بك.
تمكين Defender Cloud Security Posture Management (CSPM) على اشتراك Azure الخاص بك.
لديك مورد Azure OpenAI واحد على الأقل، مع توزيع نموذج واحد على الأقل متصل به عبر مدخل Azure الذكاء الاصطناعي Foundry.
تحديد الحاويات التي تعمل على صور حاوية الذكاء الاصطناعي التوليدية الضعيفة
يمكن استخدام مستكشف أمان السحابة لتحديد الحاويات التي تقوم بتشغيل صور حاوية الذكاء الاصطناعي إنشاء مع نقاط ضعف معروفة.
قم بتسجيل الدخول إلى بوابة Azure.
ابحث عن Microsoft Defender for Cloud>Security Explorer وحدده.
حدد Container running container images with known Generative الذكاء الاصطناعي قالب استعلام الثغرات الأمنية.
حدد بحث.
حدد نتيجة لمراجعة تفاصيلها.
حدد عقدة لمراجعة النتائج.
في قسم نتائج التحليلات، حدد معرف CVE من القائمة المنسدلة.
حدد فتح صفحة الثغرة الأمنية.
تحديد مستودعات التعليمات البرمجية الذكاء الاصطناعي التوليدية الضعيفة
يمكن استخدام مستكشف أمان السحابة لتحديد مستودعات التعليمات البرمجية الذكاء الاصطناعي التوليدية الضعيفة، التي توفر Azure OpenAI.
قم بتسجيل الدخول إلى بوابة Azure.
ابحث عن Microsoft Defender for Cloud>Security Explorer وحدده.
حدد الذكاء الاصطناعي إنشاء مستودعات التعليمات البرمجية الضعيفة التي توفر قالب استعلام Azure OpenAI .
حدد بحث.
حدد نتيجة لمراجعة تفاصيلها.
حدد عقدة لمراجعة النتائج.
في قسم نتائج التحليلات، حدد معرف CVE من القائمة المنسدلة.
حدد فتح صفحة الثغرة الأمنية.
