بوابة الذكاء الاصطناعي الفسيفساء
توضح هذه المقالة بوابة الذكاء الاصطناعي الفسيفساء، حل Databricks لإدارة ومراقبة الوصول إلى نماذج الذكاء الاصطناعي التوليدية المدعومة والنموذج المرتبط بها الذي يخدم نقاط النهاية.
ما هي بوابة الذكاء الاصطناعي الفسيفساء؟
تم تصميم الذكاء الاصطناعي Gateway لتبسيط استخدام وإدارة نماذج الذكاء الاصطناعي التوليدية داخل المؤسسة. إنها خدمة مركزية تجلب الحوكمة والمراقبة والاستعداد للإنتاج لنمذجة نقاط النهاية التي تخدم. كما يسمح لك بتشغيل نسبة استخدام الشبكة الذكاء الاصطناعي وتأمينها والتحكم فيها لإضفاء الطابع الديمقراطي على اعتماد الذكاء الاصطناعي لمؤسستك وتسريعه.
يتم تسجيل جميع البيانات في جداول Delta في كتالوج Unity.
لبدء تصور الرؤى من بيانات بوابة الذكاء الاصطناعي، نزل مثال الذكاء الاصطناعي Gateway dashboard من GitHub. تستفيد لوحة المعلومات هذه من البيانات من جداول استدلال تتبع الاستخدام وتسجيل الحمولة.
بعد تنزيل ملف JSON، قم باستيراد لوحة المعلومات إلى مساحة العمل الخاصة بك. للحصول على إرشادات حول استيراد لوحات المعلومات، راجع استيراد ملف لوحة معلومات.
تدعم الذكاء الاصطناعي Gateway الميزات التالية:
- تحديد الأذونات والمعدلات للتحكم في من لديه حق الوصول ومقدار الوصول.
- تسجيل الحمولة لمراقبة البيانات المرسلة إلى واجهات برمجة التطبيقات النموذجية وتدقدقها باستخدام جداول الاستدلال.
- تتبع الاستخدام لمراقبة الاستخدام التشغيلي على نقاط النهاية والتكاليف المرتبطة باستخدام جداول النظام.
- الذكاء الاصطناعي حواجز الحماية لمنع البيانات غير المرغوب فيها والبيانات غير الآمنة في الطلبات والاستجابات.
- توجيه نسبة استخدام الشبكة لتقليل انقطاع الإنتاج أثناء التوزيع وبعده.
تتحمل الفسيفساء الذكاء الاصطناعي Gateway رسوما على أساس ميزة ممكنة. أثناء المعاينة، تتضمن هذه الميزات المدفوعة الذكاء الاصطناعي حواجز الحماية وتسجيل الحمولة وتتبع الاستخدام. ميزات مثل أذونات الاستعلام وتحديد المعدل وتوجيه نسبة استخدام الشبكة مجانية. تخضع أي ميزات جديدة للشحن.
يعكس الجدول التالي معدل الرموز المميزة لوحدات Databricks (DBUs) لكل مليون (M) لميزات بوابة الذكاء الاصطناعي المدفوعة. يتم سرد الرسوم ضمن Serverless Real-time Inference SKU.
| ميزة | معدل DBU |
|---|---|
| الذكاء الاصطناعي حواجز حماية | 21.429 وحدات DBUs لكل رموز M المميزة |
| تسجيل الحمولة | 2.857 وحدات DBUs لكل رموز M المميزة |
| تعقب الاستخدام | 0.571 وحدات DBUs لكل رموز M المميزة |
الذكاء الاصطناعي حواجز حماية
تسمح الذكاء الاصطناعي حواجز الحماية للمستخدمين بتكوين الامتثال للبيانات وفرضها على مستوى نقطة النهاية الذي يخدم النموذج وتقليل المحتوى الضار على أي طلبات يتم إرسالها إلى النموذج الأساسي. يتم حظر الطلبات والاستجابات غير الصالحة ويتم إرجاع رسالة افتراضية إلى المستخدم. تعرف على كيفية تكوين حواجز الحماية على نقطة نهاية خدمة نموذج.
هام
تتوفر الذكاء الاصطناعي حواجز الحماية فقط في المناطق التي تدعم واجهات برمجة تطبيقات نموذج المؤسسة التي تدفع لكل رمز مميز.
يلخص الجدول التالي حواجز الحماية القابلة للتكوين.
| درابزين حماية | التعريف |
|---|---|
| تصفية الأمان | تمنع تصفية الأمان نموذجك من التفاعل مع المحتوى غير الآمن والضار، مثل الجريمة العنيفة وإيذاء النفس وخطاب الكراهية. الذكاء الاصطناعي تم إنشاء عامل تصفية أمان البوابة باستخدام Meta Llama 3. يستخدم Databricks Llama Guard 2-8b كعامل تصفية أمان. لمعرفة المزيد حول عامل تصفية أمان Llama Guard والموضوعات التي تنطبق على عامل تصفية الأمان، راجع بطاقة نموذج Meta Llama Guard 2 8B. تم ترخيص Meta Llama 3 بموجب ترخيص مجتمع LLAMA 3، ومنصة Meta Copyright ©، Inc. كافة الحقوق محفوظة. يتحمل العملاء مسؤولية ضمان الامتثال لتراخيص النموذج المعمول بها. |
| الكشف عن معلومات تعريف المستخدم (PII) | يمكن للعملاء الكشف عن أي معلومات حساسة مثل الأسماء والعناوين وأرقام بطاقات الائتمان للمستخدمين. بالنسبة لهذه الميزة، تستخدم الذكاء الاصطناعي Gateway برنامج Presidio للكشف عن الفئات الأمريكية التالية من PII: أرقام بطاقات الائتمان وعناوين البريد الإلكتروني وأرقام الهواتف وأرقام الحسابات المصرفية وأرقام الضمان الاجتماعي. يمكن أن يساعد مصنف PII في تحديد المعلومات الحساسة أو PII في البيانات المنظمة وغير المنظمة. ومع ذلك، لأنه يستخدم آليات الكشف التلقائي، لا يوجد ضمان بأن الخدمة سوف تجد جميع المعلومات الحساسة. وبالتالي، ينبغي استخدام نظم وحماية إضافية. يتم تحديد نطاق أساليب التصنيف هذه بشكل أساسي لفئات PII الأمريكية، مثل أرقام الهواتف الأمريكية وأرقام الضمان الاجتماعي. |
| الإشراف على الموضوع | القدرة على سرد مجموعة من الموضوعات المسموح بها. بالنظر إلى طلب الدردشة، يقوم هذا الحماية بوضع علامة على الطلب إذا لم يكن موضوعه في الموضوعات المسموح بها. |
| تصفية الكلمات الأساسية | يمكن للعملاء تحديد مجموعات مختلفة من الكلمات الأساسية غير الصالحة لكل من الإدخال والإخراج. إحدى حالات الاستخدام المحتملة لتصفية الكلمات الأساسية هي أن النموذج لا يتحدث عن المنافسين. تستخدم ميزة الحماية هذه الكلمة الأساسية أو مطابقة السلسلة لتحديد ما إذا كانت الكلمة الأساسية موجودة في محتوى الطلب أو الاستجابة. |
استخدام بوابة الذكاء الاصطناعي
يمكنك تكوين ميزات الذكاء الاصطناعي Gateway على نقاط نهاية خدمة النموذج الخاص بك باستخدام واجهة مستخدم العرض. راجع تكوين بوابة الذكاء الاصطناعي على نقاط نهاية خدمة النموذج.
القيود
فيما يلي قيود أثناء المعاينة:
- يتم دعم الذكاء الاصطناعي Gateway فقط لنقاط نهاية خدمة النموذج التي تخدم النماذج الخارجية.
- عند استخدام حواجز الحماية، لا يمكن أن يتجاوز حجم دفعة الطلب، وهو حجم دفعة تضمين، أو حجم دفعة الإكمال، أو
nمعلمة طلبات الدردشة، 16.