مشاركة عبر

نشر نماذج للاستدلال الدفعي والتنبؤ

  • مقالة

توضح هذه المقالة ما توصي به Databricks للاستدلال على الدفعات والتدفق.

للحصول على نموذج في الوقت الحقيقي يخدم على Azure Databricks، راجع خدمة النموذج مع Azure Databricks.

استخدام ai_query للاستدلال الدفعي

هام

هذه الميزة في المعاينة العامة.

توصي Databricks باستخدام ai_query مع خدمة النموذج للاستدلال الدفعي. ai_query هي دالة Databricks SQL مضمنة تسمح لك بالاستعلام عن نموذج موجود يخدم نقاط النهاية باستخدام SQL. تم التحقق منه لمعالجة مجموعات البيانات بشكل موثوق ومتناسق في نطاق مليارات الرموز المميزة. راجع الدالة ai_query للحصول على مزيد من التفاصيل حول هذه الدالة الذكاء الاصطناعي.

للتجريب السريع، ai_query يمكن استخدامه مع نقاط نهاية الدفع لكل رمز مميز نظرا لأن نقاط النهاية هذه تم تكوينها مسبقا على مساحة العمل الخاصة بك.

عندما تكون مستعدا لتشغيل الاستدلال الدفعي على البيانات الكبيرة أو بيانات الإنتاج، توصي Databricks باستخدام نقاط نهاية معدل النقل المتوفرة لأداء أسرع. راجع واجهات برمجة تطبيقات نموذج أساس معدل النقل المتوفر لإنشاء نقطة نهاية معدل النقل المقدمة.