ملخص
في هذه الوحدة النمطية، قمنا بتغطية كيفية استخدام Azure OpenAI مع Azure API Management. من خلال الجمع بين هذه الخدمات، يمكنك إدارة الوصول إلى نماذج الذكاء الاصطناعي وتأمينه.
أولا، ناقشنا مشكلة موازنة التحميل وكيف يمكن أن تساعدك إدارة واجهة برمجة تطبيقات Azure في إدارة نسبة استخدام الشبكة وضمان توزيع الحمل بالتساوي عبر الواجهات الخلفية. كما بحثنا في قاطعات الدوائر وكيف يمكن أن تساعد في توجيه حركة المرور بعيدا عن الخلفيات غير السليمة.
بعد ذلك، ناقشنا تحديد المعدل المستند إلى الرمز المميز وكيف يمكنك استخدامه للتحكم في الوصول إلى واجهات برمجة التطبيقات الخاصة بك. كان التعلم المهم هو تجنب الاستهلاك المفرط وما يسمى ب "الجيران المزعجين" عن طريق وضع حدود لاستهلاك الرمز المميز.
وأخيرا، ناقشنا كيف يمكنك مراقبة وتحليل أنماط استخدام الرمز المميز باستخدام Azure OpenAI Emit Token Metric Policy. من خلال توفير مقاييس شاملة، يمكنك تحسين تخصيص الموارد، وتحسين صنع القرار، وتحسين مراقبة الأداء.
الخطوات التالية
فيما يلي خطواتنا التالية الموصى بها:
- نموذج APIM + Azure OpenAI
- الهوية المدارة في APIM
- نهج حد الرمز المميز لنهج -قياس الرمز المميز
- واجهة APIM الخلفية
- وثائق إدارة واجهات برمجة تطبيقات Azure
- وثائق Azure OpenAI
- أسعار واجهة برمجة تطبيقات Azure