Azure yapay zeka modeli çıkarımı nedir?
Azure yapay zeka modeli çıkarımı, Azure yapay zeka modeli kataloğunda bulunan en güçlü modellere erişim sağlar. Modeller OpenAI, Microsoft, Meta, Mistral, Cohere, G42 ve AI21 Labs gibi sektördeki önemli model sağlayıcılarından gelir. Bu modeller içerik oluşturma, özetleme, görüntü anlama, anlamsal arama ve kod oluşturma gibi çok çeşitli görevler sunmak için yazılım çözümleriyle tümleştirilebilir.
İpucu
Azure yapay zeka modeli çıkarımında DeepSeek-R1 veya OpenAI o3-mini'yi dağıtmak için Model ekleme ve yapılandırma adımlarını izleyin.
Azure AI modeli çıkarımı, modelleri altyapınızda barındırmadan API olarak kullanmanın bir yolunu sağlar. Modeller, model sağlayıcısının modeline API tabanlı erişim sağlayan Microsoft tarafından yönetilen bir altyapıda barındırılır. API tabanlı erişim, modele erişim maliyetini önemli ölçüde azaltabilir ve sağlama deneyimini basitleştirebilir.
Azure yapay zeka modeli çıkarımı, Azure AI Hizmetleri'nin bir parçasıdır ve kullanıcılar HIZMETE REST API'leri, Python, C#, JavaScript ve Java gibi çeşitli dillerdeki SDK'lar aracılığıyla erişebilir. Bağlantı yapılandırarak Azure AI Foundry'den Azure AI modeli çıkarımını da kullanabilirsiniz.
Modeller
OpenAI, Microsoft, Meta, Mistral, Cohere, G42 ve AI21 Labs gibi sektördeki önemli model sağlayıcılarına erişebilirsiniz. Model sağlayıcıları lisans koşullarını tanımlar ve modellerinin kullanım fiyatını belirler. Aşağıdaki listede kullanılabilir tüm modeller gösterilmektedir:
Dil, türler ve özellikler de dahil olmak üzere her modelin ayrıntılarını görmek için Modeller makalesine bakın.
| Provider | Modeller |
|---|---|
| AI21 Labs | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o3-mini - o1 - gpt-4o - o1-önizleme - o1-mini - gpt-4o-mini - metin ekleme-3-büyük - metin ekleme-3-küçük |
| Birbirini tutmak | - Cohere-embed-v3-english - Cohere-embed-v3-multilingual - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-command-r-plus - Cohere-command-r |
| Core42 | - jais-30b-chat |
| DeepSeek | - DeepSeek-R1 |
| Meta | - Lama-3.3-70B-Instruct - Lama-3.2-11B-Vision-Instruct - Lama-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruct - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruct - Phi-4 |
| Mistral AI | - Ministral-3B - Mistral-large - Mistral-small - Mistral-Nemo - Mistral-large-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT Verileri | - Tsuzumi-7b |
Fiyatlandırma
Microsoft dışı sağlayıcılardan (örneğin, Meta AI ve Mistral modelleri) modeller için faturalama Azure Market üzerinden yapılır. Bu tür modeller için, Microsoft Ticari Market Kullanım Koşulları'na uygun olarak belirli bir model teklifine abone olmanız gerekir. Kullanıcılar, modellerin kullanımı için lisans koşullarını kabul edebilir. Tüketim için fiyatlandırma bilgileri dağıtım sırasında sağlanır.
Microsoft modelleri (örneğin, Phi-3 modelleri ve Azure OpenAI modelleri) için faturalama, Birinci Taraf Tüketim Hizmetleri olarak Azure ölçümleri üzerinden yapılır. Ürün Koşulları'nda açıklandığı gibi, Birinci Taraf Tüketim Hizmetleri'ni Azure ölçümlerini kullanarak satın alırsınız, ancak Bunlar Azure hizmet koşullarına tabi değildir.
İpucu
Azure yapay zeka modeli çıkarımında maliyeti izlemeyi ve yönetmeyi öğrenin.
Sorumlu AI
Microsoft olarak, insanları ilk sırada barındıran ilkeler doğrultusunda yapay zekanın ilerletildiğini taahhüt ediyoruz. Azure yapay zeka modellerinde sunulan modeller gibi üretken modellerin önemli potansiyel avantajları vardır, ancak dikkatli tasarım ve düşünceli azaltmalar olmadan, bu tür modeller yanlış ve hatta zararlı içerik oluşturma potansiyeline sahiptir.
Microsoft, aşağıdaki eylemleri gerçekleştirerek uygunsuz kullanım ve istenmeyen zararlara karşı korunmaya yardımcı olur:
- Microsoft'un sorumlu yapay zeka kullanımına yönelik ilkelerini birleştirme
- Hizmetin kullanımı için bir kullanım kuralları benimseme
- Müşterileri desteklemek için içerik filtreleri oluşturma
- Müşterilerin Azure OpenAI kullanırken dikkate alması gereken sorumlu yapay zeka bilgileri ve rehberlik sağlama.
Başlarken
Azure yapay zeka modeli çıkarımı, Azure AI Services kaynaklarında sunulan yeni bir özellik teklifidir. Azure Aboneliğinizde Azure yapay zeka modeli çıkarımı veya hizmet örneği için kaynağınızı oluşturup yapılandırdığınız diğer Tüm Azure ürünlerinde olduğu gibi kullanmaya başlayabilirsiniz. Gerektiği kadar kaynak oluşturabilir ve farklı gereksinimleri olan birden çok ekibiniz olması durumunda bunları bağımsız olarak yapılandırabilirsiniz.
Azure AI Services kaynağı oluşturduktan sonra, API çağrıları yapmaya başlamadan önce bir model dağıtmanız gerekir. Varsayılan olarak, bu modelde model yoktur, bu nedenle hangi modellerden başlayacağınızı denetleyebilirsiniz. Azure AI model çıkarımında ilk model dağıtımınızı oluşturma öğreticisine bakın.