Aracılığıyla paylaş

Azure Kamu'deki Azure OpenAI Hizmeti ve özellikleri

  • Makale

Bu makalede, ticari bulut teklifiyle karşılaştırıldığında Azure OpenAI'yi Azure Kamu kullanırkenki farklar vurgulanmaktadır. Azure OpenAI Hizmeti belgelerinde Azure OpenAI Hizmeti hakkında daha fazla bilgi edinin.

Azure OpenAI modelleri

Azure OpenAI Hizmeti modellerindeki her modelin farklı özellikleri hakkında daha fazla bilgi edinin. İş Sürekliliği ve Olağanüstü Durum Kurtarma (BCDR) konusunda dikkat edilmesi gerekenler olan müşteriler için dağıtım türlerine, bölgelere ve model kullanılabilirliğine dikkat edin; her iki bölgede de tüm model/tür bileşimleri kullanılamaz.

Aşağıdaki bölümlerde bölgeye ve dağıtım türüne göre model kullanılabilirliği gösterilmektedir. Listelenmeyen modeller ve sürümler şu anda Azure Kamu'da kullanılamaz. Genel sınırlar, kotalar ve diğer ayrıntılar için Bkz. Azure OpenAI Hizmeti kotaları ve sınırları.


Standart dağıtım modeli kullanılabilirliği

Bölge gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106 metin ekleme-3-büyük, 1 metin ekleme-ada-002, 2
usgovarizona ✅ ✅ ✅ ✅ - ✅ ✅
usgovvirginia ✅ - ✅ ✅ ✅ - ✅

Bu modellerde kota artışı istemek için adresinden https://aka.ms/AOAIGovQuotabir istek gönderin. Bu form aracılığıyla izin verilen en yüksek kota sınırlarına dikkat edin:

gpt-4o gpt-4o-mini gpt-4 gpt-35-turbo metin ekleme-3-büyük metin ekleme-ada-002
300 bin 600k 200k 500.000 700 bin 700 bin

Sağlanan dağıtım modeli kullanılabilirliği

Bölge gpt-4o, 2024-05-13 gpt-4o-mini, 2024-07-18 gpt-4, 1106-Preview gpt-35-turbo, 0125 gpt-35-turbo, 1106
usgovarizona ✅ - - ✅ -
usgovvirginia ✅ - - ✅ -

[NOT]

Sağlanan Aktarım Hızı Birimleri (PTU) Azure OpenAI'deki standart kotadan farklıdır ve Azure Kamu'da varsayılan olarak kullanılamaz. Bu teklif hakkında daha fazla bilgi edinmek için Microsoft Hesabı Ekibinize başvurun.


Azure OpenAI özellikleri

Azure Kamu ve ticari buluttaki Azure OpenAI karşılaştırıldığında aşağıdaki özellik farklılıkları vardır.

Özellik Açıklama
Yapılandırılmış Çıkışlar Şu anda desteklenmiyor.
Rezervasyon Tabanlı Satın Almalar Şu anda desteklenmiyor.
Batch Dağıtımları Şu anda desteklenmiyor.
Verilerinizi bağlayın Sanal ağ ve özel bağlantılar desteklenir. Copilot Studio'da bir web uygulamasına veya yardımcı pilota dağıtım desteklenmez.
Kötüye Kullanımı İzleme Kötüye Kullanım İzleme'nin tüm özellikleri Azure Kamu'da Azure OpenAI için etkinleştirilmez. Hizmetin Ürün Koşullarını ihlal eden kullanımını algılamak ve azaltmak için makul teknik ve operasyonel önlemleri uygulamak sizin sorumluluğundadır. Otomatik İçerik Sınıflandırma ve Filtreleme, Azure Kamu için varsayılan olarak etkin kalır. Değiştirilmiş içerik filtreleri gerekiyorsa, https://aka.ms/AOAIGovModifyContentFilter
Veri Depolama Azure Kamu'da şu anda bekleyen müşteri verilerini depolayan etkinleştirilmiş Azure OpenAI özelliği yoktur. Ancak Müşteri Tarafından Yönetilen Anahtarlar (CMK), genel bulutta olduğu gibi Azure Kamu aynı ilkelerin kullanımını desteklemek için Azure Kamu'da da etkinleştirilebilir. Ayrıca, müşteri verilerini depolayan Azure OpenAI özellikleri gelecekte Azure Kamu etkinleştirilirse, bu verilere o anda var olan tüm CMK dağıtımlarının uygulanacağını unutmayın. Daha fazla bilgi için bkz . Azure OpenAI Veri Gizliliği.
Uyumluluk Azure OpenAI uyumluluğunun geçerli durumunu Azure Kamu Services Denetim Kapsamı'nda Azure Kamu görüntüleme
Hizmet Uç Noktaları openai.azure.us
Anahtar Portalları
  • Azure OpenAI Studio - aoai.azure.us
  • Azure portalı - portal.azure.us

Azure Kamu'da sağlanan dağıtımlar

Aşağıdaki kılavuzda, Azure Kamu'de Azure OpenAI Hizmeti kaynağınızla sağlanan bir dağıtım ayarlama adımları gösterilmektedir.

Önkoşullar

  • Azure Kamu aboneliği
  • Azure OpenAI kaynağı
  • Sağlanan dağıtım için onaylanan kota ve taahhüt satın alma

Sağlanan aktarım hızı taahhütlerini yönetme

Azure Kamu'de Azure OpenAI için sağlanan aktarım hızı dağıtımları, Azure OpenAI Studio'da Taahhütleri Yönet görünümünden önceden oluşturulmuş ve yönetilen önceden satın alınan taahhütler gerektirir. Kota bölmesinden Taahhütleri Yönet'i seçerek bu görünüme gidebilirsiniz.

Taahhütleri Yönet görünümünde birkaç şey yapabilirsiniz:

  • Yeni taahhütler satın alın veya mevcut taahhütleri düzenleyin.
  • Aboneliğinizdeki tüm taahhütleri izleyin.
  • Beklenmeyen faturalamaya neden olabilecek taahhütleri belirleyin ve üzerinde işlem yapın.
Ayar Notlar
Kaynak seçin Sağlanan dağıtımı oluşturduğunuz kaynağı seçin. Taahhüdü satın aldıktan sonra, geçerli taahhüdün süresi dolana kadar kotayı başka bir kaynakta kullanamazsınız.
Taahhüt türü seçme Sağlanan'ı seçin. (Sağlanan, Sağlanan Yönetilen ile eşdeğerdir)
Geçerli sağlanmayan kota Şu anda bu kaynağa işlemek için kullanabileceğiniz PTU sayısı.
İşleme miktarı (PTU) Taahhüt ettiğiniz PTU sayısını seçin. Bu sayı taahhüt süresi boyunca artırılabilir, ancak azaltılamaz. Sağlanan taahhüt türü için değerleri 50'lik artışlarla girin.
Geçerli dönem için taahhüt katmanı Taahhüt süresi bir aya ayarlanır.
Yenileme ayarları Geçerli PTU'larda otomatik olarak yenile
Alt PTU'larda otomatik olarak yenile
Otomatik olarak yenilenmeyin

Önemli

Yeni taahhüt, tüm dönem için önceden faturalandırılır. Yenileme ayarları otomatik yenileme olarak ayarlandıysa, yenileme ayarlarına göre her yenileme tarihinde yeniden faturalandırılırsınız.

Önemli

Bir taahhüde PTU eklediğinizde, bunlar geçerli tarihten mevcut taahhüt döneminin sonuna kadar eşit olarak hesaplanan bir tutarla hemen faturalandırılır. PTU'ların eklenmesi taahhüt süresini sıfırlamaz.

Yenileme ayarlarını değiştirme

Taahhüt yenileme ayarları, taahhüdünüzün sona erme tarihinden önce herhangi bir zamanda değiştirilebilir.

Önemli

Bir taahhüdün süresi dolmasına veya kaynak kapsamındaki dağıtımların kaynak taahhüdünde sahip olduğunuzdan daha fazla PTU gerektirmesine izin verirseniz, fazla PSU'lar için saatlik fazla kullanım ücretleri alırsınız. Örneğin, toplam 500 PTU içeren dağıtımlara ve 300 ASU taahhüdüne sahip bir kaynak, 200 PTU için saatlik fazla kullanım ücretleri oluşturur.

Ortak taahhüt yönetimi senaryoları

Sağlanan aktarım hızının kullanımını sona erdirin

Sağlanan aktarım hızının kullanımını sonlandırmak ve taahhüt süresi dolduktan sonra saatlik fazla kullanım ücretlerini önlemek için iki adım atılmalıdır:

  1. Tüm taahhütlerde yenileme ilkesini Otomatik yenileme yapma olarak ayarlayın.
  2. Kotayı kullanarak sağlanan dağıtımları silin.

Taahhüdü/dağıtımı aynı abonelikte/bölgede yeni bir kaynağa taşıma

Azure OpenAI Studio'da dağıtımı veya taahhüdü doğrudan yeni bir kaynağa taşımak mümkün değildir. Bunun yerine, hedef kaynakta yeni bir dağıtım oluşturulması ve trafiğin bu kaynağa taşınması gerekir. Bu işlem, yeni kaynakta yeni bir taahhüt satın alma işlemi gerektirir. Taahhütler 30 günlük bir süre için önceden ücretlendirildiğinden, çakışma sırasında yeni taahhütle çakışmayı ve "çift faturalamayı" en aza indirmek için bu taşımayı özgün taahhüdün süresi dolmasıyla zamanlayın.

Bu geçişi uygulamak için kullanılabilecek iki yaklaşım vardır.

Seçenek 1: Çakışma Yok Geçiş

Bu seçenek biraz kapalı kalma süresi gerektirir, ancak fazladan kota gerektirmez ve ek maliyet oluşturmaz.

Adımlar Notlar
Mevcut taahhüdün süresi dolmak üzere yenileme ilkesini ayarlama Bu eylem taahhüdün yenilenmesini ve ek ücretler oluşturmasını engeller
Mevcut taahhüdün süresi dolmadan önce dağıtımını silin Kapalı kalma süresi bu noktada başlar ve yeni dağıtım oluşturulup trafik taşınana kadar sürer. Silme işleminin son kullanma tarihine/saatine mümkün olduğunca yakın olması için zamanlayarak süreyi en aza indirebilirsiniz.
Mevcut taahhüdün süresi dolduktan sonra yeni kaynakta taahhüdü oluşturun Bu adımı ve süre sonundan sonraki adımı mümkün olan en kısa sürede yürüterek kapalı kalma süresini en aza indirin.
Yeni kaynakta dağıtımı oluşturma ve trafiği bu kaynağa taşıma

2. Seçenek: Çakışan Geçiş

Bu seçeneğin hem mevcut hem de yeni dağıtımların aynı anda canlı olmasını sağlayarak kapalı kalma süresi yoktur. Bu yöntem ayrıca yeni dağıtımı oluşturmak için kullanılabilir kotaya sahip olmayı gerektirir ve çakışan dağıtımlar sırasında ek maliyetler oluşturur.

Adımlar Notlar
Mevcut taahhüdün süresi dolmak üzere yenileme ilkesini ayarlama Bunu yapmak taahhüdün yenilenmesini ve daha fazla ücret oluşturulmasını engeller.
Mevcut taahhüdün süresi dolmadan önce:
1. Yeni kaynakta taahhüdü oluşturun.
2. Yeni dağıtımı oluşturun.
3. Trafiği değiştirme
4. Mevcut dağıtımı silme		 Mevcut taahhüdün süresi dolmadan önce tüm adımlar için yeterli süre bıraktığınıza emin olun; aksi takdirde seçenekler için fazla kullanım ücretleri oluşturulur (sonraki bölüme bakın).