az ml online-endpoint
Nota
Referensi ini adalah bagian dari ekstensi ml
Mengelola titik akhir online Azure ML.
Titik akhir Azure ML menyediakan antarmuka sederhana untuk membuat dan mengelola penyebaran model. Setiap titik akhir dapat memiliki satu atau beberapa penyebaran, memungkinkan lalu lintas dari satu titik akhir penilaian untuk dilayani ke beberapa penyebaran jika diperlukan. Ini berguna untuk skenario seperti peluncuran terkontrol.
Azure ML mendukung dua jenis titik akhir: online dan batch. Titik akhir online mendukung inferensi real-time, sementara titik akhir batch digunakan untuk penilaian batch offline.
Perintah
Nama | Deskripsi | Jenis | Status |
---|---|---|---|
az ml online-endpoint create |
Membuat titik akhir. |
Ekstensi | GA |
az ml online-endpoint delete |
Menghapus titik akhir. |
Ekstensi | GA |
az ml online-endpoint get-credentials |
Cantumkan token/kunci untuk titik akhir online. |
Ekstensi | GA |
az ml online-endpoint invoke |
Memanggil titik akhir. |
Ekstensi | GA |
az ml online-endpoint list |
Mencantumkan titik akhir di ruang kerja. |
Ekstensi | GA |
az ml online-endpoint regenerate-keys |
Regenerasi kunci untuk titik akhir online. |
Ekstensi | GA |
az ml online-endpoint show |
Perlihatkan detail untuk titik akhir. |
Ekstensi | GA |
az ml online-endpoint update |
Memperbarui titik akhir. |
Ekstensi | GA |
az ml online-endpoint create
Membuat titik akhir.
Untuk membuat titik akhir, berikan file YAML dengan konfigurasi titik akhir online. Jika titik akhir sudah ada, titik akhir akan gagal. Jika Anda ingin memperbarui titik akhir yang ada, gunakan az ml online-endpoint update.
az ml online-endpoint create --resource-group
--workspace-name
[--auth-mode]
[--file]
[--local {false, true}]
[--name]
[--no-wait]
[--set]
[--web]
Contoh
Membuat titik akhir dari file spesifikasi YAML
az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Metode autentikasi untuk titik akhir. Nilai yang diizinkan: kunci, aml_token. Default: kunci.
Jalur lokal ke file YAML yang berisi spesifikasi titik akhir online Azure ML. Dokumen referensi YAML untuk titik akhir online dapat ditemukan di: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
Buat titik akhir secara lokal. Catatan: lalu lintas dan autentikasi tidak didukung secara lokal. Anda dapat menggunakan 'az ml online-deployment create --local' secara langsung. Ini akan membuat titik akhir jika tidak ada.
Nama titik akhir online.
Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.
Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=value.
Tampilkan detail titik akhir di studio Azure ML di browser web.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint delete
Menghapus titik akhir.
az ml online-endpoint delete --name
--resource-group
--workspace-name
[--local {false, true}]
[--no-wait]
[--yes]
Contoh
Menghapus titik akhir online, termasuk semua penyebarannya
az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama titik akhir online.
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Hapus titik akhir lokal.
Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.
Jangan meminta konfirmasi.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint get-credentials
Cantumkan token/kunci untuk titik akhir online.
az ml online-endpoint get-credentials --name
--resource-group
--workspace-name
Contoh
Mencantumkan kunci untuk titik akhir online
az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama titik akhir online.
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint invoke
Memanggil titik akhir.
Anda dapat memanggil titik akhir online dengan beberapa data permintaan. Ini akan menjadi inferensi real-time, dan hasil penilaian akan segera dikembalikan.
az ml online-endpoint invoke --name
--resource-group
--workspace-name
[--deployment-name]
[--local {false, true}]
[--request-file]
Contoh
Memanggil titik akhir online dengan beberapa data permintaan
az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Memanggil titik akhir online, yang menargetkan penyebaran tertentu
az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama titik akhir online.
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Nama penyebaran ke target.
Panggil titik akhir lokal. Ini hanya akan berfungsi jika penyebaran lokal telah dibuat untuk titik akhir ini.
Jalur lokal ke file JSON yang berisi data permintaan.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint list
Mencantumkan titik akhir di ruang kerja.
az ml online-endpoint list --resource-group
--workspace-name
[--local {false, true}]
Contoh
Mencantumkan semua titik akhir online di ruang kerja
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Mencantumkan semua titik akhir batch di ruang kerja
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Cantumkan semua titik akhir online di ruang kerja menggunakan argumen --query untuk menjalankan kueri JMESPath pada hasil perintah.
az ml online-endpoint list --query "[].{Name:name}" --output table --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Mencantumkan semua titik akhir lokal.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint regenerate-keys
Regenerasi kunci untuk titik akhir online.
az ml online-endpoint regenerate-keys --name
--resource-group
--workspace-name
[--key-type]
[--no-wait]
Contoh
Meregenerasi kunci untuk titik akhir online
az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama titik akhir online.
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Jenis kunci yang akan diregenerasi. Nilai yang diizinkan: primer, sekunder.
Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint show
Perlihatkan detail untuk titik akhir.
az ml online-endpoint show --name
--resource-group
--workspace-name
[--local {false, true}]
[--web]
Contoh
Memperlihatkan detail untuk titik akhir batch
az ml online-endpoint show --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Perlihatkan status provisi titik akhir menggunakan argumen --query untuk menjalankan kueri JMESPath pada hasil perintah.
az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}" --output table --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama titik akhir online.
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Tampilkan titik akhir lokal.
Tampilkan detail titik akhir di studio Azure ML di browser web.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.
az ml online-endpoint update
Memperbarui titik akhir.
Properti 'description', 'tags', dan 'traffic' dari titik akhir dapat diperbarui. Selain itu, penyebaran baru dapat ditambahkan ke titik akhir, dan penyebaran yang ada dapat diperbarui.
az ml online-endpoint update --resource-group
--workspace-name
[--add]
[--file]
[--force-string]
[--local {false, true}]
[--mirror-traffic]
[--name]
[--no-wait]
[--remove]
[--set]
[--traffic]
[--web]
Contoh
Memperbarui titik akhir dari file spesifikasi YAML
az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Memperbarui pengaturan lalu lintas untuk titik akhir
az ml online-endpoint update --name my-online-endpoint --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace
Parameter yang Diperlukan
Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>
.
Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>
.
Parameter Opsional
Tambahkan objek ke daftar objek dengan menentukan jalur dan pasangan nilai kunci. Contoh: --add property.listProperty <key=value, string or JSON string>
.
Jalur lokal ke file YAML yang berisi spesifikasi titik akhir online Azure ML. Dokumen referensi YAML untuk titik akhir online dapat ditemukan di: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
Saat menggunakan 'set' atau 'add', pertahankan literal string alih-alih mencoba mengonversi ke JSON.
Perbarui titik akhir lokal.
Mengarahkan persentase duplikat lalu lintas langsung ke pelatihan penyebaran.
Nama titik akhir online.
Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.
Menghapus properti atau elemen dari daftar. Contoh: --remove property.list <indexToRemove>
OR --remove propertyToRemove
.
Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=<value>
.
Pasangan kunci-nilai yang dipisahkan spasi, dalam tanda kutip, untuk pengaturan lalu lintas untuk titik akhir.
Tampilkan detail titik akhir di studio Azure ML di browser web.
Parameter Global
Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.
Tampilkan pesan bantuan ini dan keluar.
Hanya tampilkan kesalahan, menekan peringatan.
Format output.
String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.
Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID
.
Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.