Bagikan melalui

az ml online-endpoint

  • Referensi

Nota

Referensi ini adalah bagian dari ekstensi ml untuk Azure CLI (versi 2.15.0 atau yang lebih tinggi). Ekstensi akan secara otomatis menginstal pertama kali Anda menjalankan perintah az ml online-endpoint. Pelajari selengkapnya tentang ekstensi.

Mengelola titik akhir online Azure ML.

Titik akhir Azure ML menyediakan antarmuka sederhana untuk membuat dan mengelola penyebaran model. Setiap titik akhir dapat memiliki satu atau beberapa penyebaran, memungkinkan lalu lintas dari satu titik akhir penilaian untuk dilayani ke beberapa penyebaran jika diperlukan. Ini berguna untuk skenario seperti peluncuran terkontrol.

Azure ML mendukung dua jenis titik akhir: online dan batch. Titik akhir online mendukung inferensi real-time, sementara titik akhir batch digunakan untuk penilaian batch offline.

Perintah

Nama Deskripsi Jenis Status
az ml online-endpoint create

Membuat titik akhir.

 Ekstensi GA
az ml online-endpoint delete

Menghapus titik akhir.

 Ekstensi GA
az ml online-endpoint get-credentials

Cantumkan token/kunci untuk titik akhir online.

 Ekstensi GA
az ml online-endpoint invoke

Memanggil titik akhir.

 Ekstensi GA
az ml online-endpoint list

Mencantumkan titik akhir di ruang kerja.

 Ekstensi GA
az ml online-endpoint regenerate-keys

Regenerasi kunci untuk titik akhir online.

 Ekstensi GA
az ml online-endpoint show

Perlihatkan detail untuk titik akhir.

 Ekstensi GA
az ml online-endpoint update

Memperbarui titik akhir.

 Ekstensi GA

az ml online-endpoint create

Membuat titik akhir.

Untuk membuat titik akhir, berikan file YAML dengan konfigurasi titik akhir online. Jika titik akhir sudah ada, titik akhir akan gagal. Jika Anda ingin memperbarui titik akhir yang ada, gunakan az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Contoh

Membuat titik akhir dari file spesifikasi YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--auth-mode

Metode autentikasi untuk titik akhir. Nilai yang diizinkan: kunci, aml_token. Default: kunci.

--file -f

Jalur lokal ke file YAML yang berisi spesifikasi titik akhir online Azure ML. Dokumen referensi YAML untuk titik akhir online dapat ditemukan di: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Buat titik akhir secara lokal. Catatan: lalu lintas dan autentikasi tidak didukung secara lokal. Anda dapat menggunakan 'az ml online-deployment create --local' secara langsung. Ini akan membuat titik akhir jika tidak ada.

Nilai yang diterima: false, true
Nilai default: False
--name -n

Nama titik akhir online.

--no-wait

Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.

Nilai default: False
--set

Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=value.

--web -e

Tampilkan detail titik akhir di studio Azure ML di browser web.

Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint delete

Menghapus titik akhir.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Contoh

Menghapus titik akhir online, termasuk semua penyebarannya

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--name -n

Nama titik akhir online.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Hapus titik akhir lokal.

Nilai yang diterima: false, true
Nilai default: False
--no-wait

Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.

Nilai default: False
--yes -y

Jangan meminta konfirmasi.

Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint get-credentials

Cantumkan token/kunci untuk titik akhir online.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Contoh

Mencantumkan kunci untuk titik akhir online

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--name -n

Nama titik akhir online.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint invoke

Memanggil titik akhir.

Anda dapat memanggil titik akhir online dengan beberapa data permintaan. Ini akan menjadi inferensi real-time, dan hasil penilaian akan segera dikembalikan.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Contoh

Memanggil titik akhir online dengan beberapa data permintaan

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Memanggil titik akhir online, yang menargetkan penyebaran tertentu

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--name -n

Nama titik akhir online.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--deployment-name -d

Nama penyebaran ke target.

--local

Panggil titik akhir lokal. Ini hanya akan berfungsi jika penyebaran lokal telah dibuat untuk titik akhir ini.

Nilai yang diterima: false, true
Nilai default: False
--request-file -r

Jalur lokal ke file JSON yang berisi data permintaan.

Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint list

Mencantumkan titik akhir di ruang kerja.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Contoh

Mencantumkan semua titik akhir online di ruang kerja

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Mencantumkan semua titik akhir batch di ruang kerja

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Cantumkan semua titik akhir online di ruang kerja menggunakan argumen --query untuk menjalankan kueri JMESPath pada hasil perintah.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Mencantumkan semua titik akhir lokal.

Nilai yang diterima: false, true
Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint regenerate-keys

Regenerasi kunci untuk titik akhir online.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Contoh

Meregenerasi kunci untuk titik akhir online

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--name -n

Nama titik akhir online.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--key-type

Jenis kunci yang akan diregenerasi. Nilai yang diizinkan: primer, sekunder.

Nilai default: primary
--no-wait

Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.

Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint show

Perlihatkan detail untuk titik akhir.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Contoh

Memperlihatkan detail untuk titik akhir batch

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Perlihatkan status provisi titik akhir menggunakan argumen --query untuk menjalankan kueri JMESPath pada hasil perintah.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--name -n

Nama titik akhir online.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Tampilkan titik akhir lokal.

Nilai yang diterima: false, true
Nilai default: False
--web -e

Tampilkan detail titik akhir di studio Azure ML di browser web.

Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.

az ml online-endpoint update

Memperbarui titik akhir.

Properti 'description', 'tags', dan 'traffic' dari titik akhir dapat diperbarui. Selain itu, penyebaran baru dapat ditambahkan ke titik akhir, dan penyebaran yang ada dapat diperbarui.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Contoh

Memperbarui titik akhir dari file spesifikasi YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Memperbarui pengaturan lalu lintas untuk titik akhir

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--add

Tambahkan objek ke daftar objek dengan menentukan jalur dan pasangan nilai kunci. Contoh: --add property.listProperty <key=value, string or JSON string>.

Nilai default: []
--file -f

Jalur lokal ke file YAML yang berisi spesifikasi titik akhir online Azure ML. Dokumen referensi YAML untuk titik akhir online dapat ditemukan di: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Saat menggunakan 'set' atau 'add', pertahankan literal string alih-alih mencoba mengonversi ke JSON.

Nilai default: False
--local

Perbarui titik akhir lokal.

Nilai yang diterima: false, true
Nilai default: False
--mirror-traffic

Mengarahkan persentase duplikat lalu lintas langsung ke pelatihan penyebaran.

--name -n

Nama titik akhir online.

--no-wait

Jangan tunggu hingga operasi jangka panjang selesai. Defaultnya adalah False.

Nilai default: False
--remove

Menghapus properti atau elemen dari daftar. Contoh: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Nilai default: []
--set

Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=<value>.

Nilai default: []
--traffic -r

Pasangan kunci-nilai yang dipisahkan spasi, dalam tanda kutip, untuk pengaturan lalu lintas untuk titik akhir.

--web -e

Tampilkan detail titik akhir di studio Azure ML di browser web.

Nilai default: False
Parameter Global
--debug

Tingkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Tampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya tampilkan kesalahan, menekan peringatan.

--output -o

Format output.

Nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc
Nilai default: json
--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi dan contoh selengkapnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Tingkatkan verbositas pengelogan. Gunakan --debug untuk log debug penuh.