Mesin virtual (VM) seri NC A100 v4 adalah tambahan baru untuk keluarga GPU Azure. Anda dapat menggunakan seri ini untuk pelatihan AI Terapan Azure dunia nyata dan beban kerja inferensi batch. Seri NC A100 v4 didukung oleh GPU PCIe NVIDIA A100 dan prosesor AMD EPYC™ 7V13 (Milan) generasi ketiga. VM ini memiliki hingga 4 GPU PCIe NVIDIA A100 dengan masing-masing memori 80 GB, hingga 96 core prosesor AMD EPYC Milan non-multithreaded dan memori sistem 880 GiB. Mesin Virtual ini ideal untuk beban kerja AI Terapan di dunia nyata, seperti:
Analitik dan database yang dipercepat GPU Inferensi Batch dengan pelatihan model Otonomi pra-dan pasca-pemrosesan yang berat melatih simulasi reservoir minyak dan gas Layanan web Pembelajaran mesin (ML) pengembangan Video pemrosesan AI/ML
Spesifikasi host
Bagian
Jumlah
Unit Hitung
Spesifikasi
ID SKU, Unit Performa, dll.
Pemroses
24 - 96 vCPU
AMD EPYC 7V13 (Milan) [x86-64]
Memori
220 - 880 GiB
Penyimpanan Lokal
1 Disk Sementara 1 - 4 Disk NVMe
64 - 256 GiB Disk Sementara Disk NVMe 960 GiB
Penyimpanan Jarak Jauh
8 - 32 Disk
30000 - 120000 IOPS 1000 - 4000 MBps
Jaringan
2 - 8 NIC
20.000 - 80.000 Mbps
Akselerator
1 - 4 GPU
GPU Nvidia PCIe A100 (80GB)
Dukungan fitur
Penyimpanan Premium: Didukung Penembolokan Penyimpanan Premium: Didukung Migrasi Langsung: Tidak Didukung Pembaruan Yang Mempertahankan Memori: Tidak Didukung VM Generasi 2: Didukung VM Generasi 1: Tidak Didukung Jaringan Terakselerasi: Didukung Disk OS Ephemeral: Didukung Virtualisasi Berlapis: Tidak Didukung
1Kecepatan disk sementara sering berbeda antara operasi RR (Pembacaan Acak) dan RW (Tulis Acak). Operasi RR biasanya lebih cepat daripada operasi RW. Kecepatan RW biasanya lebih lambat daripada kecepatan RR pada seri di mana hanya nilai kecepatan RR yang tercantum.
Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.
Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.
1Beberapa ukuran mendukung bursting untuk meningkatkan performa disk untuk sementara waktu. Kecepatan ledakan dapat dipertahankan hingga 30 menit pada satu waktu.
Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.
Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.
Disk data dapat beroperasi dalam mode cache atau tidak di-cache. Untuk operasi disk data cache, mode cache host diatur ke ReadOnly atau ReadWrite. Untuk operasi disk data yang tidak di-cache, mode cache host diatur ke None.
Bandwidth jaringan yang diharapkan adalah bandwidth agregat maksimum yang dialokasikan per jenis VM di semua NIC, untuk semua tujuan. Untuk informasi selengkapnya, lihat Bandwidth jaringan komputer virtual
Batas atas tidak dijamin. Batas menawarkan panduan untuk memilih jenis VM yang tepat untuk aplikasi yang dimaksud. Performa jaringan aktual akan tergantung pada beberapa faktor termasuk kemacetan jaringan, beban aplikasi, dan pengaturan jaringan. Untuk mengetahui informasi tentang mengoptimalkan throughput jaringan, lihat Mengoptimalkan throughput jaringan untuk komputer virtual Azure.
Untuk mencapai performa jaringan yang diharapkan di Linux atau Windows, Anda mungkin perlu memilih versi tertentu atau mengoptimalkan VM Anda. Untuk mengetahui informasi selengkapnya, lihat Pengujian Bandwidth/Throughput (NTTTCP).
Info Akselerator (GPU, FPGA, dll.) untuk setiap ukuran