RDMA- vagy GPU-példányok használata Batch-készletekben

Bizonyos Batch-feladatok futtatásához kihasználhatja a nagy léptékű számításokhoz tervezett Azure-beli virtuálisgép-méreteket. Példa:

• Többpéldányos MPI-számítási feladatok futtatásához válassza a HB, HC, NC vagy ND sorozatot, illetve olyan egyéb méreteket, amelyek hálózati adapterrel rendelkeznek a távoli közvetlen memória-hozzáféréshez (RDMA). Ezek a méretek egy InfiniBand-hálózathoz csatlakoznak a csomópontok közötti kommunikációhoz, ami felgyorsíthatja az MPI-alkalmazásokat.

• CUDA-alkalmazások esetén válassza az NVIDIA Tesla grafikus processzor (GPU) kártyákat tartalmazó N sorozatú méreteket.

Ez a cikk útmutatást és példákat tartalmaz az Azure speciális méreteinek a Batch-készletekben való használatához. A specifikációkért és a háttérért lásd:

• Nagy teljesítményű számítási virtuálisgép-méretek (Linux, Windows)

• GPU-kompatibilis virtuálisgép-méretek (Linux, Windows)

Függőségek

A Batchben a nagy számítási igényű méretek RDMA- vagy GPU-képességei csak bizonyos operációs rendszerekben támogatottak. Ezeknek a virtuálisgép-méreteknek a támogatott operációs rendszerei csak a virtuális gépek létrehozásához elérhető részhalmazokat tartalmazzák. A Batch-készlet létrehozásának módjától függően előfordulhat, hogy további illesztőprogramokat vagy más szoftvereket kell telepítenie vagy konfigurálnia a csomópontokon. Az alábbi táblázatok összefoglalják ezeket a függőségeket. További részletekért tekintse meg a csatolt cikkeket. A Batch-készletek konfigurálására vonatkozó beállításokat a cikk későbbi részében találja.

Linux-készletek – Virtuális gép konfigurációja

^*AZ RDMA-kompatibilis N-sorozatok méretei közé tartoznak az NVIDIA Tesla GPU-k is

Windows-készletek – Virtuális gép konfigurálása

^*AZ RDMA-kompatibilis N-sorozatok méretei közé tartoznak az NVIDIA Tesla GPU-k is

Windows-készletek – Cloud Services-konfiguráció

Készletkonfigurációs beállítások

Ha speciális virtuálisgép-méretet szeretne konfigurálni a Batch-készlethez, több lehetősége van a szükséges szoftverek vagy illesztőprogramok telepítésére:

• A virtuális gép konfigurációjában lévő készletekhez válasszon egy előre konfigurált Azure Marketplace-beli virtuálisgép-rendszerképet, amelyen előre telepítve vannak az illesztőprogramok és a szoftverek. Példák:

  • Adattudomány Linux vagy Windows rendszerű virtuális gép – nvidia CUDA-illesztőprogramokat is tartalmaz

  • Linux-rendszerképek a Batch-tároló számítási feladataihoz, amelyek GPU- és RDMA-illesztőprogramokat is tartalmaznak:

  • Ubuntu Server (GPU- és RDMA-illesztőprogramokkal) azure Batch-tárolókészletekhez

• Hozzon létre egy egyéni Windows vagy Linux rendszerű virtuálisgép-lemezképet a virtuális gép méretéhez szükséges telepített illesztőprogramokkal, szoftverekkel vagy egyéb beállításokkal.

• Telepítse a GPU- és RDMA-illesztőprogramokat virtuálisgép-bővítmények alapján.

• Batch-alkalmazáscsomag létrehozása tömörített illesztőprogramból vagy alkalmazástelepítőből. Ezután konfigurálja a Batchet a csomag készletcsomópontokon való üzembe helyezésére, majd az egyes csomópontok létrehozásakor egyszer telepítse. Ha például az alkalmazáscsomag telepítő, hozzon létre egy indítási feladat parancssort az alkalmazás csendes telepítéséhez az összes készletcsomóponton. Érdemes lehet alkalmazáscsomagot és készletindítási feladatot használni, ha a számítási feladat egy adott illesztőprogram-verziótól függ.

  Feljegyzés

  A kezdő tevékenységnek rendszergazdai jogosultsággal kell futnia, és várnia kell a sikerre. A hosszan futó tevékenységek növelik a Batch-készlet kiépítésének idejét.

Példa: NVIDIA GPU-illesztőprogramok Windows NC virtuálisgép-készleten

Ha CUDA-alkalmazásokat szeretne futtatni Windows NC-csomópontok készletén, telepítenie kell az NVIDIA GPU-illesztőprogramokat. Az alábbi mintalépések egy alkalmazáscsomagot használnak az NVIDIA GPU-illesztőprogramok telepítéséhez. Ezt a lehetőséget akkor választhatja, ha a számítási feladat egy adott GPU-illesztőprogram-verziótól függ.

1. Töltse le a Windows Server 2016 GPU-illesztőinek telepítőcsomagjait az NVIDIA webhelyéről – például a 411.82-es verzióból. Mentse a fájlt helyileg egy rövid névvel, például GPUDriverSetup.exe.
2. Hozzon létre egy zip-fájlt a csomagból.
3. Töltse fel a csomagot a Batch-fiókjába. A lépésekért tekintse meg az alkalmazáscsomagok útmutatóját. Adjon meg egy alkalmazásazonosítót, például a GPUDrivert és egy olyan verziót, mint a 411.82.
4. A Batch API-k vagy az Azure Portal használatával hozzon létre egy készletet a virtuális gép konfigurációjában a kívánt számú csomóponttal és skálázással. Az alábbi táblázat mintabeállításokat mutat be az NVIDIA GPU-illesztőprogramok indítási feladattal történő csendes telepítéséhez:

Példa: NVIDIA GPU-illesztőprogramok Linux NC virtuálisgép-készleten

A CUDA-alkalmazások Linux NC-csomópontokból álló készleten való futtatásához telepítenie kell a szükséges NVIDIA Tesla GPU-illesztőprogramokat a CUDA-eszközkészletből. Az alábbi mintalépések létrehoznak és üzembe helyeznek egy egyéni Ubuntu 22.04 LTS-lemezképet a GPU-illesztőprogramokkal:

1. Ubuntu 22.04 LTS-t futtató Azure NC-sorozatú virtuális gép üzembe helyezése. Például hozza létre a virtuális gépet az USA déli középső régiójában.
2. Adja hozzá az NVIDIA GPU-illesztőprogramok bővítményt a virtuális géphez az Azure Portal, az Azure-előfizetéshez csatlakozó ügyfélszámítógép vagy az Azure Cloud Shell használatával. Másik lehetőségként kövesse a lépéseket a virtuális géphez való csatlakozáshoz és a CUDA-illesztőprogramok manuális telepítéséhez.
3. Kövesse az alábbi lépéseket egy Azure Compute Gallery-rendszerkép létrehozásához a Batchhez.
4. Hozzon létre egy Batch-fiókot egy olyan régióban, amely támogatja az NC virtuális gépeket.
5. A Batch API-k vagy az Azure Portal használatával hozzon létre egy készletet az egyéni rendszerkép használatával, a kívánt csomópontszámmal és skálázással. Az alábbi táblázat a kép mintakészlet-beállításait mutatja be:

Példa: Microsoft MPI Windows H16r virtuálisgép-készleten

A Windows MPI-alkalmazások Azure H16r virtuálisgép-csomópontok készletén való futtatásához konfigurálnia kell a HpcVmDrivers bővítményt, és telepítenie kell a Microsoft MPI-t. Az alábbi mintalépések segítségével üzembe helyezhet egy egyéni Windows Server 2016-rendszerképet a szükséges illesztőprogramokkal és szoftverekkel:

1. Windows Server 2016 rendszerű Azure H16r rendszerű virtuális gép üzembe helyezése. Például hozza létre a virtuális gépet az USA nyugati régiójában.
2. Adja hozzá a HpcVmDrivers bővítményt a virtuális géphez egy Azure PowerShell-parancs futtatásával az Azure-előfizetéshez csatlakozó ügyfélszámítógépről vagy az Azure Cloud Shell használatával.
3. Hozzon létre távoli asztali kapcsolatot a virtuális géppel.
4. Töltse le a telepítőcsomagot (MSMpiSetup.exe) a Microsoft MPI legújabb verziójához, és telepítse a Microsoft MPI-t.
5. Kövesse az alábbi lépéseket egy Azure Compute Gallery-rendszerkép létrehozásához a Batchhez.
6. A Batch API-k vagy az Azure Portal használatával hozzon létre egy készletet az Azure Compute Gallery használatával, a kívánt számú csomóponttal és skálázással. Az alábbi táblázat a kép mintakészlet-beállításait mutatja be:

Következő lépések

• Ha MPI-feladatokat szeretne futtatni egy Azure Batch-készleten, tekintse meg a Windows- vagy Linux-példákat.