Oktatóanyag: Rendszerképek létrehozása kiszolgáló nélküli GPU-k használatával az Azure Container Appsben (előzetes verzió)
Ebből a cikkből megtudhatja, hogyan hozhat létre kiszolgáló nélküli GPU-kat használó tárolóalkalmazást egy AI-alkalmazás energiaellátásához.
Kiszolgáló nélküli GPU-k esetén közvetlen hozzáféréssel rendelkezik a GPU számítási erőforrásaihoz anélkül, hogy manuális infrastruktúra-konfigurációt kellene végeznie, például illesztőprogramok telepítését. Mindössze annyit kell tennie, hogy üzembe helyezi az AI-modell rendszerképét.
Ebben az oktatóanyagban a következőket fogja elkönyvelni:
- Új tárolóalkalmazás és környezet létrehozása
- A környezet konfigurálása kiszolgáló nélküli GPU-k használatára
- Az alkalmazás üzembe helyezése az Azure Container Appsben
- Az új kiszolgáló nélküli GPU-kompatibilis alkalmazás használata
- Összetevők streamelésének engedélyezése a GPU hidegindításának csökkentése érdekében
Előfeltételek
| Erőforrás | Leírás |
|---|---|
| Azure-fiók | Aktív előfizetéssel rendelkező Azure-fiókra van szüksége. Ha még nem rendelkezik fiókkal, ingyen létrehozhat egyet. |
| Azure Container Registry-példány | Egy meglévő Azure Container Registry-példányra vagy a létrehozáshoz szükséges engedélyekre van szüksége. |
| Hozzáférés kiszolgáló nélküli GPU-khoz | A GPU-khoz való hozzáférés csak a GPU-kvóták kérése után érhető el. A GPU-kvótakvótát egy ügyfélszolgálati eseten keresztül küldheti el. |
Tárolóalkalmazás létrehozása
Nyissa meg az Azure Portalt, és keresse meg és válassza a Container Apps lehetőséget.
Válassza a Létrehozás, majd a Tárolóalkalmazás lehetőséget.
Az Alapismeretek ablakban adja meg az alábbi értékeket az egyes szakaszokban.
A Projekt részletei csoportban adja meg a következő értékeket:
Beállítás Érték Előfizetés Válassza ki az Azure-előfizetését. Erőforráscsoport Válassza az Új létrehozása lehetőséget, és adja meg a saját gpu-demo-groupot. Tárolóalkalmazás neve Adja meg a saját gpu-demo-appot. Központi telepítés forrása Válassza a Tárolórendszerkép lehetőséget. A Container Apps-környezetben adja meg a következő értékeket:
Beállítás Érték Régió Válassza az USA 3. nyugati régiója lehetőséget.
További támogatott régiókért lásd: Kiszolgáló nélküli GPU-k használata az Azure-ban.Container Apps-környezet Válassza az Új létrehozása lehetőséget. A Container Apps-környezet létrehozása ablakban adja meg a következő értékeket:
Beállítás Érték Környezet neve Adja meg a saját gpu-demo-env. Válassza a Létrehozás lehetőséget.
Válassza a Következő: Tároló >lehetőséget.
A Tároló ablakban adja meg a következő értékeket:
Beállítás Érték Név Adja meg a saját gpu-demo-tárolót. Kép forrása Válassza a Docker Hubot vagy más regisztrációs adatbázisokat. Lemezkép típusa Válassza ki a nyilvános elemet. Regisztrációs adatbázis bejelentkezési kiszolgálója Adja meg a mcr.microsoft.com. Kép és címke Adja meg a k8se/gpu-quickstart:latest értéket. Számítási feladatok profilja Válassza ki a Használat kezdetű lehetőséget – Legfeljebb 4... GPU Jelölje be a jelölőnégyzetet. GPU-típus Válassza a T4 lehetőséget, és válassza a hivatkozást a profil környezethez való hozzáadásához. Válassza a Tovább: Bejövő forgalom >lehetőséget.
A Bejövő forgalom ablakban adja meg a következő értékeket:
Beállítás Érték Bejövő forgalom Jelölje be az Engedélyezett jelölőnégyzetet. Bejövő forgalom Válassza a Forgalom fogadása bárhonnan választógombot. Célport Adja meg a 80-at. Válassza az Áttekintés + létrehozás lehetőséget.
Válassza a Létrehozás lehetőséget.
Várjon néhány percet, amíg az üzembe helyezés befejeződik, majd válassza az Erőforrás megnyitása lehetőséget.
Ez a folyamat akár öt percet is igénybe vehet.
A GPU-alkalmazás használata
Az Áttekintés ablakban válassza az Alkalmazás URL-hivatkozását a webalkalmazás előtérének megnyitásához a böngészőben, és használja a GPU-alkalmazást.
Feljegyzés
- A GPU-alkalmazások legjobb teljesítményének eléréséhez kövesse az alábbi lépéseket a kiszolgáló nélküli GPU-k hidegindításának javítása érdekében.
- Ha az alkalmazásban több tároló is található, az első tároló hozzáférést kap a GPU-hoz.
A GPU monitorozása
Miután létrehozott egy képet, az alábbi lépésekkel tekintheti meg a GPU-feldolgozás eredményeit:
Nyissa meg a tárolóalkalmazást az Azure Portalon.
A Figyelés szakaszban válassza a Konzol lehetőséget.
Válassza ki a replikát.
Válassza ki a tárolót.
Válassza az *Újracsatlakozás lehetőséget.
A Start up parancsablakban válassza a /bin/bash lehetőséget, és válassza a Csatlakozás lehetőséget.
A rendszerhéj beállítása után adja meg az nvidia-smi parancsot a GPU állapotának és kimenetének áttekintéséhez.
Az erőforrások eltávolítása
Az oktatóanyagban létrehozott erőforrások hatással vannak az Azure-számlára.
Ha nem fogja hosszú távon használni ezeket a szolgáltatásokat, a lépések végrehajtásával távolítsa el az oktatóanyagban létrehozott összes elemet.
Az Azure Portalon keresse meg és válassza ki az erőforráscsoportokat.
Válassza ki a saját gpu-demo-csoportot.
Válassza az Erőforráscsoport törlése elemet.
A megerősítést kérő mezőbe írja be a my-gpu-demo-group kifejezést.
Válassza a Törlés lehetőséget.