AI-számítási feladatok az Azure-ban
Ez a cikk az AI-számítási feladatok tervezésének architekturális kihívásaival foglalkozik. A nemdeterminisztikus funkciókra, az adatokra és az alkalmazástervezésre és a műveletekre összpontosít. A javaslatok az Azure Well-Architected-keretrendszer alapelvein alapulnak, és a sikeres Azure-implementációkból származó megállapításokat is tartalmazzák.
Ezek a cikkek a számítási feladatok tulajdonosainak és a műszaki érdekelt feleknek szólnak, például az építészeknek, a fejlesztési érdeklődőknek és az informatikai vezetőknek. A speciális AI- és adatszerepköröknek, például az adattudósoknak is tisztában kell lenniük ezzel az útmutatással, mivel a különböző szerepkörök és csapatok közötti együttműködés kulcsfontosságú szempont.
Feljegyzés
Az Azure különböző AI-szolgáltatásokat kínál, amelyeket integrálhat a számítási feladatba, vagy felépítheti azt. Az üzleti igényektől függően választhat a teljes körűen felügyelt szolgáltatott szoftver (SaaS) megoldások, a szolgáltatásként nyújtott platform (PaaS) megoldások, vagy a saját AI-megoldás létrehozása között. A konkrét Azure-szolgáltatásokra és azok képességeire itt nem terjed ki. Javasoljuk, hogy az információkhoz tekintse meg a megfelelő termékdokumentációt.
Emellett bizonyos AI-számítási feladatok nem tartoznak hatókörbe, például:
- Kevés kódot igénylő és kód nélküli megoldásokkal megvalósított munkaterhelések, mint például a Copilot Studio.
- Nagy teljesítményű számítást igénylő számítási feladatok.
- Olyan számítási feladatok, amelyek nem implementálnak generatív vagy diszkriminatív AI-használati eseteket.
Mi az AI-számítási feladat?
A Well-Architected Keretrendszer kontextusában az AI-számítási feladatok megfelelnek a prediktív, diszkriminatív vagy generatív feladatok igényeinek. Az etikai funkciókra, a gyorsan fejlődő AI-technológiákhoz való alkalmazkodásra, valamint a releváns és magyarázható funkciókra összpontosít. Alkalmazza a Well-Architected keretrendszer pilléreit minden döntési ponton annak biztosítása érdekében, hogy a rendszer megbízható, biztonságos, hatékony és költséghatékony legyen.
Az AI-számítási feladatok eltérnek a hagyományostól, mivel a számítási feladat egyes részeiben a determinisztikus funkciókat nemdeterminista viselkedésre cserélik, amelyek olyan helyzetekben oldódnak meg, amikor a rögzített eredmények nem praktikusak. Ehelyett kódokat és adatokat egyesítenek egy entitásba vagy egy modellbe, hogy egyedi élményeket biztosítsanak, amelyeket a hagyományos rendszerek nem tudnak biztosítani.
Mielőtt elkezdené a tervezési stratégiákat, először vegye figyelembe ezeket a kulcsfontosságú szempontokat.
A modellek széles kategóriáinak megismerése
Generatív AI-: Gépi tanulással önállóan hoz létre új tartalmakat. Olyan nyelvi modelleket tartalmaz, amelyek felhasználói adatokkal testre szabhatók, vagy olyan szolgáltatásként használhatók, mint az Azure OpenAI Service. A GPT például egy nyelvi modell, amely az emberi beszélgetési nyelv utánzására specializálódott, és ideális a csevegéshez és a természetes nyelvi élményekhez.
Használati esetek: A Generatív AI cikkeket, történeteket és művészeteket hozhat létre. Emellett szintetikus adatokat is képes létrehozni az adathalmazok kiegyensúlyozásához és a csevegőrobotok emberibbé alakításához.
Diszkriminatív AI-: Explicit programozással hajt végre meghatározott feladatokat szabályok és algoritmusok alapján. A következő részekre oszlik:
- Modellalapú: A prediktív rendszerek a korábbi megfigyelésekből végzett betanítások alapján találnak mintákat, hogy előrejelzéseket készítsenek, de nem hozhatnak létre új tartalmakat, és nem tudnak önállóan alkalmazkodni.
- Nem modellalapú: Az autonóm ügynökök előre meghatározott szabályokat követnek a rendszerekkel, például videojáték-karakterekkel való interakcióhoz.
Használati eset: A diszkriminatív AI prediktív elemzésekhez, javaslati rendszerekhez és csalások észleléséhez használatos.
Ez a cikksorozat különböző AI-számítási feladatokat tartalmaz, és adott típusokra, például szükség esetén nyelvi modellekre összpontosít.
Fontos
Ha a generatív és a diszkriminatív modellek közül választ, gondolja át, milyen feladatot kell elvégeznie. A generatív modellek új adatokat hoznak létre. A diszkriminatív modellek a funkciók alapján osztályozzák a meglévő adatokat. Besorolási vagy regressziós feladatokhoz válassza ki a feladatnak megfelelő modelleket. Például egy olyan nyelvi modell, amely besorolható, sokoldalúbb lehet, mint egy olyan, amely csak osztályoz.
A build és a vásárlási lehetőségek kiértékelése
Ha az általános válaszok elfogadhatók, egy előre összeállított modellnek vagy egy átlátszatlan feldolgozást használó AI-szolgáltatásalapú megoldásnak elegendőnek kell lennie a számítási feladathoz. Ha azonban a vállalatra jellemző adatokra van szüksége, vagy megfelelőségi követelményekkel rendelkezik, hozzon létre egy egyéni modellt.
Ha egyéni modell, előre összeállított modell vagy szolgáltatás közül választ, vegye figyelembe az alábbi tényezőket:
- Adatvezérlési: Az egyéni modellek nagyobb vezérlést biztosítanak a bizalmas adatok felett. Az előre összeállított modellek egyszerűbbek az általános feladatokhoz.
- Testreszabási: Az egyéni modellek jobbak az egyedi igényekhez. Előfordulhat, hogy az előre összeállított modellek nem rugalmasak.
- Költségek és karbantartás: Az egyéni modelleknek folyamatos karbantartásra és erőforrásokra van szükségük. Az előre összeállított modellek általában alacsonyabb kezdeti költségekkel és kisebb infrastruktúrával rendelkeznek.
- Teljesítmény: Az előre összeállított szolgáltatások optimalizált infrastruktúrát és méretezhetőséget kínálnak. Alacsony késésű vagy nagy méretezhetőségi igényekhez ideálisak.
- Szakértelem: Az egyéni modellekhez képzett csapat szükséges. Az előre összeállított modellek gyakran gyorsabban üzembe helyezhetők és könnyebben használhatók, ha a szakértelem korlátozott.
Fontos
A saját modell létrehozása és karbantartása sok erőforrást, időt és szakértelmet igényel. Fontos, hogy alapos kutatást végezzen, mielőtt eldöntené. Általában jobb megoldás egy előre összeállított modell vagy felügyelt szolgáltatás kiválasztása.
Mik a gyakori kihívások?
- számítási költségek: Az AI-függvények költségesek lehetnek a nagy számítási igények miatt, és a számítási igények a számítási feladatok kialakításától függően változhatnak. Ismerje meg a követelményeket, és válassza ki a megfelelő szolgáltatást a költségek kezeléséhez.
- biztonsági és megfelelőségi követelmények: Előfordulhat, hogy a polcon kívüli megoldások nem felelnek meg a biztonsági és megfelelőségi követelményeknek. Kutatási lehetőségek a szükségtelen terhek elkerülése érdekében.
- Adatmennyiség: A nagy adatmennyiségek különböző formátumokban való kezelése kihívást jelent a bizalmas információk védelme és a hatékony feldolgozás terén. A tárolási, feldolgozási és átviteli költségek optimalizálásának folyamatos tevékenységnek kell lennie.
- modell romlása: A modellek idővel csökkenhetnek, ami pontatlan eredményekhez vezet. Az AI-rendszerek tesztelése a véletlenszerűségük miatt kihívást jelent.
- Képességekkel kapcsolatos kihívások: Az új AI-számítási feladatokhoz speciális szerepkörökre és olyan új üzemeltetési folyamatokra lehet szükség, amelyek széles körű képzést igényelnek.
- MI-innováció üteme: A legújabb technológiák bevezetése vonzó lehet, hogy az élvonalban maradjunk. Gondosan értékelje ki az új technológiákat annak érdekében, hogy javíthassák a felhasználói élményt, és ne csak összetettebbé tegyük őket a naprakészség érdekében.
- etikai követelmények: Egyértelműen meghatározza, hogy a használati eset etikai cél-e a mesterséges intelligencia számára. Az etikai szabványok fenntartása a tervezési és megvalósítási fázisok során szükséges ahhoz, hogy felelősségteljes rendszert alakítson ki.
Útmutató használata
✔ Kezdje a Tervezési módszertannal, amely a technikai és működési területekre vonatkozó indokokat és ismétlődő témákat ismerteti. Ez a szisztematikus megközelítés segít meghatározni a követelményeket és a tervezési stratégiákat. Ezt a módszertant akkor érdemes újra áttekinteni, ha bizonytalan döntésekkel szembesül, hogy igazodjon a számítási feladat általános céljaihoz. Emellett keretrendszert biztosít az érdekelt felekkel való együttműködéshez a technikai döntések indoklása és a folyamatos fejlesztés érdekében az ügyfelek visszajelzéseinek beépítése érdekében.
✔ Folytassa a tervezési alapelvek annak megtekintéséhez, hogy a tervezési módszertan hogyan igazodik az alapvető Well-Architected Keretrendszer alappilléreihez. Fontolja meg a növekedés fejlődését. Értékelje ki az alapul szolgáló alapelveket az összes pillérre vonatkozóan, beleértve a kompromisszumokat is.
✔ Összpontosítson azokra a tervezési területekre , amelyek a legnagyobb hatással vannak a megoldásra. Minden terület olyan szempontokat és javaslatokat tartalmaz, amelyek végigvezetik a tervezési döntéseken.
✔ Az Assessment Review Tool használatával értékelheti az optimalizált AI-számítási feladatok éles környezetben való készültségét.
Jellemző architektúraminta és tervezési területek
Az alábbi ábra bemutatja, hogyan haladnak át az adatok a rendszeren a kezdeti gyűjteménytől a végső felhasználói interakcióig.
Az architektúra kiemeli a különböző összetevők integrálását, hogy hatékony adatfeldolgozást, modelloptimalizálást és valós idejű alkalmazástelepítést lehessen lehetővé tenni az AI-alapú megoldásokban. Olyan modulokat tartalmaz, mint az adatforrások, az adatfeldolgozás, a modell betanítása, a modell üzembe helyezése és a felhasználói felületek.
Az alábbi táblázat az adott mintához kapcsolódó főbb tervezési területeket ismerteti.
Tervezési területek |
---|
alkalmazástervezési: Megismerheti az AI-számítási feladatokra jellemző olyan szempontokat, amelyek jelentős hatással lehetnek a meglévő alkalmazástervezési szabványokra. |
alkalmazásplatform-: Határozza meg a legjobb platformokat, amelyek támogatják az AI számítási feladatait, például a modellek üzemeltetését, a modell betanítását és a következtetést. |
Adatbetöltés tervezés: Stratégiák az adatbetöltéshez, előfeldolgozáshoz, megőrzéshez és irányítási szempontokhoz a modell betanítási adatainak kezeléséhez. |
Földelési adattervezés: Tervezési stratégiák a kereshetőség és a lekérés optimalizálására, a földelési adatok biztonsági és megfelelőségi követelményeinek kielégítése mellett. |
adatplatform: Határozza meg a legjobb üzemeltetési platformot a számítási feladat által használt nagy mennyiségű és esetleg számos adatformátum kezeléséhez. |
Gépi tanulási műveletek és Generatív AI-műveletek: Modern DevOps-gyakorlatok létrehozása a gépi tanulás vagy a generatív AI-függvények és rendszerek támogatásához. |
Műveletek kezelése: Modernizálja az üzemeltetési gyakorlatokat új megközelítésekkel, valamint speciális szerepkörök és képzések bevezetésével. |
Tesztelési és kiértékelési: Tesztelési és kiértékelési stratégiák fejlesztése olyan jellemzők mérésére, mint a pontosság, a pontosság, a érzékenység és a specifikusság az AI-számítási feladatokra célzott metrikákon keresztül. |
számítási feladatok: Ismerje meg, hogy a személyek hogyan vesznek részt az AI-számítási feladatok teljes életciklusában, hogy a csapata teljes mértékben képes legyen felépíteni és támogatni azt. |
Felelős AI-: Különös figyelmet kell fordítani a felhasználói élményre és az AI-megoldás nyilvános kiadásának etikai következményeire. Az AI hihetetlen lehetőségeket kínál az új termékek és szolgáltatások számára, de jelentős kockázatot is hordoz. |
Tipp.
Minden architekturális döntés számos szempontot és elismert kompromisszumot foglal magában, amelyek egyensúlyt teremtenek a keretrendszer különböző aspektusai között. Ezeket a kompromisszumokat ez az ikon jelzi.