Megosztás a következőn keresztül:


AI-számítási feladatok az Azure-ban

Ez a cikk az AI-számítási feladatok tervezésének architekturális kihívásaival foglalkozik. A nemdeterminisztikus funkciókra, az adatokra és az alkalmazástervezésre és a műveletekre összpontosít. A javaslatok az Azure Well-Architected-keretrendszer alapelvein alapulnak, és a sikeres Azure-implementációkból származó megállapításokat is tartalmazzák.

Ezek a cikkek a számítási feladatok tulajdonosainak és a műszaki érdekelt feleknek szólnak, például az építészeknek, a fejlesztési érdeklődőknek és az informatikai vezetőknek. A speciális AI- és adatszerepköröknek, például az adattudósoknak is tisztában kell lenniük ezzel az útmutatással, mivel a különböző szerepkörök és csapatok közötti együttműködés kulcsfontosságú szempont.

Feljegyzés

Az Azure különböző AI-szolgáltatásokat kínál, amelyeket integrálhat a számítási feladatba, vagy felépítheti azt. Az üzleti igényektől függően választhat a teljes körűen felügyelt szolgáltatott szoftver (SaaS) megoldások, a szolgáltatásként nyújtott platform (PaaS) megoldások, vagy a saját AI-megoldás létrehozása között. A konkrét Azure-szolgáltatásokra és azok képességeire itt nem terjed ki. Javasoljuk, hogy az információkhoz tekintse meg a megfelelő termékdokumentációt.

Emellett bizonyos AI-számítási feladatok nem tartoznak hatókörbe, például:

  • Kevés kódot igénylő és kód nélküli megoldásokkal megvalósított munkaterhelések, mint például a Copilot Studio.
  • Nagy teljesítményű számítást igénylő számítási feladatok.
  • Olyan számítási feladatok, amelyek nem implementálnak generatív vagy diszkriminatív AI-használati eseteket.

Mi az AI-számítási feladat?

A Well-Architected Keretrendszer kontextusában az AI-számítási feladatok megfelelnek a prediktív, diszkriminatív vagy generatív feladatok igényeinek. Az etikai funkciókra, a gyorsan fejlődő AI-technológiákhoz való alkalmazkodásra, valamint a releváns és magyarázható funkciókra összpontosít. Alkalmazza a Well-Architected keretrendszer pilléreit minden döntési ponton annak biztosítása érdekében, hogy a rendszer megbízható, biztonságos, hatékony és költséghatékony legyen.

Az AI-számítási feladatok eltérnek a hagyományostól, mivel a számítási feladat egyes részeiben a determinisztikus funkciókat nemdeterminista viselkedésre cserélik, amelyek olyan helyzetekben oldódnak meg, amikor a rögzített eredmények nem praktikusak. Ehelyett kódokat és adatokat egyesítenek egy entitásba vagy egy modellbe, hogy egyedi élményeket biztosítsanak, amelyeket a hagyományos rendszerek nem tudnak biztosítani.

Mielőtt elkezdené a tervezési stratégiákat, először vegye figyelembe ezeket a kulcsfontosságú szempontokat.

A modellek széles kategóriáinak megismerése

  • Generatív AI-: Gépi tanulással önállóan hoz létre új tartalmakat. Olyan nyelvi modelleket tartalmaz, amelyek felhasználói adatokkal testre szabhatók, vagy olyan szolgáltatásként használhatók, mint az Azure OpenAI Service. A GPT például egy nyelvi modell, amely az emberi beszélgetési nyelv utánzására specializálódott, és ideális a csevegéshez és a természetes nyelvi élményekhez.

    Használati esetek: A Generatív AI cikkeket, történeteket és művészeteket hozhat létre. Emellett szintetikus adatokat is képes létrehozni az adathalmazok kiegyensúlyozásához és a csevegőrobotok emberibbé alakításához.

  • Diszkriminatív AI-: Explicit programozással hajt végre meghatározott feladatokat szabályok és algoritmusok alapján. A következő részekre oszlik:

    • Modellalapú: A prediktív rendszerek a korábbi megfigyelésekből végzett betanítások alapján találnak mintákat, hogy előrejelzéseket készítsenek, de nem hozhatnak létre új tartalmakat, és nem tudnak önállóan alkalmazkodni.
    • Nem modellalapú: Az autonóm ügynökök előre meghatározott szabályokat követnek a rendszerekkel, például videojáték-karakterekkel való interakcióhoz.

    Használati eset: A diszkriminatív AI prediktív elemzésekhez, javaslati rendszerekhez és csalások észleléséhez használatos.

Ez a cikksorozat különböző AI-számítási feladatokat tartalmaz, és adott típusokra, például szükség esetén nyelvi modellekre összpontosít.

Fontos

Ha a generatív és a diszkriminatív modellek közül választ, gondolja át, milyen feladatot kell elvégeznie. A generatív modellek új adatokat hoznak létre. A diszkriminatív modellek a funkciók alapján osztályozzák a meglévő adatokat. Besorolási vagy regressziós feladatokhoz válassza ki a feladatnak megfelelő modelleket. Például egy olyan nyelvi modell, amely besorolható, sokoldalúbb lehet, mint egy olyan, amely csak osztályoz.

A build és a vásárlási lehetőségek kiértékelése

Ha az általános válaszok elfogadhatók, egy előre összeállított modellnek vagy egy átlátszatlan feldolgozást használó AI-szolgáltatásalapú megoldásnak elegendőnek kell lennie a számítási feladathoz. Ha azonban a vállalatra jellemző adatokra van szüksége, vagy megfelelőségi követelményekkel rendelkezik, hozzon létre egy egyéni modellt.

Ha egyéni modell, előre összeállított modell vagy szolgáltatás közül választ, vegye figyelembe az alábbi tényezőket:

  • Adatvezérlési: Az egyéni modellek nagyobb vezérlést biztosítanak a bizalmas adatok felett. Az előre összeállított modellek egyszerűbbek az általános feladatokhoz.
  • Testreszabási: Az egyéni modellek jobbak az egyedi igényekhez. Előfordulhat, hogy az előre összeállított modellek nem rugalmasak.
  • Költségek és karbantartás: Az egyéni modelleknek folyamatos karbantartásra és erőforrásokra van szükségük. Az előre összeállított modellek általában alacsonyabb kezdeti költségekkel és kisebb infrastruktúrával rendelkeznek.
  • Teljesítmény: Az előre összeállított szolgáltatások optimalizált infrastruktúrát és méretezhetőséget kínálnak. Alacsony késésű vagy nagy méretezhetőségi igényekhez ideálisak.
  • Szakértelem: Az egyéni modellekhez képzett csapat szükséges. Az előre összeállított modellek gyakran gyorsabban üzembe helyezhetők és könnyebben használhatók, ha a szakértelem korlátozott.

Fontos

A saját modell létrehozása és karbantartása sok erőforrást, időt és szakértelmet igényel. Fontos, hogy alapos kutatást végezzen, mielőtt eldöntené. Általában jobb megoldás egy előre összeállított modell vagy felügyelt szolgáltatás kiválasztása.

Mik a gyakori kihívások?

  • számítási költségek: Az AI-függvények költségesek lehetnek a nagy számítási igények miatt, és a számítási igények a számítási feladatok kialakításától függően változhatnak. Ismerje meg a követelményeket, és válassza ki a megfelelő szolgáltatást a költségek kezeléséhez.
  • biztonsági és megfelelőségi követelmények: Előfordulhat, hogy a polcon kívüli megoldások nem felelnek meg a biztonsági és megfelelőségi követelményeknek. Kutatási lehetőségek a szükségtelen terhek elkerülése érdekében.
  • Adatmennyiség: A nagy adatmennyiségek különböző formátumokban való kezelése kihívást jelent a bizalmas információk védelme és a hatékony feldolgozás terén. A tárolási, feldolgozási és átviteli költségek optimalizálásának folyamatos tevékenységnek kell lennie.
  • modell romlása: A modellek idővel csökkenhetnek, ami pontatlan eredményekhez vezet. Az AI-rendszerek tesztelése a véletlenszerűségük miatt kihívást jelent.
  • Képességekkel kapcsolatos kihívások: Az új AI-számítási feladatokhoz speciális szerepkörökre és olyan új üzemeltetési folyamatokra lehet szükség, amelyek széles körű képzést igényelnek.
  • MI-innováció üteme: A legújabb technológiák bevezetése vonzó lehet, hogy az élvonalban maradjunk. Gondosan értékelje ki az új technológiákat annak érdekében, hogy javíthassák a felhasználói élményt, és ne csak összetettebbé tegyük őket a naprakészség érdekében.
  • etikai követelmények: Egyértelműen meghatározza, hogy a használati eset etikai cél-e a mesterséges intelligencia számára. Az etikai szabványok fenntartása a tervezési és megvalósítási fázisok során szükséges ahhoz, hogy felelősségteljes rendszert alakítson ki.

Útmutató használata

Kezdje a Tervezési módszertannal, amely a technikai és működési területekre vonatkozó indokokat és ismétlődő témákat ismerteti. Ez a szisztematikus megközelítés segít meghatározni a követelményeket és a tervezési stratégiákat. Ezt a módszertant akkor érdemes újra áttekinteni, ha bizonytalan döntésekkel szembesül, hogy igazodjon a számítási feladat általános céljaihoz. Emellett keretrendszert biztosít az érdekelt felekkel való együttműködéshez a technikai döntések indoklása és a folyamatos fejlesztés érdekében az ügyfelek visszajelzéseinek beépítése érdekében.

Folytassa a tervezési alapelvek annak megtekintéséhez, hogy a tervezési módszertan hogyan igazodik az alapvető Well-Architected Keretrendszer alappilléreihez. Fontolja meg a növekedés fejlődését. Értékelje ki az alapul szolgáló alapelveket az összes pillérre vonatkozóan, beleértve a kompromisszumokat is.

Összpontosítson azokra a tervezési területekre , amelyek a legnagyobb hatással vannak a megoldásra. Minden terület olyan szempontokat és javaslatokat tartalmaz, amelyek végigvezetik a tervezési döntéseken.

Az Assessment Review Tool használatával értékelheti az optimalizált AI-számítási feladatok éles környezetben való készültségét.

Jellemző architektúraminta és tervezési területek

Az alábbi ábra bemutatja, hogyan haladnak át az adatok a rendszeren a kezdeti gyűjteménytől a végső felhasználói interakcióig.

AI-számítási feladatok tipikus architektúramintáját bemutató diagram.

Az architektúra kiemeli a különböző összetevők integrálását, hogy hatékony adatfeldolgozást, modelloptimalizálást és valós idejű alkalmazástelepítést lehessen lehetővé tenni az AI-alapú megoldásokban. Olyan modulokat tartalmaz, mint az adatforrások, az adatfeldolgozás, a modell betanítása, a modell üzembe helyezése és a felhasználói felületek.

Az alábbi táblázat az adott mintához kapcsolódó főbb tervezési területeket ismerteti.

Tervezési területek
alkalmazástervezési: Megismerheti az AI-számítási feladatokra jellemző olyan szempontokat, amelyek jelentős hatással lehetnek a meglévő alkalmazástervezési szabványokra.
alkalmazásplatform-: Határozza meg a legjobb platformokat, amelyek támogatják az AI számítási feladatait, például a modellek üzemeltetését, a modell betanítását és a következtetést.
Adatbetöltés tervezés: Stratégiák az adatbetöltéshez, előfeldolgozáshoz, megőrzéshez és irányítási szempontokhoz a modell betanítási adatainak kezeléséhez.
Földelési adattervezés: Tervezési stratégiák a kereshetőség és a lekérés optimalizálására, a földelési adatok biztonsági és megfelelőségi követelményeinek kielégítése mellett.
adatplatform: Határozza meg a legjobb üzemeltetési platformot a számítási feladat által használt nagy mennyiségű és esetleg számos adatformátum kezeléséhez.
Gépi tanulási műveletek és Generatív AI-műveletek: Modern DevOps-gyakorlatok létrehozása a gépi tanulás vagy a generatív AI-függvények és rendszerek támogatásához.
Műveletek kezelése: Modernizálja az üzemeltetési gyakorlatokat új megközelítésekkel, valamint speciális szerepkörök és képzések bevezetésével.
Tesztelési és kiértékelési: Tesztelési és kiértékelési stratégiák fejlesztése olyan jellemzők mérésére, mint a pontosság, a pontosság, a érzékenység és a specifikusság az AI-számítási feladatokra célzott metrikákon keresztül.
számítási feladatok: Ismerje meg, hogy a személyek hogyan vesznek részt az AI-számítási feladatok teljes életciklusában, hogy a csapata teljes mértékben képes legyen felépíteni és támogatni azt.
Felelős AI-: Különös figyelmet kell fordítani a felhasználói élményre és az AI-megoldás nyilvános kiadásának etikai következményeire. Az AI hihetetlen lehetőségeket kínál az új termékek és szolgáltatások számára, de jelentős kockázatot is hordoz.

Tipp.

Minden architekturális döntés számos szempontot és elismert kompromisszumot foglal magában, amelyek egyensúlyt teremtenek a keretrendszer különböző aspektusai között. Ezeket a kompromisszumokat ez az ikon jelzi.

Következő lépés