Selectarea modelului și setările de temperatură
Când creați o acțiune promptă în generatorul de prompt, panoul din dreapta include o secțiune Setări . Această secțiune vă permite să setați acești parametri:
- Versiunea modelului AI generativ
- Temperatura
Acest articol explorează impactul acestor parametri.
Versiuni de model AI generativ
Meniul drop-down vă permite să selectați dintre modelele AI generative, care generează răspunsul la solicitare particularizată.
Modelul implicit din noiembrie 2024 este GPT 4o Mini (disponibilitate generală sau GA). Este posibil să utilizați și modelul GPT 4o (GA) mai puternic. Aceste versiuni minore exacte ale acestor modele pot fi modificate.
Când utilizați acțiuni prompte în Power Apps sau Power Automate, acestea consumă AI Builder credite.
Notă
Solicitările mai vechi create în generatorul de prompte care se bazează pe acest model implicit, modelul GPT 3.5 au fost sau vor fi actualizate automat la modelul GPT 4o Mini. Cloudul guvernamental continuă să folosească modelul GPT 3.5 până la sfârșitul lunii noiembrie 2024.
Alegeți un model
Alegeți dintre modelele bazate pe statut și regulile de licențiere.
| Model GPT | Status | Reguli de licențiere | Funcționalități | Disponibilitățile regiunii |
|---|---|---|---|---|
| GPT 4o Mini | GA - Model implicit | Consumă credite în Power Apps și Power Automate. Mai multe informații: Power Platform Ghid de licențiere | Instruit pe date până în decembrie 2023. Contextul a permis până la 128.000 de jetoane. | Disponibilitatea caracteristicilor pe regiuni pentru solicitări |
| GPT 4 | GA | Consumă credite în Power Apps și Power Automate. Mai multe informații: Power Platform Ghid de licențiere | GPT 4o are cunoștințe până în octombrie 2023 și are o lungime a contextului de 128k tokens. | Disponibilitatea caracteristicilor pe regiuni pentru solicitări |
Alegeți între modelul bazat pe capabilități și scenarii.
Comparație între GPT-4o Mini și GPT-4o
| Factori | GPT-4o Mini | GPT-4o |
|---|---|---|
| Cost | Mai scăzut, mai rentabil | Prețuri mai mari, premium |
| Performanţă | Bun pentru majoritatea sarcinilor | Superior pentru sarcini complexe |
| Viteză | Procesare mai rapidă | Poate fi mai lent din cauza complexității |
| Cazuri de utilizare | Rezumat, sarcini de informare | Sarcini complexe de analiză a datelor, raționament și creare de conținut |
Narațiunea deciziei
Când aveți nevoie de o soluție rentabilă pentru sarcini moderat complexe, aveți resurse de calcul limitate sau aveți nevoie de o procesare mai rapidă, alegeți GPT-4o Mini. Este ideal pentru proiecte cu constrângeri bugetare și aplicații precum asistența pentru clienți sau analiza eficientă a codului.
Când aveți de-a face cu sarcini foarte complexe, multimodale, care necesită performanță superioară și analiză detaliată, alegeți GPT-4o. Este alegerea mai bună pentru proiectele la scară largă în care acuratețea și capabilitățile avansate sunt cruciale. Un alt scenariu în care este o alegere mai bună este atunci când aveți bugetul și resursele de calcul pentru a o susține. GPT-4o este, de asemenea, de preferat pentru proiectele pe termen lung care ar putea crește în complexitate în timp.
Utilizarea prompturilor AI în contextul Microsoft Copilot Studio
Solicitările AI nu consumă AI Builder credite atunci când sunt în contextul Copilot Studio, ci consumă mesaje atunci când sunt construite pe un model GPT GA.
Aflați mai multe despre consumul de mesaje în Power Platform Ghidul de licențiere.
Temperatura
Glisorul vă permite să selectați temperatura modelului AI generativ. Acesta variază între 0 și 1 și ghidează modelul AI generativ cu privire la cât de multă creativitate (1) vs răspuns determinist (0) ar trebui să ofere.
Temperatura este un parametru care controlează caracterul aleatoriu al ieșirii generate de modelul AI. O temperatură mai scăzută are ca rezultat rezultate mai previzibile și mai conservatoare. Pentru a compara, o temperatură mai ridicată permite mai multă creativitate și diversitate în răspunsuri. Este o modalitate de a ajusta echilibrul dintre aleatoriu și determinism în rezultatul modelului.
În mod implicit, temperatura este 0, ca în solicitările create anterior.
| Temperatura | Funcționalitate | Utilizați în |
|---|---|---|
| 0 | Ieșiri mai previzibile și mai conservatoare. Răspunsurile sunt mai consistente. |
Solicitări care necesită o precizie ridicată și o variabilitate redusă. |
| 1 | Mai multă creativitate și diversitate în răspunsuri. Răspunsuri mai variate și uneori mai inovatoare. |
Solicitări care creează un conținut nou disponibil |
Deși reglarea temperaturii poate influența randamentul modelului, aceasta nu garantează un rezultat specific. Răspunsurile AI sunt în mod inerent probabilistice și pot varia chiar și cu aceeași setare de temperatură.