Zdieľať cez

Prompt tokeny

  • Článok

Model výzvy nepracuje so slovami alebo znakmi ako jednotkami textu, ale namiesto toho používa niečo medzi tým: tokeny.

  • Token môže byť jeden znak, zlomok slova alebo celé slovo.
    • Mnohé bežné slová sú reprezentované jedným tokenom.
    • Menej bežné slová sú reprezentované viacerými tokenmi.
  • Keď sú obrázky alebo dokumenty zahrnuté do rýchleho pokynu, prevedú sa na tokeny podľa pravidiel prevodu.

Tokeny spotrebované výzvou

Keď vytvoríte inštrukciu výzvy a spustíte ju, stane sa toto:

  • Inštrukcia výzvy sa dekonštruuje na sekvenciu tokenov nazývaných vstupné tokeny .
  • Model generuje odpoveď ako postupnosť tokenov nazývaných výstupné tokeny .

Vstupné tokeny sú súčtom tokenov pochádzajúcich z:

  • Systémový metaprompt od spoločnosti Microsoft. Táto systémová výzva nie je viditeľná a je nevyhnutná pre bezpečnosť vašej rýchlej reakcie. Predstavuje niekoľko stoviek tokenov.
  • Pohotový pokyn.
  • Ak existujú, vstupné hodnoty.
  • Ak existujú, načítajú sa údaje o vedomostiach.

Výstupné tokeny sú tokeny pochádzajúce z odpovede modelu.

Ako tokeny ovplyvňujú licencovanie

Kombinácia vstupných tokenov, výstupných tokenov a verzie modelu vám umožňuje vypočítať náklady na rýchle spustenie. Viac informácií nájdete v sekcii AI Builder ceník v Microsoft Power Platform Príručke licencovania stiahnuteľný súbor PDF.

Keď vytvárate riešenia, ktoré obsahujú výzvy, môže byť pre vás dôležité posúdiť priemerné náklady na výzvu. Dve možnosti dosiahnutia tohto cieľa sú vysvetlené v nasledujúcich častiach.

Kredity sa počítajú v rýchlom nástroji

Keď testujete výzvu v AI Hub v rámci portálu Power Automate alebo Power Apps , môžete zobraziť kredity spotrebované vašou výzvou. Testovanie je bezplatné, takže ide o predpokladanú hodnotu.

Snímka obrazovky kreditov zobrazená v nástroji na tvorbu výziev.

Počet tokenov z Power Automate toku

Keď v toku zavoláte akciu výzvy, môžete získať priradený vstup a tokeny pomocou vzorcov.

Vstupné tokeny

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Výstupné tokeny

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Snímka obrazovky vzorcov tokenov v Power Automate.

Ako sa obrázok alebo dokumenty prekladajú na tokeny

Keď odošlete obrázok do výzvy, skonvertuje sa na tokeny.

Keď pošlete dokument PDF do výzvy, najskôr sa skonvertuje na obrázky po jednom obrázku na stránku a potom na tokeny.

Konverzia tokenov na obrázok plne uplatňuje Azure OpenAI logiku.

Pri odovzdávaní obrázkov do Azure používame nastavenie auto OpenAI. To znamená, že cena tokenu obrázka závisí od jeho počiatočného rozlíšenia.

Obrázok s nízkym rozlíšením

Obrázky s rozlíšením nižším ako 512 x 512 pixelov majú jednotnú mieru konverzie 85 tokenov na obrázok bez ohľadu na veľkosť.

Obrázky s vysokým rozlíšením

Pre obrázky s rozlíšením vyšším ako 512 x 512 pixelov sa konverzia tokenu uskutoční v dvoch krokoch. Kroky sú popísané v nasledujúcej tabuľke.

Krok Description Proces konverzie
1 Zmeňte veľkosť obrázka Veľkosť obrázka sa zmení tak, aby sa zmestil do štvorca s rozmermi 2048 x 2048 pixelov. Ak je najkratšia strana väčšia ako 768 pixelov, veľkosť obrázka sa ďalej zmení tak, aby najkratšia strana mala dĺžku 768 pixelov. Pomer strán sa pri zmene veľkosti zachová.
2 Konverzia tokenov Obrázok so zmenenou veľkosťou je rozdelený na dlaždice s rozmermi 512 x 512 pixelov. Akékoľvek čiastočné dlaždice sú zaoblené nahor na celú dlaždicu. Počet dlaždíc určuje celkovú cenu žetónov: Každá 512 x 512 pixelov stojí 170 žetónov. K celkovej sume sa pridá ďalších 85 základných žetónov.