Sdílet prostřednictvím

Tokeny výzev

  • Článek

Model výzvy nepracuje se slovy nebo znaky jako s jednotkami textu, ale místo toho používá něco mezi tím: tokeny.

  • Token může být jeden znak, zlomek slova nebo celé slovo.
    • Mnoho běžných slov je reprezentováno jedním tokenem.
    • Méně obvyklá slova jsou reprezentována více tokeny.
  • Když jsou obrázky nebo dokumenty zahrnuty do pokynu pro zadání výzvy, jsou převedeny na tokeny podle pravidel převodu.

Tokeny spotřebované výzvou

Když vytvoříte instrukci výzvy a spustíte ji, stane se následující:

  • Pokyny pro zadání výzvy jsou dekonstruovány do sekvence tokenů, které se nazývají vstupní tokeny.
  • Model vygeneruje odpověď jako sekvenci tokenů označovaných jako výstupní tokeny.

Vstupní tokeny jsou součtem tokenů pocházejících z:

  • Systémový metaprompt od Microsoft. Tato systémová výzva není viditelná a je nezbytná pro bezpečnost vaší odpovědi na výzvu. Představuje několik stovek tokenů.
  • Pokyny pro zadání výzvy.
  • Pokud existují, vstupní hodnoty.
  • Pokud existují, načetla se data znalostní báze.

Výstupní tokeny jsou tokeny pocházející z odpovědi modelu.

Jaký vliv mají tokeny na licencování

Kombinace vstupních tokenů, výstupních tokenů a verze modelu umožňuje vypočítat náklady na spuštění výzvy. Další informace naleznete v sekci Karta se sazbami AI Builder v souboru PDF ke stažení Průvodce licencováním Microsoft Power Platform.

Když vytváříte řešení, která obsahují výzvy, může být pro vás důležité posoudit průměrné náklady na výzvu. Dvě možnosti, jak tohoto cíle dosáhnout, jsou vysvětleny v následujících částech.

Počet kreditů v nástroji pro tvorbu výzev

Když testujete výzvu v centru AI na portálu Power Automate nebo Power Apps , můžete zobrazit kredity spotřebované vaší výzvou. Testování je zdarma, takže se jedná o předpokládanou hodnotu.

Snímek obrazovky kreditů zobrazených v nástroji pro tvorbu výzev.

Počet tokenů z toku Power Automate

Když zavoláte akci výzvy v toku, můžete získat přidružený vstup a tokeny pomocí vzorců.

Vstupní tokeny

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Výstupní tokeny

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Snímek obrazovky vzorců tokenů v Power Automate.

Jak se obrázek nebo dokumenty překládají na tokeny

Když předáte obrázek do výzvy, převede se na tokeny.

Když předáte dokument PDF do výzvy, nejprve se převede na obrázky po jednom obrázku na stránku a poté na tokeny.

Převod tokenů na obrázek plně uplatňuje logiku Azure OpenAI.

Automatické nastavení používáme při předávání obrázků do Azure OpenAI. To znamená, že cena tokenu obrázku závisí na jeho počátečním rozlišení.

Obrázek s nízkým rozlišením

Obrázky s rozlišením nižším než 512 x 512 pixelů mají paušální konverzní poměr 85 tokenů na obrázek bez ohledu na velikost.

Obrázky ve vysokém rozlišení

U obrázků s rozlišením vyšším než 512 × 512 pixelů probíhá převod tokenu ve dvou krocích. Tyto kroky jsou popsány v následující tabulce.

Krok Description Proces převodu
01 Změna velikosti obrázku Velikost obrázku se změní tak, aby se vešel do čtverce 2048 x 2048 pixelů. Pokud je nejkratší strana větší než 768 pixelů, velikost obrázku se dále změní tak, aby nejkratší strana měla délku 768 pixelů. Poměr stran je při změně velikosti zachován.
2 Konverze tokenů Obrázek se změněnou velikostí je rozdělen na dlaždice o velikosti 512 x 512 pixelů. Všechny částečné dlaždice se zaokrouhlují nahoru na celou dlaždici. Počet dlaždic určuje celkovou cenu žetonu: Každá dlaždice o rozměrech 512 x 512 pixelů stojí 170 žetonů. K celkovému počtu se přidá dalších 85 základních tokenů.