Raginimo žetonai
Greitas modelis neveikia žodžiais ar simboliais kaip teksto vienetais, o naudoja kažką tarp jų: atpažinimo ženklus.
- Atpažinimo ženklas gali būti vienas simbolis, žodžio dalis arba visas žodis.
- Daugelį bendrų žodžių vaizduoja vienas žetonas.
- Mažiau paplitusius žodžius vaizduoja keli žetonai.
- Kai vaizdai ar dokumentai įtraukiami į greitą instrukciją, jie paverčiami žetonais pagal konvertavimo taisykles.
Žetonai, kuriuos sunaudoja raginimas
Kai sukuriate greitą nurodymą ir jį paleidžiate, atsitinka taip:
- Greita instrukcija dekonstruojama į žetonų seką, vadinamą įvesties žetonais.
- Modelis sugeneruoja atsakymą kaip žetonų seką, vadinamą išvesties žetonais.
Įvesties žetonai yra žetonų, gaunamų iš:
- Sistemos metaprompt iš Microsoft. Šis sistemos raginimas nėra matomas ir yra būtinas jūsų greito atsakymo saugumui. Tai reiškia kelis šimtus žetonų.
- Greitas nurodymas.
- Jei yra, įvesties vertės.
- Jei yra, gauti žinių duomenys.
Išvesties žetonai yra žetonai, gaunami iš modelio atsakymo.
Kaip žetonai veikia licencijavimą
Įvesties žetonų, išvesties žetonų ir modelio versijos derinys leidžia apskaičiuoti greito paleidimo kainą. Sužinokite daugiau AI Builder licencijavimo vadovo atsisiunčiamo PDF failo įkainių kortelės Microsoft Power Platform skyriuje .
Kai kuriate sprendimus, apimančius raginimus, jums gali būti svarbu įvertinti vidutinę raginimo kainą. Dvi galimybės pasiekti šį tikslą paaiškintos tolesniuose skyriuose.
Kreditai skaičiuojami greitoje kūrimo priemonėje
Kai tikrinate raginimą portalo "AI" telkinyje arba Power Automate portale Power Apps , galite rodyti raginimo sunaudotus kreditus. Testavimas yra nemokamas, todėl tai yra numatoma vertė.
Žetonų skaičius iš Power Automate srauto
Kai iškviečiate greitą srauto veiksmą, galite gauti susietą įvestį ir atpažinimo ženklus naudodami formules.
Įvesties žetonai
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Išvesties žetonai
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Kaip vaizdas ar dokumentai verčiami į žetonus
Kai perduodate vaizdą raginimui, jis konvertuojamas į žetonus.
Kai perduodate PDF dokumentą į raginimą, jis pirmiausia konvertuojamas į atvaizdus po vieną atvaizdą puslapyje, o tada į atpažinimo ženklus.
Žetonų konvertavimas į vaizdą visiškai taiko "Azure" OpenAI logiką.
Mes naudojame automatinį nustatymą, kai perduodame vaizdus į "Azure". OpenAI Tai reiškia, kad simbolinė vaizdo kaina priklauso nuo jo pradinės skiriamosios gebos.
Mažos skiriamosios gebos vaizdas
Vaizdų, kurių skiriamoji geba mažesnė nei 512 x 512 pikselių, fiksuotas konvertavimo rodiklis yra 85 žetonai vienam vaizdui, neatsižvelgiant į dydį.
Didelės skiriamosios gebos vaizdai
Vaizdams, kurių skiriamoji geba didesnė nei 512 x 512 pikselių, žetono konvertavimas atliekamas dviem etapais. Veiksmai aprašyti šioje lentelėje.
| Veiksmas | Aprašą | Konversijos procesas |
|---|---|---|
| 1 | Vaizdo dydžio keitimas | Vaizdo dydis keičiamas, kad tilptų į 2048 x 2048 pikselių kvadratą. Jei trumpiausia pusė yra didesnė nei 768 pikseliai, vaizdo dydis dar keičiamas taip, kad trumpiausia pusė būtų 768 pikselių ilgio. Keičiant dydį išsaugomas kraštinių santykis. |
| 2 | Žetonų konvertavimas | Pakeistas vaizdas yra padalintas į 512 x 512 pikselių plyteles. Visos dalinės plytelės suapvalinamos iki pilnos plytelės. Plytelių skaičius lemia bendrą žetonų kainą: kiekviena 512 x 512 pikselių plytelė kainuoja 170 žetonų. Prie bendros sumos pridedami papildomi 85 baziniai žetonai. |