Deli putem

Promptni tokeni

  • Članak

Prompt model ne radi na rečima ili znakovima kao jedinicama teksta, već umesto toga koristi nešto između: tokene.

  • Token može biti jedan znak, deo reči ili cela reč.
    • Mnoge uobičajene reči su predstavljene jednim znakom.
    • Manje uobičajene reči su predstavljene sa više tokena.
  • Kada su slike ili dokumenti uključeni u brzu instrukciju, oni se prevode u tokene nakon pravila konverzije.

Tokeni konzumiraju prompt

Kada kreirate instrukciju i pokrenete je, dešava se sledeće:

  • Brza instrukcija se dekonstruiše u niz tokena koji se nazivaju ulazni tokeni.
  • Model generiše odgovor kao niz tokena koji se nazivaju izlazni tokeni.

Ulazni tokeni su zbir tokena koji dolaze iz:

  • Sistem metaprompt iz Microsofta. Ovaj sistemski upit nije vidljiv i od suštinskog je značaja za bezbednost vašeg brzog odgovora. To predstavlja nekoliko stotina tokena.
  • Brza instrukcija.
  • Ako ih ima, ulazne vrednosti.
  • Ako ih ima, podaci o znanju preuzeti.

Izlazni tokeni su tokeni koji dolaze iz odgovora modela.

Kako tokeni utiču na licenciranje

Kombinacija ulaznih tokena, izlaznih tokena i verzije modela omogućava vam da izračunate troškove vašeg brzog trčanja. Saznajte više u odeljku za tarifne AI Builder kartice u Microsoft Power Platform PDF datoteci Vodič za licenciranje.

Kada gradite rešenja koja uključuju upute, može biti važno da procenite prosečnu cenu upita. Dve mogućnosti za postizanje tog cilja objašnjene su u sledećim odeljcima.

Krediti se računaju u brzom graditelju

Kada testirate upit u AI Hub-u unutar ili Power Automate portala Power Apps , možete prikazati kredite koje troši vaš upit. Testiranje je besplatno, tako da je projektovana vrednost.

Snimak kredita prikazan u prompt builderu.

Broj tokena iz toka Power Automate

Kada pozovete brzu akciju u toku, možete dobiti pridruženi ulaz i tokene koristeći formule.

Ulazni tokeni

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Izlazni tokeni

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Snimak ekrana tokenskih formula u Power Automate.

Kako se slika ili dokumenti prevode u tokene

Kada prođete sliku na upit, ona se pretvara u tokene.

Kada prenesete PDF dokument u upit, on se prvo pretvara u slike na jednoj slici po stranici, a zatim u tokene.

Konverzija tokena u sliku u potpunosti primenjuje Azure logiku OpenAI .

Koristimo automatsko podešavanje prilikom prosleđivanja slika na Azure OpenAI. To znači da cena simbola slike zavisi od njene početne rezolucije.

Slika niske rezolucije

Slike sa rezolucijom manjom od 512 k 512 piksela imaju fiksnu stopu konverzije od 85 tokena po slici, bez obzira na veličinu.

Slike visoke rezolucije

Za slike sa rezolucijom većom od 512 k 512 piksela, konverzija tokena se odvija u dva koraka. Koraci su opisani u sledećoj tabeli.

Korak Opis Proces konverzije
1 Promenite veličinu slike Slika je promenjena tako da se uklopi u kvadrat piksela od 2048 k 2048. Ako je najkraća strana veća od 768 piksela, slika se dalje menja tako da je najkraća strana dugačka 768 piksela. Odnos se čuva tokom promene veličine.
2 Tokeni konverzija Slika je podeljena na 512 k 512 piksela pločice. Sve parcijalne pločice su zaokružene do pune pločice. Broj pločica određuje ukupnu cenu tokena: Svaka pločica od 512 k 512 piksela košta 170 tokena. Dodatnih 85 osnovnih tokena se dodaje ukupnom.