Делите путем

Промптни токени

  • Чланак

Промпт модел не ради на речима или знаковима као јединицама текста, већ уместо тога користи нешто између: токене.

  • Токен може бити један знак, део речи или цела реч.
    • Многе уобичајене речи су представљене једним знаком.
    • Мање уобичајене речи су представљене са више токена.
  • Када су слике или документи укључени у брзу инструкцију, они се преводе у токене након правила конверзије.

Токени конзумирају промпт

Када креирате инструкцију и покренете је, дешава се следеће:

  • Брза инструкција се деконструише у низ токена који се називају улазни токени.
  • Модел генерише одговор као низ токена који се називају излазни токени.

Улазни токени су збир токена који долазе из:

  • Систем метапромпт из Мицрософта. Овај системски упит није видљив и од суштинског је значаја за безбедност вашег брзог одговора. То представља неколико стотина токена.
  • Брза инструкција.
  • Ако их има, улазне вредности.
  • Ако их има, подаци о знању преузети.

Излазни токени су токени који долазе из одговора модела.

Како токени утичу на лиценцирање

Комбинација улазних токена, излазних токена и верзије модела омогућава вам да израчунате трошкове вашег брзог трчања. Сазнајте више у одељку за тарифне AI Builder картице у Microsoft Power Platform ПДФ датотеци Водич за лиценцирање.

Када градите решења која укључују упуте, може бити важно да процените просечну цену упита. Две могућности за постизање тог циља објашњене су у следећим одељцима.

Кредити се рачунају у брзом градитељу

Када тестирате упит у АИ Хуб-у унутар или Power Automate портала Power Apps , можете приказати кредите које троши ваш упит. Тестирање је бесплатно, тако да је пројектована вредност.

Снимак кредита приказан у промпт буилдеру.

Број токена из тока Power Automate

Када позовете брзу акцију у току, можете добити придружени улаз и токене користећи формуле.

Улазни токени

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Излазни токени

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Снимак екрана токенских формула у Power Automate.

Како се слика или документи преводе у токене

Када прођете слику на упит, она се претвара у токене.

Када пренесете ПДФ документ у упит, он се прво претвара у слике на једној слици по страници, а затим у токене.

Конверзија токена у слику у потпуности примењује Азуре логику OpenAI .

Користимо аутоматско подешавање приликом прослеђивања слика на Азуре OpenAI. То значи да цена симбола слике зависи од њене почетне резолуције.

Слика ниске резолуције

Слике са резолуцијом мањом од 512 к 512 пиксела имају фиксну стопу конверзије од 85 токена по слици, без обзира на величину.

Слике високе резолуције

За слике са резолуцијом већом од 512 к 512 пиксела, конверзија токена се одвија у два корака. Кораци су описани у следећој табели.

Корак Опис Процес конверзије
1. Промените величину слике Слика је промењена тако да се уклопи у квадрат пиксела од 2048 к 2048. Ако је најкраћа страна већа од 768 пиксела, слика се даље мења тако да је најкраћа страна дугачка 768 пиксела. Однос се чува током промене величине.
2. Токени конверзија Слика је подељена на 512 к 512 пиксела плочице. Све парцијалне плочице су заокружене до пуне плочице. Број плочица одређује укупну цену токена: Свака плочица од 512 к 512 пиксела кошта 170 токена. Додатних 85 основних токена се додаје укупном.