Fitxes de sol·licitud
Un model de sol·licitud no funciona amb paraules o caràcters com a unitats de text, sinó que utilitza alguna cosa entremig: fitxes.
- Una fitxa pot ser un sol caràcter, una fracció d'una paraula o una paraula sencera.
- Moltes paraules comunes estan representades per un sol símbol.
- Les paraules menys comunes estan representades per múltiples fitxes.
- Quan s'inclouen imatges o documents en una instrucció de sol·licitud, es tradueixen en fitxes seguint les regles de conversió.
Fitxes consumides per una sol·licitud
Quan creeu una instrucció de sol·licitud i l'executeu, passa el següent:
- La instrucció prompt es deconstrueix en una seqüència de tokens anomenats tokens d'entrada .
- El model genera una resposta com una seqüència de fitxes anomenades fitxes de sortida.
Les fitxes d'entrada són una suma de les fitxes procedents de:
- El metaprompt del sistema de Microsoft. Aquest missatge del sistema no és visible i és essencial per a la seguretat de la vostra resposta ràpida. Representa uns quants centenars de fitxes.
- La instrucció ràpida.
- Si n'hi ha, els valors d'entrada.
- Si n'hi ha, les dades de coneixement recuperades.
Els tokens de sortida són els tokens que provenen de la resposta del model.
Com afecten els tokens a les llicències
La combinació de fitxes d'entrada, fitxes de sortida i la versió del model us permet calcular el cost de l'execució de la sol·licitud. Obteniu més informació a la AI Builder secció de la targeta de tarifes del fitxer PDF descarregable de la Microsoft Power Platform Guia de llicències.
Quan creeu solucions que inclouen sol·licituds, pot ser important que avalueu el cost mitjà d'una sol·licitud. Les dues possibilitats per assolir aquest objectiu s'expliquen en els apartats següents.
Els crèdits compten al creador de sol·licituds
Quan proveu una sol·licitud a AI Hub dins del Power Automate portal o Power Apps podeu mostrar els crèdits consumits per la sol·licitud. Les proves són gratuïtes, de manera que és un valor projectat.
Recompte de fitxes d'un Power Automate flux
Quan crideu una acció de sol·licitud en un flux, podeu obtenir l'entrada i els testimonis associats mitjançant fórmules.
Fitxes d'entrada
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Fitxes de sortida
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Com es tradueixen les imatges o els documents en tokens
Quan passeu una imatge a una sol·licitud, es converteix en fitxes.
Quan passeu un document PDF a una sol·licitud, primer es converteix en imatges a una imatge per pàgina i després en fitxes.
La conversió de testimonis a imatge aplica completament la lògica de l'Azure. OpenAI
Utilitzem la configuració automàtica quan passem imatges a Azure OpenAI. Això significa que el cost simbòlic d'una imatge depèn de la seva resolució inicial.
Imatge de baixa resolució
Les imatges amb una resolució inferior a 512 x 512 píxels tenen una taxa de conversió plana de 85 fitxes per imatge, independentment de la mida.
Imatges d'alta resolució
Per a imatges amb una resolució superior a 512 x 512 píxels, la conversió de tokens es produeix en dos passos. Els passos es descriuen a la taula següent.
| Pas | Descripció | Procés de conversió |
|---|---|---|
| 1 | Canviar la mida de la imatge | La imatge es canvia de mida per adaptar-se a un quadrat de 2048 x 2048 píxels. Si el costat més curt és té més de 768 píxels, la imatge es canvia de mida de manera que el costat més curt tingui 768 píxels de llarg. La relació d'aspecte es conserva durant el canvi de mida. |
| 2 | Conversió de fitxes | La imatge redimensionada es divideix en rajoles de 512 x 512 píxels. Qualsevol fitxa parcial s'arrodoneix a una fitxa completa. El nombre de fitxes determina el cost total de les fitxes: cada fitxa de 512 x 512 píxels costa 170 fitxes. S'afegeixen 85 fitxes base addicionals al total. |