Tokens de pedidos
Um modelo de pedido não opera em palavras ou caracteres como unidades de texto, mas usa algo intermediário: tokens.
- Um token pode ser um único caráter, fração de uma palavra ou uma palavra inteira.
- Muitas palavras comuns são representadas por um único token.
- Palavras menos comuns são representadas por vários tokens.
- Quando imagens ou documentos são incluídos numa instrução de pedido, são traduzidos em tokens seguindo as regras de conversão.
Tokens consumidos por um pedido
Quando cria uma instrução de pedido e a executa, acontece o seguinte:
- A instrução de pedido é desconstruída numa sequência de tokens chamada tokens de entrada.
- O modelo gera uma resposta como uma sequência de tokens chamados tokens de saída.
Os tokens de entrada são uma soma dos tokens provenientes de:
- O metaprompt do sistema de Microsoft. Este pedido do sistema não está visível e é essencial para a segurança da sua resposta do pedido. Representa algumas centenas de tokens.
- A instrução do pedido.
- Se houver, os valores de entrada.
- Se houver, os dados de conhecimento obtidos.
Os tokens de saída são os tokens provenientes da resposta do modelo.
Como os tokens afetam o licenciamento
A combinação de tokens de entrada, tokens de saída e a versão do modelo permite calcular o custo da execução do pedido. Saiba mais na secção cartão de taxas do AI Builder no ficheiro PDF transferível do Guia de Licenciamento do Microsoft Power Platform.
Ao criar soluções que incluem pedidos, pode ser importante avaliar o custo médio de um pedido. As duas possibilidades para atingir esse objetivo são explicadas nas seções seguintes.
Contagem de créditos no construtor de pedidos
Ao testar um pedido no Hub de IA no portal do Power Automate ou do Power Apps, pode apresentar os créditos consumidos pelo pedido. Os testes são gratuitos, por isso é um valor projetado.
Contagem de tokens de um fluxo do Power Automate
Ao chamar uma ação de pedido num fluxo, pode obter a entrada e os tokens associados usando fórmulas.
Tokens de entrada
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Tokens de saída
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Como a imagem ou os documentos são traduzidos em tokens
Quando passa uma imagem para um pedido, é convertida em tokens.
Quando passa um documento PDF para um pedido, primeiro é convertido em imagens de uma imagem por página e, em seguida, em tokens.
A conversão de tokens em imagem aplica totalmente a lógica Azure OpenAI.
Usamos a configuração automática ao passar imagens para Azure OpenAI. Isto significa que o custo de token de uma imagem depende da sua resolução inicial.
Imagem de baixa resolução
Imagens com resolução inferior a 512 x 512 pixeis têm a taxa de conversão plana de 85 tokens por imagem, independentemente do tamanho.
Imagens de alta resolução
Para imagens com resolução superior a 512 x 512 pixeis, a conversão do token acontece em duas etapas. As etapas são descritas na tabela seguinte.
| Passo | Description | Processo de conversão |
|---|---|---|
| 5 | Redimensionar a imagem | A imagem é redimensionada para caber dentro de um quadrado de 2048 x 2048 pixeis. Se o lado mais curto for maior que 768 pixeis, a imagem será redimensionada para que o lado mais curto tenha 768 pixeis de comprimento. A proporção é preservada durante o redimensionamento. |
| 2 | Conversão de tokens | A imagem redimensionada é dividida em mosaicos de 512 x 512 pixeis. Todos os mosaicos parciais são arredondados para um mosaico completo. O número de mosaicos determina o custo total do token: cada mosaico de 512 x 512 pixeis custa 170 tokens. Um extra de 85 tokens base são adicionados ao total. |