Tokens de prompt
Um modelo de prompt não opera em palavras ou caracteres como unidades de texto, mas usa algo intermediário: tokens.
- Um token pode ser um único caractere, fração de uma palavra ou uma palavra inteira.
- Muitas palavras comuns são representadas por um único token.
- Palavras menos comuns são representadas por vários tokens.
- Quando imagens ou documentos são incluídos em uma instrução de prompt, eles são convertidos em tokens seguindo as regras de conversão.
Tokens consumidos por um prompt
Quando você cria uma instrução de prompt e a executa, ocorre o seguinte:
- A instrução de prompt é desconstruída em uma sequência de tokens chamada tokens de entrada.
- O modelo gera uma resposta como uma sequência de tokens chamada de tokens de saída.
Os tokens de entrada são uma soma dos tokens provenientes de:
- O metaprompt do sistema da Microsoft. Este prompt do sistema não está visível e é essencial para a segurança da sua resposta imediata. Representa algumas centenas de tokens.
- A instrução de prompt.
- Se houver, os valores de entrada.
- Se houver, os dados de conhecimento recuperados.
Os tokens de saída são os tokens provenientes da resposta do modelo.
Como os tokens afetam o licenciamento
A combinação de tokens de entrada, tokens de saída e a versão do modelo permite que você calcule o custo da execução do prompt. Saiba mais na seção Tabela de tarifas do AI Builder no arquivo PDF para download do Guia de Licenciamento do Microsoft Power Platform.
Quando você cria soluções que incluem prompts, pode ser importante avaliar o custo médio de um prompt. As duas possibilidades para atingir esse objetivo são explicadas nas seções a seguir.
Contagem de créditos no construtor de prompts
Ao testar um prompt no Hub de IA no portal do Power Automate ou do Power Apps, você pode exibir os créditos consumidos pelo prompt. O teste é gratuito, portanto, é um valor projetado.
Contagem de tokens de um fluxo do Power Automate
Ao chamar uma ação de prompt em um fluxo, você pode obter a entrada e os tokens associados usando fórmulas.
Tokens de entrada
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Tokens de saída
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Como imagens ou documentos são convertidos em tokens
Quando você passa uma imagem para um prompt, ela é convertida em tokens.
Quando você passa um documento PDF para um prompt, ele primeiro é convertido em imagens em uma imagem por página e, em seguida, em tokens.
A conversão de tokens para imagem aplica-se totalmente à Lógica do OpenAI do Azure.
Usamos a configuração automática ao passar imagens para o OpenAI do Azure. Isso significa que o custo do token de uma imagem depende de sua resolução inicial.
Imagem de baixa resolução
Imagens com resolução inferior a 512 x 512 pixels têm a taxa de conversão fixa de 85 tokens por imagem, independentemente do tamanho.
Imagens de alta resolução
Para imagens com resolução superior a 512 x 512 pixels, a conversão do token acontece em duas etapas. As etapas são descritas na tabela a seguir.
| Etapa | Description | Processo de conversão |
|---|---|---|
| 0 | Redimensionar a imagem | A imagem é redimensionada para caber dentro de um quadrado de 2048 x 2048 pixels. Se o lado mais curto for maior que 768 pixels, a imagem será redimensionada para que o lado mais curto tenha 768 pixels. A taxa de proporção é preservada durante o redimensionamento. |
| 2 | Conversão de tokens | A imagem redimensionada é dividida em blocos de 512 x 512 pixels. Todos os blocos parciais são arredondados para um bloco completo. O número de blocos determina o custo total do token: cada bloco de 512 x 512 pixels custa 170 tokens. Mais 85 tokens base são adicionados ao total. |