Símbolos (tokens) de solicitud
Un modelo de solicitud no opera en palabras o caracteres como unidades de texto, sino que usa algo intermedio: tokens.
- Un token puede ser un solo carácter, una fracción de una palabra o una palabra completa.
- Muchas palabras comunes están representadas por un solo token.
- Las palabras menos comunes están representadas por varios tokens.
- Cuando se incluyen imágenes o documentos en una instrucción de mensaje, se traducen en tokens siguiendo las reglas de conversión.
Tokens consumidos por una solicitud
Cuando se crea una instrucción de solicitud y se ejecuta, ocurre lo siguiente:
- La instrucción de solicitud se deconstruye en una secuencia de tokens llamados tokens de entrada.
- El modelo genera una respuesta como una secuencia de tokens denominados tokens de salida.
Los tokens de entrada son una suma de los tokens procedentes de:
- El metaprompt del sistema de Microsoft. Este mensaje del sistema no es visible y es esencial para la seguridad de su respuesta a la solicitud. Representa unos pocos cientos de tokens.
- La instrucción de la solicitud.
- En su caso, los valores de entrada.
- En su caso, los datos de conocimiento recuperados.
Los tokens de salida son los tokens procedentes de la respuesta del modelo.
Cómo afectan los tokens a las licencias
La combinación de tokens de entrada, tokens de salida y la versión del modelo le permite calcular el costo de la ejecución de mensajes. Obtenga más información en la sección Tarjeta de tarifas de AI Builder del archivo PDF descargable Guía de licencias de Microsoft Power Platform.
Al crear soluciones que incluyen solicitudes, puede ser importante que evalúe el costo promedio de una solicitud. Las dos posibilidades para lograr ese objetivo se explican en las siguientes secciones.
Los créditos cuentan en el generador de solicitudes
Cuando pruebe una indicación en AI Hub dentro del portal Power Automate o Power Apps, puede mostrar los créditos consumidos por su solicitud. Las pruebas son gratuitas, por lo que es un valor proyectado.
Recuento de tokens de un flujo de Power Automate
Cuando llama a una acción de solicitud en un flujo, puede obtener la entrada y los tokens asociados mediante fórmulas.
Tokens de entrada
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Tokens de salida
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Cómo se traducen imágenes o documentos en tokens
Cuando pasas una imagen a un mensaje, se convierte en tokens.
Cuando se pasa un documento PDF a una solicitud, primero se convierte en imágenes a razón de una imagen por página y, a continuación, en tokens.
La conversión de tokens a imagen aplica completamente la lógica de Azure OpenAI.
Usamos la configuración automática cuando pasamos imágenes a Azure OpenAI. Esto significa que el coste en tokens de una imagen depende de su resolución inicial.
Imagen de baja resolución
Las imágenes con una resolución inferior a 512 x 512 píxeles tienen una tasa de conversión fija de 85 tokens por imagen, independientemente del tamaño.
Imágenes de alta resolución
Para imágenes con una resolución superior a 512 x 512 píxeles, la conversión de tokens se realiza en dos pasos. Las fases se describen en la siguiente tabla.
| Paso a paso | Description | Proceso de conversión |
|---|---|---|
| 1 | Cambiar tamaño de imagen | Se cambia el tamaño de la imagen para que quepa dentro de un cuadrado de 2048 x 2048 píxeles. Si el lado más corto tiene más de 768 píxeles, el tamaño de la imagen se redimensiona aún más para que el lado más corto tenga 768 píxeles de largo. La relación de aspecto se conserva durante el cambio de tamaño. |
| 2 | Conversión de tokens | La imagen redimensionada se divide en mosaicos de 512 x 512 píxeles. Las mosaicos parciales se redondean a un mosaico completo. El número de mosaicos determina el coste total de los tokens: cada mosaico de 512 x 512 píxeles cuesta 170 tokens. Se añaden 85 tokens base adicionales al total. |