Partager via

Jetons d’invite

  • Article

Un modèle d’invite n’opère pas sur les mots ou les caractères en tant qu’unités de texte, mais utilise à la place quelque chose entre les deux : des jetons.

  • Un jeton peut être un seul caractère, une fraction de mot ou un mot entier.
    • De nombreux mots courants sont représentés par un seul jeton.
    • Les mots moins courants sont représentés par plusieurs jetons.
  • Lorsque des images ou des documents sont inclus dans une instruction d’invite, ils sont traduits en jetons en suivant les règles de conversion.

Jetons consommés par une invite

Lorsque vous créez une instruction d’invite et que vous l’exécutez, voici ce qui se produit :

  • L’instruction d’invite est déconstruite en une séquence de jetons appelés jetons d’entrée.
  • Le modèle génère une réponse sous la forme d’une séquence de jetons appelés jetons de sortie.

Les jetons d’entrée sont la somme des jetons provenant de :

  • La méta-invite système de Microsoft. Cette invite système n’est pas visible et est essentielle pour la sécurité de votre réponse à l'invite. Il représente quelques centaines de jetons.
  • L’instruction d’invite.
  • Le cas échéant, les valeurs d’entrée.
  • Le cas échéant, les données de la base de connaissances récupérées.

Les jetons de sortie sont les jetons provenant de la réponse du modèle.

Impact des jetons sur les licences

La combinaison des jetons d’entrée, des jetons de sortie et de la version du modèle vous permet de calculer le coût de votre exécution d’invite. Pour en savoir plus, consultez la section Carte de tarifs AI Builder dans le fichier PDF téléchargeable Guide des Licences Microsoft Power Platform.

Lorsque vous créez des solutions qui incluent des invites, il peut être important pour vous d’évaluer le coût moyen d’une invite. Les deux possibilités pour atteindre cet objectif sont expliquées dans les sections suivantes.

Les crédits comptent dans le générateur d’invites

Lorsque vous testez une invite dans le hub d’IA au sein du portail Power Automate ou Power Apps , vous pouvez afficher les crédits consommés par votre invite. Les tests sont gratuits, il s’agit donc d’une valeur projetée.

Capture d’écran des crédits affichés dans le générateur d’invites.

Nombre de jetons d’un flux Power Automate

Lorsque vous appelez une action d’invite dans un flux, vous pouvez obtenir l’entrée et les jetons associés à l’aide de formules.

Jetons d’entrée

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Jetons de sortie

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Capture d’écran des formules de jeton dans Power Automate.

Comment les images ou les documents sont traduits en jetons

Lorsque vous transmettez une image à une invite, elle est convertie en jetons.

Lorsque vous transmettez un document PDF à une invite, il est d’abord converti en images à raison d’une image par page, puis en jetons.

La conversion de jetons en image applique entièrement la logique Azure OpenAI.

Nous utilisons le paramètre automatique lors de la transmission d’images à Azure OpenAI. Cela signifie que le coût en jetons d’une image dépend de sa résolution initiale.

Image basse résolution

Les images dont la résolution est inférieure à 512 x 512 pixels ont un taux de conversion forfaitaire de 85 jetons par image, quelle que soit leur taille.

Images haute résolution

Pour les images dont la résolution est supérieure à 512 x 512 pixels, la conversion du jeton se fait en deux étapes. Les étapes sont décrites dans le tableau suivant.

Step Description Processus de conversion
1 Redimensionner l’image L’image est redimensionnée pour tenir dans un carré de 2048 x 2048 pixels. Si la taille du côté le plus court est supérieure à 768 pixels, l’image est redimensionnée de sorte que le côté le plus court mesure 768 pixels de long. Les proportions sont conservées lors du redimensionnement.
2 Conversion de jetons L’image redimensionnée est divisée en mosaïques de 512 x 512 pixels. Toutes les tuiles partielles sont arrondies à une tuile complète. Le nombre de tuiles détermine le coût total du jeton : chaque tuile de 512 x 512 pixels coûte 170 jetons. 85 jetons de base supplémentaires sont ajoutés au total.