Bagikan melalui

Token prompt

  • Artikel

Model prompt tidak beroperasi pada kata atau karakter sebagai unit teks, tetapi menggunakan sesuatu di antaranya: token.

  • Token dapat berupa satu karakter, pecahan kata, atau seluruh kata.
    • Banyak kata umum diwakili oleh satu token.
    • Kata-kata yang kurang umum diwakili oleh beberapa token.
  • Saat gambar atau dokumen disertakan dalam instruksi cepat, gambar atau dokumen tersebut diterjemahkan ke dalam token mengikuti aturan konversi.

Token yang digunakan oleh prompt

Saat Anda membuat instruksi prompt dan menjalankannya, hal berikut akan terjadi:

  • Instruksi prompt didekonstruksi menjadi urutan token yang disebut token input.
  • Model menghasilkan jawaban sebagai urutan token yang disebut token output.

Token input adalah jumlah token yang berasal dari:

  • Metaprompt sistem dari Microsoft. Perintah sistem ini tidak terlihat dan penting untuk keamanan respons cepat Anda. Ini mewakili beberapa ratus token.
  • Instruksi cepat.
  • Jika ada, nilai input.
  • Jika ada, data pengetahuan diambil.

Token output adalah token yang berasal dari respons model.

Bagaimana token memengaruhi lisensi

Kombinasi token input, token output, dan versi model memungkinkan Anda menghitung biaya eksekusi prompt Anda. Pelajari lebih lanjut di AI Builder bagian kartu tarif di file Microsoft Power Platform PDF Panduan Lisensi yang dapat diunduh.

Saat Anda membuat solusi yang menyertakan petunjuk, penting bagi Anda untuk menilai biaya rata-rata petunjuk. Dua kemungkinan untuk mencapai tujuan itu dijelaskan di bagian berikut.

Kredit dihitung di pembuat prompt

Saat Anda menguji perintah di AI Hub dalam portal atau Power Automate Power Apps , Anda dapat menampilkan kredit yang digunakan oleh perintah Anda. Pengujian gratis, jadi ini adalah nilai yang diproyeksikan.

Tangkapan layar kredit yang ditampilkan di prompt builder.

Jumlah token dari alur Power Automate

Saat Anda memanggil tindakan prompt dalam alur, Anda bisa mendapatkan input dan token terkait menggunakan rumus.

Token masukan

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Token keluaran

outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Tangkapan layar rumus token di. Power Automate

Cara gambar atau dokumen diterjemahkan ke dalam token

Saat Anda meneruskan gambar ke prompt, gambar tersebut akan diubah menjadi token.

Saat Anda meneruskan dokumen PDF ke dalam prompt, dokumen tersebut pertama-tama akan diubah menjadi gambar pada satu gambar per halaman, dan kemudian menjadi token.

Konversi token-ke-gambar sepenuhnya menerapkan logika OpenAI Azure.

Kami menggunakan pengaturan otomatis saat meneruskan gambar ke Azure OpenAI. Ini berarti biaya token gambar tergantung pada resolusi awalnya.

Gambar beresolusi rendah

Gambar dengan resolusi lebih rendah dari 512 x 512 piksel memiliki tingkat konversi tetap 85 token per gambar, terlepas dari ukurannya.

Gambar beresolusi tinggi

Untuk gambar dengan resolusi lebih tinggi dari 512 x 512 piksel, konversi token terjadi dalam dua langkah. Langkah-langkahnya dijelaskan dalam tabel berikut.

Langkah Description Proses konversi
1 Ubah ukuran gambar Gambar diubah ukurannya agar sesuai dengan persegi 2048 x 2048 piksel. Jika sisi terpendek lebih besar dari 768 piksel, gambar akan diubah ukurannya lebih lanjut sehingga sisi terpendek memiliki panjang 768 piksel. Rasio aspek dipertahankan selama pengubahan ukuran.
2 Konversi token Gambar yang diubah ukurannya dibagi menjadi ubin 512 x 512 piksel. Setiap ubin parsial dibulatkan menjadi ubin penuh. Jumlah ubin menentukan total biaya token: Setiap ubin 512 x 512 piksel berharga 170 token. Tambahan 85 token dasar ditambahkan ke total.