พร้อมท์โทเค็น
โมเดลพร้อมท์ไม่ได้ทำงานกับคำหรืออักขระเป็นหน่วยของข้อความ แต่จะใช้บางสิ่งที่อยู่ระหว่างนั้นแทน: โทเค็น
- โทเค็นสามารถเป็นอักขระตัวเดียว เศษส่วนของคำ หรือทั้งคำ
- คำทั่วไปหลายคำแสดงด้วยโทเค็นเดียว
- คำที่พบได้น้อยจะแสดงด้วยโทเค็นหลายตัว
- เมื่อรูปภาพหรือเอกสารรวมอยู่ในคำสั่งพร้อมท์ รูปภาพหรือเอกสารเหล่านั้นจะถูกแปลเป็นโทเค็นตามกฎการแปลง
โทเค็นที่ถูกใช้โดยพร้อมท์
เมื่อคุณสร้างคำแนะนำพร้อมท์ และเรียกใช้ สิ่งต่อไปนี้จะเกิดขึ้น:
- คำสั่งพร้อมท์จะถูกแยกออกเป็นลำดับของโทเค็นที่เรียกว่า โทเค็นอินพุต
- โมเดลสร้างคำตอบเป็นลำดับของโทเค็นที่เรียกว่า โทเค็นเอาต์พุต
โทเค็นอินพุตคือผลรวมของโทเค็นที่มาจาก:
- เมตาพร้อมท์ของระบบจาก Microsoft พร้อมท์ของระบบนี้จะไม่ปรากฏให้เห็นและจำเป็นสำหรับความปลอดภัยในการตอบพร้อมท์ของคุณ โดยจะแสดงถึงหลายร้อยโทเค็น
- คำสั่งพร้อมท์
- ถ้ามี ค่าอินพุต
- หากมี มีการดึงข้อมูลความรู้
โทเค็นเอาต์พุตคือโทเค็นที่มาจากการตอบสนองของโมเดล
โทเค็นส่งผลต่อการออกใบอนุญาตอย่างไร
การรวมกันของโทเค็นอินพุต โทเค็นเอาต์พุต และเวอร์ชันโมเดลทำให้คุณสามารถคำนวณต้นทุนของการเรียกใช้พร้อมท์ได้ เรียนรู้เพิ่มเติมในส่วน บัตรอัตรา AI Builder ในไฟล์ PDF ที่ดาวน์โหลดได้ของ คู่มือการให้สิทธิการใช้งาน Microsoft Power Platform
เมื่อคุณสร้างโซลูชันที่มีพร้อมท์ การประเมินต้นทุนเฉลี่ยของพร้อมท์อาจเป็นสิ่งสำคัญสำหรับคุณ ความเป็นไปได้สองประการในการบรรลุเป้าหมายนั้นได้อธิบายไว้ในส่วนต่อไปนี้
จำนวนเครดิตในเครื่องมือสร้างพร้อมท์
เมื่อคุณทดสอบพร้อมท์ในฮับ AI ภายใน Power Automate หรือพอร์ทัล Power Apps คุณสามารถแสดงเครดิตที่ใช้โดยพร้อมท์ของคุณ การทดสอบนั้นฟรี ดังนั้นจึงเป็นค่าที่คาดการณ์ไว้
จำนวนโทเค็นจากโฟลว์ของ Power Automate
เมื่อคุณเรียกใช้การดำเนินการพร้อมท์ในโฟลว์ คุณสามารถรับอินพุตและโทเค็นที่เกี่ยวข้องได้โดยใช้สูตร
โทเค็นอินพุต
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
โทเค็นเอาต์พุต
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
วิธีการแปลรูปภาพหรือเอกสารเป็นโทเค็น
เมื่อคุณส่งรูปภาพไปยังพร้อมท์ รูปภาพนั้นจะถูกแปลงเป็นโทเค็น
เมื่อคุณส่งเอกสาร PDF ไปยังพร้อมท์ เอกสารนั้นจะถูกแปลงเป็นรูปภาพที่หนึ่งภาพต่อหน้าก่อน แล้วจึงแปลงเป็นโทเค็น
การแปลงโทเค็นเป็นรูปภาพใช้ ตรรกะ OpenAI Azure โดยสมบูรณ์
เราใช้การตั้งค่า อัตโนมัติ เมื่อส่งผ่านรูปภาพไปยัง Azure OpenAI ซึ่งหมายความว่าต้นทุนโทเค็นของรูปภาพขึ้นอยู่กับความละเอียดเริ่มต้น
ภาพความละเอียดต่ำ
รูปภาพที่มีความละเอียดต่ำกว่า 512 x 512 พิกเซลมีอัตราการแปลงคงที่ 85 โทเค็นต่อภาพ โดยไม่คำนึงถึงขนาด
ภาพความละเอียดสูง
สำหรับรูปภาพที่มีความละเอียดสูงกว่า 512 x 512 พิกเซลการแปลงโทเค็นจะเกิดขึ้นในสองขั้นตอน ขั้นตอนต่างๆ มีการอธิบายไว้ในตารางต่อไปนี้
ขั้น | Description | กระบวนการของการแปลง |
---|---|---|
1 | ปรับขนาดรูปภาพ | รูปภาพถูกปรับขนาดให้พอดีกับสี่เหลี่ยมจัตุรัสขนาด 2048 x 2048 พิกเซล หากด้านที่สั้นที่สุดมีขนาดใหญ่กว่า 768 พิกเซล รูปภาพจะถูกปรับขนาดเพิ่มเติมเพื่อให้ด้านที่สั้นที่สุดมีความยาว 768 พิกเซล อัตราส่วนภาพจะถูกรักษาไว้ระหว่างการปรับขนาด |
2 | การแปลงโทเค็น | ภาพที่ปรับขนาดแล้วจะแบ่งออกเป็นไทล์ขนาด 512 x 512 พิกเซล ไทล์บางส่วนจะถูกปัดเศษขึ้นเป็นไทล์เต็ม จำนวนไทล์กำหนดต้นทุนโทเค็นทั้งหมด: ไทล์ขนาด 512 x 512 พิกเซลแต่ละแผ่นมีราคา 170 โทเค็น มีการเพิ่มโทเค็นฐานเพิ่มเติม 85 รายการในยอดรวม |