นับโทเค็นและอักขระที่เรียกเก็บเงินได้

โมเดล Generative AI (เช่น โมเดล Gemini) จะแบ่งข้อมูลออกเป็นหน่วยที่เรียกว่าโทเค็นเพื่อประมวลผล โมเดล Gemini แต่ละโมเดลมีจำนวนโทเค็นสูงสุดที่สามารถจัดการได้ในพรอมต์และคำตอบ

หน้านี้จะแสดงวิธีดูจํานวนโทเค็นโดยประมาณและจํานวนตัวอักษรที่เรียกเก็บเงินได้สําหรับคําขอ

จำนวนข้อมูลที่ระบุมีอะไรบ้าง

สิ่งที่ควรทราบเกี่ยวกับการนับโทเค็นและอักขระที่เรียกเก็บเงินได้มีดังนี้

  • การนับโทเค็นทั้งหมด

    • จำนวนนี้มีประโยชน์ในการป้องกันไม่ให้คำขอล้นหน้าต่างบริบทที่อนุญาต

    • จํานวนโทเค็นจะแสดงขนาดของไฟล์ทั้งหมด (เช่น รูปภาพ) ที่ระบุไว้เป็นส่วนหนึ่งของอินพุตคําขอ แต่จะไม่นับจำนวนรูปภาพหรือจำนวนวินาทีในวิดีโอ

    • สำหรับโมเดล Gemini ทั้งหมด โทเค็นจะมีความยาวประมาณ 4 อักขระ โทเค็น 100 ชิ้นเป็นคำภาษาอังกฤษประมาณ 60-80 คำ

  • การนับจำนวนอักขระทั้งหมดที่เรียกเก็บเงินได้

    • จำนวนนี้มีประโยชน์ในการทำความเข้าใจและควบคุมค่าใช้จ่าย เนื่องจากสำหรับ Vertex AI จำนวนอักขระเป็นส่วนหนึ่งของการคำนวณราคา

    • จำนวนอักขระที่เรียกเก็บเงินได้จะแสดงจำนวนอักขระในข้อความที่ระบุไว้เป็นส่วนหนึ่งของอินพุตคำขอ

สำหรับ Vertex AI โทเค็นจะไม่รวมอยู่ในการคำนวณราคา ดูข้อมูลเพิ่มเติมเกี่ยวกับขีดจำกัดของโทเค็นต่อรุ่นและการกำหนดราคาต่อรูปแบบ

ราคาและโควต้าสำหรับโทเค็นการนับและอักขระที่เรียกเก็บเงินได้

ไม่มีค่าใช้จ่ายหรือข้อจำกัดโควต้าในการใช้ CountTokens API โควต้าสูงสุดสำหรับ CountTokens API คือ 3,000 คำขอต่อนาที

ตัวอย่างโค้ด

การป้อนข้อความเท่านั้น

อินพุตหลายโมดัล