นับโทเค็นสำหรับโมเดล Gemini

โมเดล Gemini จะประมวลผลอินพุตและเอาต์พุตในหน่วยที่เรียกว่าโทเค็น

โทเค็นอาจเป็นอักขระเดี่ยวๆ เช่น z หรือทั้งคำ เช่น cat คำที่ยาวจะถูกแบ่งออกเป็นหลายโทเค็น ชุดโทเค็นทั้งหมดที่โมเดลใช้เรียกว่าคำศัพท์ และกระบวนการแยกข้อความเป็นโทเค็นเรียกว่าการแยกโทเค็น

สำหรับโมเดล Gemini โทเค็น 1 รายการจะเทียบเท่ากับอักขระประมาณ 4 ตัว 100 โทเค็นจะเท่ากับคำภาษาอังกฤษประมาณ 60-80 คำ

แต่ละโมเดลมีจำนวนโทเค็นสูงสุดที่สามารถจัดการได้ในพรอมต์และคำตอบ การทราบจำนวนโทเค็นของพรอมต์จะช่วยให้คุณทราบว่าคุณใช้เกินขีดจำกัดนี้หรือไม่ นอกจากนี้ ค่าใช้จ่ายของคำขอยังขึ้นอยู่กับจำนวนโทเค็นอินพุตและเอาต์พุตด้วย ดังนั้นการรู้วิธีนับโทเค็นจึงเป็นประโยชน์

โมเดลที่รองรับ

  • gemini-4-argon
  • gemini-3.8-flash (และ gemini-3.7-flash, gemini-3.6-flash และ gemini-3.5-flash รุ่นเก่า)
  • gemini-3.5-flash-lite (และ gemini-3.1-flash-lite รุ่นเก่า)
  • gemini-nano-banana-2.1 (Nano Banana 2.1)
  • gemini-3.1-flash-image (Nano Banana 2)
  • gemini-3.1-flash-lite-image (Nano Banana 2 Lite)
  • gemini-3-pro-image (Nano Banana Pro)
  • gemini-3.1-flash-tts-preview

โมเดล gemini-3.1-pro-preview, โมเดลการใช้งานทั่วไป และโมเดลการสร้างรูปภาพGemini 2.5 (ซึ่งเลิกใช้งานแล้ว) ก็รองรับความสามารถนี้เช่นกัน

ตัวเลือกสำหรับการนับโทเค็น

อินพุตและเอาต์พุตทั้งหมดสำหรับ Gemini API จะได้รับการแปลงเป็นโทเค็น ซึ่งรวมถึงข้อความ ไฟล์ภาพ และรูปแบบอื่นๆ ที่ไม่ใช่ข้อความ ตัวเลือกสำหรับการนับโทเค็นมีดังนี้

ตรวจสอบจำนวนโทเค็นสำหรับคำขอเท่านั้น (ก่อนส่งไปยังโมเดล)
เรียกใช้ countTokens ด้วยอินพุตของคำขอก่อนส่งไปยังโมเดล ซึ่งจะแสดงผลดังนี้
  • total_tokens: จำนวนโทเค็นของอินพุตเท่านั้น
ตรวจสอบจำนวนโทเค็นสำหรับทั้งคำขอและคำตอบ
เข้าถึงแอตทริบิวต์ usageMetadata ในออบเจ็กต์การตอบกลับ ซึ่งรวมถึงข้อมูลต่อไปนี้
  • prompt_token_count: จำนวนโทเค็นของอินพุตเท่านั้น
  • candidates_token_count: จำนวนโทเค็นของเอาต์พุตเท่านั้น (ไม่รวมโทเค็นการคิด)
  • thoughts_token_count: จำนวนโทเค็นของโทเค็นการคิดที่ใช้สร้างคำตอบ
  • total_token_count: จำนวนโทเค็นทั้งหมดสำหรับทั้งอินพุตและเอาต์พุต (รวมถึงโทเค็นการคิด)

เมื่อสตรีมเอาต์พุต แอตทริบิวต์ usageMetadata จะปรากฏในส่วนสุดท้ายของสตรีมเท่านั้น โดยจะมีค่าเป็น nil สำหรับกลุ่มข้อมูลระดับกลาง

โปรดทราบประเด็นต่อไปนี้เกี่ยวกับตัวเลือกข้างต้น

  • แต่จะไม่นับจำนวนรูปภาพอินพุตหรือจำนวนวินาทีในไฟล์อินพุตวิดีโอหรือเสียง อย่างไรก็ตาม จำนวนโทเค็นสำหรับรูปแบบเหล่านี้แต่ละรูปแบบจะสัมพันธ์กับค่าเหล่านี้
  • จำนวนโทเค็นอินพุตจะรวมพรอมต์ (ข้อความและไฟล์อินพุต) รวมถึงคำสั่งและเครื่องมือของระบบ
  • จำนวนโทเค็นเอาต์พุตไม่รวมโทเค็นการคิด ซึ่งจะระบุไว้ในช่องแยกต่างหาก
  • ตรวจสอบข้อมูลเพิ่มเติมที่เจาะจงสำหรับคำขอแต่ละประเภทในหน้านี้
  • โมเดล Gemini Live API ไม่รองรับ countTokens นอกจากนี้ Firebase AI Logic ยังไม่รองรับแอตทริบิวต์ usageMetadata ในการตอบกลับจากโมเดล Live API แต่จะพร้อมให้บริการในเร็วๆ นี้

ราคาสำหรับตัวเลือกเหล่านี้

  • การเรียกใช้ countTokens: การเรียกใช้ countTokens (Count Tokens API) ไม่มีค่าใช้จ่าย โควต้าสูงสุดสำหรับ Count Tokens API คือ 3,000 คำขอต่อนาที (RPM)

  • การใช้แอตทริบิวต์ usageMetadata: ระบบจะแสดงแอตทริบิวต์นี้เป็นส่วนหนึ่งของการตอบกลับเสมอ และจะไม่ใช้โทเค็นหรือเรียกเก็บเงินเอง

ข้อมูลเพิ่มเติม

ข้อมูลเพิ่มเติมต่อไปนี้จะช่วยคุณในการจัดการคำขอประเภทต่างๆ

นับโทเค็นอินพุตข้อความ

ไม่มีข้อมูลเพิ่มเติม

นับโทเค็นแบบหลายเทิร์น (แชท)

โปรดทราบสิ่งต่อไปนี้สำหรับการโทรหา countTokens เมื่อใช้แชท

  • หากคุณเรียกใช้ countTokens ด้วยประวัติการแชท ระบบจะแสดงจำนวนโทเค็นทั้งหมดจากทั้ง 2 บทบาทในแชท (total_tokens)
  • หากต้องการทราบว่าเทิร์นการสนทนาถัดไปจะมีขนาดเท่าใด คุณต้องเพิ่มเทิร์นดังกล่าวต่อท้ายประวัติเมื่อเรียกใช้ countTokens

นับโทเค็นอินพุตหลายรูปแบบ

โปรดทราบประเด็นต่อไปนี้เกี่ยวกับการนับโทเค็นด้วยอินพุตแบบหลายโมดัล

  • คุณสามารถเรียกใช้ countTokens กับข้อความและไฟล์แยกกันได้ (ไม่บังคับ)
  • สำหรับตัวเลือกการนับโทเค็นทั้ง 2 แบบ คุณจะได้รับจำนวนโทเค็นเท่ากันไม่ว่าจะระบุไฟล์เป็นข้อมูลในบรรทัดหรือใช้ URL ของไฟล์ก็ตาม

ไฟล์อินพุตรูปภาพ

ระบบจะแปลงไฟล์อินพุตรูปภาพเป็นโทเค็นตามขนาดของรูปภาพ ดังนี้

  • อินพุตรูปภาพที่มีขนาดทั้ง 2 ด้านน้อยกว่าหรือเท่ากับ 384 พิกเซล: รูปภาพแต่ละรูปจะนับเป็น 258 โทเค็น
  • อินพุตรูปภาพที่มีขนาดใหญ่กว่าในมิติข้อมูลด้านใดด้านหนึ่งหรือทั้ง 2 ด้าน: รูปภาพแต่ละรูปจะถูกครอบตัดและปรับขนาดตามความจำเป็นเป็นชิ้นส่วนขนาด 768x768 พิกเซล จากนั้นชิ้นส่วนแต่ละชิ้นจะนับเป็น 258 โทเค็น

ไฟล์อินพุตวิดีโอและเสียง

ระบบจะแปลงไฟล์อินพุตวิดีโอและเสียงเป็นโทเค็นตามอัตราคงที่ต่อไปนี้

  • วิดีโอ: 263 โทเค็นต่อวินาที
  • เสียง: 32 โทเค็นต่อวินาที

ไฟล์อินพุตเอกสาร (เช่น PDF)

ระบบจะถือว่าไฟล์อินพุต PDF เป็นรูปภาพ ดังนั้นแต่ละหน้าของ PDF จะได้รับการแยกวิเคราะห์เป็นโทเค็นในลักษณะเดียวกับรูปภาพ