टोकन और बिल करने लायक वर्णों की गिनती करें


Gemini मॉडल जैसे जनरेटिव एआई मॉडल, डेटा को अलग-अलग यूनिट में बांटते हैं टोकन. Gemini के हर मॉडल में ज़्यादा से ज़्यादा टोकन डाले जा सकते हैं जिसे यह प्रॉम्प्ट और रिस्पॉन्स में हैंडल कर सके.

इस पेज में बताया गया है कि टोकन की संख्या और कितने टोकन की संख्या का अनुमान कैसे लगाया जा सकता है अनुरोध के लिए बिल करने लायक वर्ण.

गिनती में क्या जानकारी दी जाती है?

टोकन और बिल करने लायक वर्णों की गिनती करने के बारे में नीचे दी गई बातों का ध्यान रखें:

  • कुल टोकन की गिनती करना

    • इस संख्या से यह पक्का करने में मदद मिलती है कि आपके अनुरोध तय सीमा से ज़्यादा न हों कॉन्टेक्स्ट विंडो.

    • टोकन की संख्या से सभी फ़ाइलों (जैसे, इमेज) का साइज़ दिखेगा जो अनुरोध इनपुट के हिस्से के तौर पर दी जाती हैं. इसमें इमेज की संख्या या वीडियो में सेकंड की संख्या.

    • Gemini के सभी मॉडल के लिए, एक टोकन में करीब चार वर्ण होते हैं. 100 टोकन, करीब 60 से 80 अंग्रेज़ी शब्दों के होते हैं.

  • बिल करने लायक कुल वर्णों की गिनती करना

    • यह संख्या आपकी लागतों को समझने और कंट्रोल करने में मददगार होती है, क्योंकि Vertex AI में, वर्णों की संख्या का इस्तेमाल कीमत का हिसाब लगाने के लिए किया जाता है.

    • बिल किए जाने वाले वर्णों की संख्या में text जिसे अनुरोध इनपुट के हिस्से के तौर पर दिया जाता है.

Vertex AI के लिए, कीमत का हिसाब लगाने के लिए टोकन का इस्तेमाल नहीं किया जाता. इसके बारे में ज़्यादा जानें हर मॉडल के लिए टोकन की सीमाएं और हर मॉडल के लिए कीमत तय करते हैं.

टोकन और बिल करने लायक वर्णों की गिनती के लिए कीमत और कोटा

CountTokens API का इस्तेमाल करने पर, न तो कोई शुल्क लिया जाता है और न ही कोटा की पाबंदी है. कॉन्टेंट बनाने CountTokens एपीआई को एक मिनट में ज़्यादा से ज़्यादा 3,000 अनुरोध भेजे जा सकते हैं.

कोड सैंपल

सिर्फ़ टेक्स्ट इनपुट

मल्टीमोडल इनपुट