Подсчет токенов и оплачиваемых персонажей


Генеративные модели ИИ (например, модели Gemini) разбивают данные на единицы, называемые токенами , для обработки. Каждая модель Gemini имеет максимальное количество токенов , которые она может обработать в приглашении и ответе.

На этой странице показано, как получить приблизительное количество токенов и количество оплачиваемых символов для запроса .

Какая информация содержится в расчете?

Обратите внимание на следующее относительно подсчета токенов и оплачиваемых символов:

  • Подсчет общего количества жетонов

    • Этот счетчик помогает убедиться, что ваши запросы не выходят за пределы допустимого контекстного окна.

    • Количество токенов будет отражать размер всех файлов (например, изображений), которые предоставляются как часть входных данных запроса . Он не будет считать количество изображений или количество секунд в видео.

    • Для всех моделей Gemini токен эквивалентен примерно 4 символам. 100 токенов — это примерно 60-80 английских слов.

  • Подсчет общего количества оплачиваемых символов

    • Этот подсчет полезен для понимания и контроля ваших затрат, поскольку для Vertex AI количество символов является частью расчета цены.

    • Оплачиваемое количество символов будет отражать количество символов в тексте , предоставленном во входных данных запроса .

Для Vertex AI токены не участвуют в расчете цены. Узнайте больше об ограничениях токенов для каждой модели и ценах на каждую модель .

Цены и квота на подсчет токенов и оплачиваемых символов

За использование API CountTokens не взимается плата или ограничения по квотам. Максимальная квота для API CountTokens — 3000 запросов в минуту.

Примеры кода

Только текстовый ввод

Мультимодальный ввод