Los modelos de IA generativa (como los modelos de Gemini) dividen los datos en unidades denominadas tokens para su procesamiento. Cada modelo de Gemini tiene una cantidad máxima de tokens que puede controlar en una instrucción y una respuesta.
En esta página, se muestra cómo obtener una estimación del recuento de tokens y la cantidad de caracteres facturables para una solicitud.
¿Qué información se proporciona en el recuento?
Ten en cuenta lo siguiente sobre el recuento de tokens y caracteres facturables:
Cuenta el total de tokens
Este recuento es útil para garantizar que tus solicitudes no pasen por la ventana contextual permitida.
El recuento de tokens reflejará el tamaño de todos los archivos (por ejemplo, imágenes) que se proporcionan como parte de la entrada request. No contará la cantidad de imágenes ni de segundos de un video.
Para todos los modelos de Gemini, un token equivale a unos 4 caracteres. 100 tokens son entre 60 y 80 palabras en inglés.
Cuenta el total de caracteres facturables
Este recuento es útil para comprender y controlar tus costos, ya que, en Vertex AI, la cantidad de caracteres forma parte del cálculo de los precios.
La cantidad de caracteres facturables reflejará la cantidad de caracteres en el texto que se proporciona como parte de la entrada request.
En Vertex AI, los tokens no forman parte del cálculo de precios. Obtén más información sobre los límites de tokens por modelo y los precios por modelo.
Precios y cuota para contar tokens y caracteres facturables
No se aplican cargos ni restricciones de cuotas por usar la API de CountTokens. La cuota máxima para la API de CountTokens es de 3,000 solicitudes por minuto.