计算令牌和可计费字符数


生成式 AI 模型(例如 Gemini 模型)将数据细分为多个称为令牌的单元,以进行处理。 每个 Gemini 模型都有可以在提示和响应中处理的词元数量上限

本页面介绍如何估算请求的令牌数和可计费字符数。

计数中提供了哪些信息?

请注意以下几点,了解如何统计令牌和可计费的字符数:

  • 计算总词元数

    • 此计数有助于确保您的请求不会超出允许的上下文时段。

    • 令牌计数将反映作为 request 输入的一部分提供的所有文件(例如,图片)的大小。而不会统计视频中的图片数量或秒数。

    • 对于所有 Gemini 模型,一个令牌相当于约 4 个字符。100 个词元约为 60-80 个英语单词。

  • 计算总计费字符数

    • 此数量有助于您了解和控制费用,因为对于 Vertex AI 而言,字符数是价格计算的一部分。

    • 可计费字符数将反映请求输入提供的文本中的字符数。

对于 Vertex AI,令牌不参与价格计算。 详细了解每种模型的令牌限制每种模型的价格

统计令牌和可计费字符数的价格和配额

使用 CountTokens API 无需付费,也不受配额限制。CountTokens API 的配额上限为每分钟 3000 个请求。

代码示例

纯文字输入

多模态输入