Các mô hình AI tạo sinh (như mô hình Gemini) chia nhỏ dữ liệu thành các đơn vị gọi là mã thông báo để xử lý. Mỗi mô hình Gemini đều có số lượng mã thông báo tối đa có thể xử lý bằng một câu lệnh và phản hồi.
Trang này cho bạn biết cách nhận ước tính số lượng mã thông báo và số lượng ký tự có thể tính phí cho một yêu cầu.
Báo cáo này cung cấp những thông tin nào?
Xin lưu ý những điều sau về cách tính mã thông báo và ký tự có thể tính phí:
Đếm tổng số mã thông báo
Số lượng này rất hữu ích để đảm bảo các yêu cầu của bạn không vượt quá khoảng thời gian theo bối cảnh được cho phép.
Số lượng mã thông báo sẽ phản ánh kích thước của tất cả các tệp (ví dụ: hình ảnh) được cung cấp trong quá trình nhập yêu cầu. Phương thức này sẽ không tính số lượng hình ảnh hoặc số giây trong một video.
Đối với tất cả các mô hình Gemini, một mã thông báo tương đương với khoảng 4 ký tự. 100 mã thông báo có khoảng 60-80 từ tiếng Anh.
Đếm tổng số ký tự có thể tính phí
Số lượng này rất hữu ích cho việc hiểu và kiểm soát chi phí của bạn vì đối với Vertex AI, số lượng ký tự là một phần của quá trình tính toán giá.
Số lượng ký tự có thể tính phí sẽ phản ánh số lượng ký tự trong văn bản được cung cấp trong dữ liệu nhập của yêu cầu.
Đối với Vertex AI, mã thông báo không được dùng để tính giá. Tìm hiểu thêm về giới hạn về mã thông báo cho mỗi mô hình và giá cho mỗi mô hình.
Mức giá và hạn mức cho việc đếm mã thông báo và ký tự có thể tính phí
Không có giới hạn về hạn mức hay tính phí khi sử dụng API CountTokens. Hạn mức tối đa cho API CountTokens là 3.000 yêu cầu mỗi phút.