|
คลิกผู้ให้บริการ Gemini API เพื่อดูเนื้อหาที่เฉพาะเจาะจงของผู้ให้บริการ และโค้ดในหน้านี้ |
ขีดจำกัดอัตรา (โดยทั่วไปเรียกว่าโควต้า) จะควบคุมจำนวนคำขอที่คุณส่งไปยัง Gemini API ได้ภายในกรอบเวลาที่กำหนด ขีดจำกัดเหล่านี้ช่วยให้มั่นใจได้ถึงการใช้งานอย่างยุติธรรม ป้องกันการละเมิด และช่วยรักษาประสิทธิภาพของระบบสำหรับผู้ใช้ทุกคน
เมื่อใช้ Firebase AI Logic เพื่อส่งคำขอไปยัง Gemini และ Imagen โมเดล ขีดจำกัดอัตราของโปรเจ็กต์จะขึ้นอยู่กับผู้ให้บริการ "Gemini API" ที่คุณเลือก Firebase AI Logic ยังมีวิธี ตั้งค่าขีดจำกัดอัตรา "ต่อผู้ใช้" ด้วย
ดูขีดจำกัดอัตราสำหรับ Gemini Developer API
หากคุณใช้โควต้าเกินหรือความจุของโมเดลที่คุณเข้าถึงหมดลง คุณจะได้รับข้อความแสดงข้อผิดพลาด 429
วิธีการทำงานของขีดจำกัดอัตรา (โควต้า)
ระบบจะวัดขีดจำกัดอัตรา (โควต้า) ใน 4 มิติข้อมูล ได้แก่
- คำขอต่อนาที (RPM)
- คำขอต่อวัน (RPD)
- โทเค็นต่อนาที (TPM)
- โทเค็นต่อวัน (TPD)
ระบบจะประเมินการใช้งานของคุณเทียบกับขีดจำกัดแต่ละรายการ และหากใช้เกินขีดจำกัดใดก็ตาม ระบบจะแสดงข้อผิดพลาด 429 (ใช้โควต้าเกิน) ตัวอย่างเช่น หากขีดจำกัด RPM ของคุณคือ 20 การส่งคำขอ 21 รายการภายใน 1 นาทีจะทำให้เกิดข้อผิดพลาด แม้ว่าคุณจะยังไม่ได้ใช้ TPM หรือขีดจำกัดอื่นๆ เกินก็ตาม
ระบบจะใช้ขีดจำกัดอัตราที่ระดับโปรเจ็กต์และใช้กับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ขีดจำกัดจะแตกต่างกันไปตามโมเดลที่ใช้ และขีดจำกัดบางรายการใช้ได้กับโมเดลบางรายการเท่านั้น ตัวอย่างเช่น ระบบจะคำนวณรูปภาพต่อนาที (IPM) สำหรับโมเดลที่สร้างรูปภาพได้ (Imagen) เท่านั้น แต่แนวคิดจะคล้ายกับ TPM
ขีดจำกัดอัตราจะเข้มงวดมากขึ้นสำหรับโมเดลทดลองและโมเดลเวอร์ชันตัวอย่าง
ขอเพิ่มขีดจำกัดอัตรา
หากคุณใช้ "แพ็กเกจแบบชำระเงิน" สำหรับ Gemini Developer API คุณจะ ขอเพิ่มขีดจำกัดอัตราได้
ตั้งค่าขีดจำกัดอัตรา "ต่อผู้ใช้"
หากต้องการใช้ Firebase AI Logic โปรเจ็กต์ของคุณต้องเปิดใช้ผู้ให้บริการ Gemini API ที่คุณเลือกไว้ แต่คุณต้องเปิดใช้ Firebase AI Logic API ด้วย ซึ่งจะทำหน้าที่เป็นเกตเวย์ระหว่าง SDK ของไคลเอ็นต์กับผู้ให้บริการ Gemini API ของคุณ ระบบจะเปิดใช้ API นี้ให้คุณเมื่อคุณตั้งค่า Firebase AI Logic ในโปรเจ็กต์ Firebase เป็นครั้งแรก
คุณสามารถใช้ขีดจำกัดอัตรา (โควต้า) ของ Firebase AI Logic API เป็นขีดจำกัดอัตรา "ต่อผู้ใช้" สำหรับแอป โดยเฉพาะอย่างยิ่งสำหรับฟีเจอร์ AI ที่ใช้ Firebase AI Logic คุณควร ตั้งค่าขีดจำกัดนี้ให้เหมาะสมกับการเข้าถึงฟีเจอร์ AI ของผู้ใช้รายเดียว ในขณะเดียวกันก็ต้องมั่นใจว่า ไม่มีผู้ใช้รายใดรายหนึ่งใช้งานเกินขีดจำกัดของผู้ให้บริการ Gemini API (ซึ่ง มีไว้ให้ผู้ใช้ทุกคนใช้ร่วมกัน)
รายละเอียดเกี่ยวกับขีดจำกัดอัตรา "ต่อผู้ใช้"
รายละเอียดสำคัญบางประการเกี่ยวกับขีดจำกัดอัตรา (โควต้า) ของ Firebase AI Logic API ซึ่งก็คือคำขอต่อนาที (RPM) มีดังนี้
ขีดจำกัดนี้อิงตาม "คำขอสร้างเนื้อหา" ต่อผู้ใช้ ต่อภูมิภาค ต่อนาที และ ไม่ได้ อิงตามโมเดล
ขีดจำกัดอัตรานี้ใช้กับผู้ใช้ ทั้งหมด ปัจจุบันยังไม่มีวิธี ตั้งค่าขีดจำกัดอัตราสำหรับผู้ใช้รายใดรายหนึ่งหรือ กลุ่มผู้ใช้ที่เฉพาะเจาะจง*
ขีดจำกัดนี้ใช้ที่ระดับโปรเจ็กต์และใช้กับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ขีดจำกัดนี้ใช้กับการเรียกใช้ใดก็ตามที่มาจาก Firebase AI Logic SDK โดยเฉพาะ
ขีดจำกัดอัตราเริ่มต้นคือ 100 RPM ต่อผู้ใช้
โปรดทราบว่าคุณยังต้องพิจารณา ขีดจำกัดสำหรับผู้ให้บริการ Gemini API (ดูด้านบน) ซึ่งมีความสำคัญเหนือกว่า Firebase AI Logic API
* หากคุณใช้ Agent Platform Gemini API (formerly Vertex AI) และแอปของคุณนำผู้ใช้ไปยังภูมิภาคต่างๆ (เช่น ใช้ Firebase Remote Config) คุณสามารถตั้งค่าขีดจำกัดอัตราที่เฉพาะเจาะจงสำหรับผู้ใช้ในภูมิภาคที่เฉพาะเจาะจงได้
ปรับขีดจำกัดอัตรา "ต่อผู้ใช้"
หากต้องการปรับขีดจำกัดอัตรา (โควต้า) คุณต้องมีสิทธิ์ serviceusage.quotas.update ซึ่งรวมอยู่ในบทบาทเจ้าของและผู้แก้ไขโดยค่าเริ่มต้น
วิธีแก้ไขขีดจำกัดอัตรา (โควต้า) หรือขอเพิ่มมีดังนี้
ในคอนโซล Google Cloud ให้ไปที่หน้าสำหรับ Firebase AI Logic API
คลิกจัดการ
คลิกแท็บโควต้าและขีดจำกัดของระบบ ที่ด้านล่างของหน้า
กรองตารางเพื่อแสดงโควต้าที่ต้องการ เช่น ความสามารถ (คำขอสร้างเนื้อหา) และภูมิภาค
ตัวอย่างเช่น หากต้องการดูโควต้าต่อผู้ใช้สำหรับคำขอสร้างเนื้อหา ในภูมิภาคเอเชียที่รองรับรายการใดรายการหนึ่ง ตัวกรองของคุณจะมีลักษณะคล้ายกับ ตัวกรองนี้:
Generate content requests+Dimension:region:asiaเลือกช่องทำเครื่องหมายทางด้านซ้ายของโควต้าแต่ละรายการที่ต้องการ
คลิก ที่ท้ายแถวของโควต้า แล้วเลือกแก้ไขโควต้า
ในแบบฟอร์มการเปลี่ยนแปลงโควต้า ให้ทำดังนี้
ป้อนโควต้าที่เพิ่มขึ้นในช่อง ค่าใหม่
โควต้านี้ใช้ที่ระดับโปรเจ็กต์และแชร์กับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
กรอกข้อมูลในช่องเพิ่มเติมในแบบฟอร์ม แล้วคลิกเสร็จสิ้น
คลิกส่งคำขอ