|
คลิกผู้ให้บริการ Gemini API เพื่อดูเนื้อหาและโค้ดเฉพาะของผู้ให้บริการในหน้านี้ |
การจำกัดอัตราคำขอ (ที่เรียกกันโดยทั่วไปว่าโควต้า) จะควบคุมจำนวนคำขอที่คุณส่งไปยัง Gemini API ได้ภายในกรอบเวลาที่กำหนด ขีดจำกัดเหล่านี้ช่วยให้มั่นใจได้ว่ามีการใช้งานอย่างเป็นธรรม ป้องกันการละเมิด และช่วยรักษาประสิทธิภาพของระบบสำหรับผู้ใช้ทุกคน
เมื่อใช้ Firebase AI Logic เพื่อเข้าถึงโมเดล Gemini การจำกัดอัตราคำขอของโปรเจ็กต์จะขึ้นอยู่กับผู้ให้บริการ Gemini API ที่คุณเลือก Firebase AI Logic ยังมีวิธีตั้งค่าการจำกัดอัตราคำขอ "ต่อผู้ใช้" ด้วย
ดูขีดจำกัดอัตราสำหรับ Gemini Developer API
หากคุณใช้งานเกินโควต้าหรือหากความจุของโมเดลที่คุณเข้าถึงหมดแล้ว คุณจะได้รับข้อความแสดงข้อผิดพลาด 429
วิธีการทำงานของการจำกัดอัตราคำขอ (โควต้า)
การจำกัดอัตราคำขอ (โควต้า) จะวัดจาก 4 มิติข้อมูล ได้แก่
- คำขอต่อนาที (RPM)
- คำขอต่อวัน (RPD)
- โทเค็นต่อนาที (TPM)
- โทเค็นต่อวัน (TPD)
ระบบจะประเมินการใช้งานของคุณเทียบกับขีดจำกัดแต่ละรายการ และการใช้งานที่เกินขีดจำกัดจะทำให้เกิดข้อผิดพลาด 429 โควต้าเกิน ตัวอย่างเช่น หากขีดจำกัด RPM ของคุณคือ 20 การส่งคำขอ 21 รายการภายใน 1 นาทีจะส่งผลให้เกิดข้อผิดพลาด แม้ว่าคุณจะยังไม่เกินขีดจำกัด TPM หรือขีดจำกัดอื่นๆ ก็ตาม
การจำกัดอัตราคำขอจะมีผลในระดับโปรเจ็กต์ และมีผลกับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ขีดจำกัดจะแตกต่างกันไปตามโมเดลที่ใช้ และขีดจำกัดบางอย่างจะมีผลกับโมเดลบางรุ่นเท่านั้น
การจำกัดอัตราคำขอจะถูกจำกัดมากขึ้นสำหรับโมเดลเวอร์ชันทดลองและเวอร์ชันตัวอย่าง
ขอเพิ่มการจำกัดอัตราคำขอ
หากคุณใช้ "ระดับแบบชำระเงิน" สำหรับ Gemini Developer API คุณจะขอเพิ่มการจำกัดอัตราคำขอได้
กำหนดขีดจำกัดอัตรา "ต่อผู้ใช้"
หากต้องการใช้ Firebase AI Logic โปรเจ็กต์ของคุณต้องเปิดใช้ผู้ให้บริการ Gemini API ที่เลือกไว้ แต่คุณยังต้องเปิดใช้ API ของ Firebase AI Logic ด้วย ซึ่งทำหน้าที่เป็นเกตเวย์ระหว่าง SDK ของไคลเอ็นต์กับผู้ให้บริการ Gemini API ระบบจะเปิดใช้ API นี้ให้คุณเมื่อตั้งค่า Firebase AI Logic ในโปรเจ็กต์ Firebase เป็นครั้งแรก
คุณสามารถใช้การจำกัดอัตราคำขอ (โควต้า) ของ API Firebase AI Logic เป็นการจำกัดอัตราคำขอ "ต่อผู้ใช้" สำหรับแอปของคุณ โดยเฉพาะสำหรับฟีเจอร์ AI ที่ใช้ Firebase AI Logic คุณควรตั้งค่าขีดจำกัดนี้ให้เหมาะสมกับการเข้าถึงฟีเจอร์ AI ของผู้ใช้รายเดียว และยังต้องตรวจสอบว่าไม่มีผู้ใช้รายใดใช้เกินขีดจำกัดของผู้ให้บริการ Gemini API (ซึ่งมีไว้ให้ผู้ใช้ทุกคนแชร์กัน)
รายละเอียดเกี่ยวกับการจำกัดอัตราคำขอ "ต่อผู้ใช้"
รายละเอียดสำคัญเกี่ยวกับการจำกัดอัตราคำขอ (โควต้า) ของ API Firebase AI Logic โดยเฉพาะคำขอต่อนาที (RPM) มีดังนี้
โดยจะอิงตาม "คำขอสร้างเนื้อหา" ต่อผู้ใช้ ต่อภูมิภาค ต่อนาที และไม่ได้อิงตามโมเดล
ซึ่งเป็นการจำกัดอัตราคำขอที่ใช้กับผู้ใช้ทั้งหมด ปัจจุบันยังไม่มีวิธีกำหนดขีดจำกัดอัตราสำหรับผู้ใช้หรือกลุ่มผู้ใช้ที่เฉพาะเจาะจง*
โดยจะมีผลที่ระดับโปรเจ็กต์และมีผลกับแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
ซึ่งจะมีผลกับการเรียกใช้ที่มาจาก SDK ของ Firebase AI Logic โดยเฉพาะ
การจำกัดอัตราคำขอเริ่มต้นคือ 100 RPM ต่อผู้ใช้
โปรดทราบว่าคุณยังคงต้องพิจารณาขีดจำกัดสำหรับผู้ให้บริการ Gemini API (ดูด้านบน) ซึ่งมีความสำคัญเหนือกว่า Firebase AI Logic API
* หากคุณใช้ Agent Platform Gemini API (formerly Vertex AI) และแอปของคุณนำผู้ใช้ไปยังภูมิภาคต่างๆ (เช่น ใช้ Firebase Remote Config) คุณสามารถกำหนดการจำกัดอัตราคำขอที่เฉพาะเจาะจงสำหรับผู้ใช้ในภูมิภาคที่เฉพาะเจาะจงได้
ปรับขีดจำกัดการจำกัดอัตราคำขอ "ต่อผู้ใช้"
หากต้องการปรับการจำกัดอัตราคำขอ (โควต้า) คุณต้องมีสิทธิ์ serviceusage.quotas.update ซึ่งรวมอยู่ในบทบาทเจ้าของและผู้แก้ไขโดยค่าเริ่มต้น
วิธีแก้ไขขีดจำกัดอัตรา (โควต้า) หรือขอเพิ่มมีดังนี้
ในคอนโซล Google Cloud ให้ไปที่หน้า Firebase AI Logic API
คลิกจัดการ
ที่ด้านล่างของหน้า ให้คลิกแท็บโควต้าและขีดจำกัดของระบบ
กรองตารางเพื่อแสดงโควต้าที่สนใจ เช่น ความสามารถ (คำขอสร้างเนื้อหา) และภูมิภาค
ตัวอย่างเช่น หากต้องการดูโควต้าต่อผู้ใช้สำหรับคำขอสร้างเนื้อหาในภูมิภาคเอเชียที่รองรับ ตัวกรองจะมีลักษณะดังนี้
Generate content requests+Dimension:region:asiaเลือกช่องทำเครื่องหมายทางด้านซ้ายของโควต้าแต่ละรายการที่สนใจ
ที่ท้ายแถวของโควต้า ให้คลิก แล้วเลือกแก้ไขโควต้า
ในแบบฟอร์มการเปลี่ยนแปลงโควต้า ให้ทำดังนี้
ป้อนโควต้าที่เพิ่มขึ้นในช่องค่าใหม่
โควต้านี้มีผลที่ระดับโปรเจ็กต์และใช้ร่วมกันในแอปพลิเคชันและที่อยู่ IP ทั้งหมดที่ใช้โปรเจ็กต์ Firebase นั้น
กรอกข้อมูลในช่องเพิ่มเติมในแบบฟอร์ม แล้วคลิกเสร็จสิ้น
คลิกส่งคำขอ