|
এই পৃষ্ঠায় প্রদানকারী-নির্দিষ্ট কন্টেন্ট ও কোড দেখতে আপনার Gemini API প্রদানকারীর আইকনে ক্লিক করুন। |
রেট লিমিট (সাধারণত কোটা বলা হয়) নির্দিষ্ট সময়সীমার মধ্যে Gemini API-এ আপনি কতগুলি অনুরোধ করতে পারবেন তা নিয়ন্ত্রণ করে। এইসব সীমা সঠিক ব্যবহার নিশ্চিত করতে, অপব্যবহার থেকে রক্ষা করতে এবং সব ব্যবহারকারীর জন্য সিস্টেমের পারফর্ম্যান্স বজায় রাখতে সাহায্য করে।
Gemini মডেল অ্যাক্সেস করার জন্য Firebase AI Logic ব্যবহার করার সময়, আপনার প্রোজেক্টের রেট লিমিট আপনার বেছে নেওয়া Gemini API প্রদানকারীর উপর নির্ভর করে। Firebase AI Logic এছাড়াও "প্রতি ব্যবহারকারী" রেট সীমা সেট করার একটি উপায় প্রদান করে।
Gemini Developer API-এর জন্য রেট সীমা দেখুন
আপনি কোটা অতিক্রম করলে অথবা আপনি যে মডেল অ্যাক্সেস করছেন তার ক্যাপাসিটি শেষ হয়ে গেলে, আপনি 429 সমস্যার মেসেজ পাবেন।
রেট লিমিট (কোটা) কীভাবে কাজ করে
চারটি দিক জুড়ে রেট সীমা (কোটা) পরিমাপ করা হয়:
- প্রতি মিনিটে অনুরোধ (RPM)
- প্রতিদিন করা অনুরোধের সংখ্যা (RPD)
- প্রতি মিনিটে টোকেন (TPM)
- প্রতিদিন টোকেন (TPD)
প্রতিটি সীমার বিপরীতে আপনার ব্যবহার মূল্যায়ন করা হয় এবং কোনও সীমা অতিক্রম করলে 429 কোটা-অতিক্রমিত সংক্রান্ত সমস্যা ট্রিগার হবে। যেমন, আপনার RPM সীমা ২০ হলে, এক মিনিটের মধ্যে ২১টি অনুরোধ করলে সমস্যা হবে, এমনকি আপনি যদি TPM বা অন্যান্য সীমা অতিক্রম না করে থাকেন।
প্রোজেক্ট-লেভেলে রেট সীমা প্রয়োগ করা হয় এবং সেই Firebase প্রোজেক্ট ব্যবহার করে এমন সব অ্যাপ্লিকেশন ও IP অ্যাড্রেসের ক্ষেত্রে প্রযোজ্য হয়।
ব্যবহার করা নির্দিষ্ট মডেলের উপর নির্ভর করে সীমা পরিবর্তিত হয় এবং কিছু সীমা শুধুমাত্র নির্দিষ্ট মডেলের ক্ষেত্রে প্রযোজ্য।
এক্সপেরিমেন্টাল ও প্রিভিউ মডেলের ক্ষেত্রে রেট লিমিট আরও বেশি সীমাবদ্ধ।
রেট লিমিট বাড়ানোর অনুরোধ করা
আপনি যদি Gemini Developer API-এর "পেমেন্ট করা টিয়ারে" থাকেন, তাহলে আপনি রেট লিমিট বাড়ানোর অনুরোধ করতে পারবেন।
"ব্যবহারকারী পিছু" রেট লিমিট সেট করা
Firebase AI Logic ব্যবহার করতে হলে, আপনার প্রোজেক্টে আপনার বেছে নেওয়া Gemini API পরিষেবা প্রদানকারীকে চালু করতে হবে, তবে আপনাকে Firebase AI Logic API-ও চালু করতে হবে, যা আমাদের ক্লায়েন্ট SDK এবং আপনার Gemini API পরিষেবা প্রদানকারীর মধ্যে গেটওয়ে হিসেবে কাজ করে। আপনি Firebase প্রোজেক্টে প্রথমবার Firebase AI Logic সেট-আপ করার সময় এই API চালু করা হয়।
আপনি Firebase AI Logic API রেট লিমিট (কোটা) আপনার অ্যাপের জন্য "প্রতি ব্যবহারকারী" রেট লিমিট হিসেবে ব্যবহার করতে পারবেন, বিশেষ করে সেইসব AI ফিচারের জন্য যেগুলি Firebase AI Logic-এর উপর নির্ভর করে। আপনার AI ফিচার অ্যাক্সেস করা কোনও একজন ব্যবহারকারীকে যুক্তিসঙ্গতভাবে অ্যাকোমোডেট করার জন্য আপনাকে এই সীমা সেট করতে হবে, একই সাথে এটিও নিশ্চিত করতে হবে যে কোনও একজন ব্যবহারকারী যেন আপনার Gemini API প্রদানকারীর (যা আপনার সব ব্যবহারকারীর সাথে শেয়ার করার জন্য তৈরি করা হয়েছে) সীমা অতিক্রম না করে।
"ব্যবহারকারী পিছু" রেট সীমা সম্পর্কে বিবরণ
Firebase AI Logic API রেট লিমিট (কোটা) -- বিশেষ করে, প্রতি মিনিটে অনুরোধ (RPM) সম্পর্কে কিছু গুরুত্বপূর্ণ বিবরণ এখানে দেওয়া হল:
এটি "কন্টেন্ট তৈরি করার অনুরোধ" এর উপর ভিত্তি করে প্রতি ব্যবহারকারী প্রতি অঞ্চল প্রতি মিনিট হিসেবে করা হয় এবং এটি মডেলের উপর ভিত্তি করে করা হয় না।
এটি আপনার সব ব্যবহারকারীর উপর প্রয়োগ করা রেট সীমা। বর্তমানে, কোনও নির্দিষ্ট ব্যবহারকারী বা ব্যবহারকারীদের নির্দিষ্ট গ্রুপের জন্য রেট লিমিট সেট করার কোনও উপায় নেই*।
এটি প্রোজেক্ট-লেভেলে প্রযোজ্য এবং সেই Firebase প্রোজেক্ট ব্যবহার করে এমন সব অ্যাপ্লিকেশন ও IP অ্যাড্রেসের ক্ষেত্রে প্রযোজ্য।
এটি এমন যেকোনও কলের ক্ষেত্রে প্রযোজ্য যা বিশেষভাবে যেকোনও Firebase AI Logic SDK থেকে আসে।
ডিফল্ট রেট সীমা হল প্রতি ব্যবহারকারী পিছু ১০০ RPM।
মনে রাখবেন, আপনাকে এখনও Gemini API প্রদানকারীর সীমা বিবেচনা করতে হবে (উপরে দেখুন), যা Firebase AI Logic API-এর উপর অগ্রাধিকার পায়।
* আপনি যদি Agent Platform Gemini API (formerly Vertex AI) ব্যবহার করেন এবং আপনার অ্যাপ ব্যবহারকারীদের আলাদা আলাদা অঞ্চলে ডাইরেক্ট করে (যেমন, ব্যবহার করে Firebase Remote Config), তাহলে আপনি নির্দিষ্ট অঞ্চলের ব্যবহারকারীদের জন্য নির্দিষ্ট রেট সীমা সেট করতে পারেন।
"প্রতি ব্যবহারকারী" রেট সীমা অ্যাডজাস্ট করা
রেট লিমিট (কোটা) অ্যাডজাস্ট করতে, আপনার কাছে অবশ্যই serviceusage.quotas.update
অনুমতি থাকতে হবে, যা মালিক ও এডিটর ভূমিকায় ডিফল্ট হিসেবে অন্তর্ভুক্ত থাকে।
আপনার রেট লিমিট (কোটা) কীভাবে এডিট করবেন বা বাড়ানোর অনুরোধ করবেন তা এখানে দেওয়া হল:
Google Cloud কনসোলে, Firebase AI Logic API-এর পৃষ্ঠায় যান।
ম্যানেজ করুন বিকল্পে ক্লিক করুন।
পৃষ্ঠার নিচের দিকে, কোটা ও সিস্টেমের সীমা ট্যাবে ক্লিক করুন।
টেবিল ফিল্টার করে আগ্রহের কোটা দেখুন, যেমন, ক্ষমতা (কন্টেন্ট জেনারেট করার অনুরোধ) ও অঞ্চল।
যেমন, কাজ করে এমন এশীয় অঞ্চলের যেকোনও একটিতে কন্টেন্ট অনুরোধ জেনারেট করার জন্য প্রতি ব্যবহারকারী কোটা দেখতে, আপনার ফিল্টারটি এরকম হবে:
Generate content requests+Dimension:region:asiaআগ্রহের প্রতিটি কোটার বাঁদিকে থাকা চেকবক্সে টিকচিহ্ন দিন।
কোটার সারির শেষে, -এ ক্লিক করুন এবং তারপরে কোটা এডিট করুন বিকল্প বেছে নিন।
কোটা পরিবর্তন ফর্মে, নিম্নলিখিত কাজগুলি করুন:
নতুন ভ্যালু ফিল্ডে কোটার পরিমাণ বাড়িয়ে লিখুন।
এই কোটা প্রোজেক্ট-লেভেলে প্রযোজ্য এবং সেই Firebase প্রোজেক্ট ব্যবহার করে এমন সব অ্যাপ্লিকেশন ও IP অ্যাড্রেস জুড়ে শেয়ার করা হয়।
ফর্মের অতিরিক্ত ফিল্ড পূরণ করে হয়ে গেছে বিকল্পে ক্লিক করুন।
অনুরোধ জমা দিন বিকল্পে ক্লিক করুন।