আপনার কোটা বুঝুন এবং পরিচালনা করুন, আপনার কোটা বুঝুন এবং পরিচালনা করুন

Vertex AI in Firebase জন্য দুটি আলাদা API প্রয়োজন (প্রতিটির নিজস্ব কোটা সহ): Vertex AI API এবং Vertex AI in Firebase ।

এই API-এর প্রত্যেকটির একটি কোটা রয়েছে যা প্রতি মিনিটে অনুরোধ (RPM) হিসাবে পরিমাপ করা হয় — বিশেষভাবে "কন্টেন্ট তৈরি করুন" অনুরোধ (স্ট্রিমিং এবং স্ট্রিমিং ছাড়াই)। Vertex AI API-তে প্রতি মিনিটে ইনপুট টোকেনের জন্য একটি কোটাও রয়েছে।

এই পৃষ্ঠাটি নিম্নলিখিত বর্ণনা করে:

আপনি Google Cloud ডকুমেন্টেশনে কোটা সম্পর্কে সাধারণ তথ্য জানতে পারেন।

প্রতিটি API-এর জন্য কোটা বুঝে নিন

প্রতিটি API-এর কোটা কিছুটা আলাদাভাবে পরিমাপ করা হয়, যার অর্থ হল সেগুলি বিভিন্ন উদ্দেশ্যে ব্যবহার করা যেতে পারে।

Vertex AI এপিআই কোটা বুঝুন

Vertex AI API কোটাগুলি প্রতি-মডেল প্রতি-অঞ্চল প্রতি মিনিটের ভিত্তিতে "কন্টেন্ট অনুরোধ তৈরি করুন" এর উপর ভিত্তি করে।

এখানে এই কোটা সম্পর্কে কিছু গুরুত্বপূর্ণ বিবরণ রয়েছে (বিশেষত, প্রতি মিনিটে অনুরোধ এবং প্রতি মিনিটে ইনপুট টোকেন):

  • তারা প্রজেক্ট-লেভেলে আবেদন করে এবং সেই ফায়ারবেস প্রোজেক্ট ব্যবহার করে এমন সমস্ত অ্যাপ্লিকেশান এবং আইপি অ্যাড্রেস জুড়ে শেয়ার করা হয়।

  • তারা Vertex AI Gemini API তে যেকোনও কলের ক্ষেত্রে প্রযোজ্য, তা Vertex AI in Firebase ক্লায়েন্ট SDKs, Vertex AI সার্ভার SDKs, Firebase Genkit , Gemini Firebase Extensions , REST কল, Vertex AI Studio বা অন্যান্য API ক্লায়েন্টে Vertex AI ব্যবহার করা হোক না কেন।

  • তারা একটি বেস মডেল এবং সেই মডেলের সমস্ত সংস্করণ, শনাক্তকারী এবং টিউন করা সংস্করণগুলিতে প্রযোজ্য। এখানে কিছু উদাহরণ আছে:

    • gemini-1.0-pro এর কাছে একটি অনুরোধ এবং gemini-1.0-pro-001 কে একটি অনুরোধ বেস মডেল, gemini-1.0 pro এর RPM কোটার প্রতি দুটি অনুরোধ হিসাবে গণনা করা হয়।

    • gemini-1.0-pro-001 এর একটি অনুরোধ এবং gemini-1.0-pro-001 উপর ভিত্তি করে একটি টিউন করা মডেলের জন্য একটি অনুরোধ বেস মডেলের RPM কোটার দিকে দুটি অনুরোধ হিসাবে গণনা করা হয়, gemini-1.0-pro ।

  • প্রতিটি মডেল এবং প্রতিটি অঞ্চলের জন্য ডিফল্ট কোটা Google Cloud ডকুমেন্টেশনে পাওয়া যাবে।

আপনি মূলত এই API এর কোটাগুলিকে আপনার সমস্ত ব্যবহারকারীর জন্য আপনার "মোট" কোটা হিসাবে বিবেচনা করতে পারেন (যারা আপনার অ্যাপে AI বৈশিষ্ট্যগুলি ব্যবহার করে যা একটি নির্দিষ্ট মডেল এবং একটি নির্দিষ্ট অঞ্চলে নির্ভর করে)৷

এই কোটাগুলি একটি নির্দিষ্ট অঞ্চলের মোট ব্যবহারকারীর সংখ্যাকে যুক্তিসঙ্গতভাবে মিটমাট করার জন্য যথেষ্ট উচ্চ হতে হবে যারা আপনার AI বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারে যা একটি নির্দিষ্ট মডেলের উপর নির্ভর করে। যেহেতু এগুলি প্রতি মিনিটের কোটা, এটি তুলনামূলকভাবে অসম্ভাব্য যে একটি অঞ্চলে আপনার সমস্ত ব্যবহারকারী একই সময়ে একই বৈশিষ্ট্যগুলির সেট ব্যবহার করবে এবং এই কোটাগুলি হ্রাস করবে৷ কিন্তু প্রতিটি অ্যাপ আলাদা, তাই সেই অনুযায়ী এই কোটাগুলি সামঞ্জস্য করুন।

Vertex AI in Firebase বুঝুন

Vertex AI in Firebase প্রতি মিনিটের ভিত্তিতে প্রতি-ব্যবহারকারী-প্রতি অঞ্চলে "কন্টেন্ট অনুরোধ তৈরি করুন" এর উপর ভিত্তি করে।

এখানে এই কোটা সম্পর্কে কিছু গুরুত্বপূর্ণ বিবরণ রয়েছে (বিশেষত, প্রতি মিনিটে অনুরোধ):

  • এটি প্রজেক্ট-লেভেলে প্রযোজ্য এবং সেই ফায়ারবেস প্রোজেক্ট ব্যবহার করে এমন সমস্ত অ্যাপ্লিকেশন এবং আইপি অ্যাড্রেসের ক্ষেত্রে প্রযোজ্য।

  • Vertex AI in Firebase মধ্য দিয়ে যাওয়া যে কোনও কলের ক্ষেত্রে এটি প্রযোজ্য।

  • ডিফল্ট কোটা হল 100 RPM প্রতি ব্যবহারকারী।
    মনে রাখবেন যে আপনাকে এখনও Vertex AI API-এর জন্য কোটা সীমা বিবেচনা করতে হবে, বিশেষ করে যদি সেগুলি এই 100 RPM-এর থেকে কম হয়।

Vertex AI in Firebase উপর নির্ভর করে এমন AI বৈশিষ্ট্যগুলির জন্য আপনি মূলত এই API-এর কোটাকে আপনার "প্রতি ব্যবহারকারী" কোটা হিসাবে বিবেচনা করতে পারেন।

Vertex AI in Firebase উপর নির্ভর করে এমন AI বৈশিষ্ট্যগুলি অ্যাক্সেস করার জন্য একজন একক ব্যবহারকারীকে যুক্তিসঙ্গতভাবে মিটমাট করার জন্য এই কোটা যথেষ্ট বেশি হওয়া দরকার। যেহেতু এই APIটি Vertex AI API-এর গেটওয়ে হিসাবে কাজ করে, তাই আপনি Vertex AI in Firebase ব্যবহার করতে পারেন যাতে কোনও একক ব্যবহারকারী আপনার Vertex AI API কোটা (যা আপনার সমস্ত ব্যবহারকারীদের দ্বারা ভাগ করা হয়) শেষ না করে।

প্রতিটি API-এর জন্য কোটা দেখুন

আপনি Google Cloud কনসোলে প্রতিটি API-এর জন্য কোটা দেখতে পারেন।

  1. Google Cloud কনসোলে, আগ্রহের API-এর জন্য পৃষ্ঠায় যান: Vertex AI API বা Vertex AI in Firebase ।

  2. পরিচালনা ক্লিক করুন.

  3. পৃষ্ঠার নীচে, কোটা এবং সিস্টেম সীমা ট্যাবে ক্লিক করুন৷

  4. আগ্রহের কোটা দেখাতে টেবিলটি ফিল্টার করুন।

    লক্ষ্য করুন যে একটি Dimension ফিল্টার তৈরি করতে, আপনাকে নিম্নলিখিত উদাহরণগুলিতে মানগুলি কপি-পেস্ট করার পরিবর্তে ফিল্টার টুলিং ব্যবহার করতে হবে৷

    • Vertex AI API-এর জন্য: ক্ষমতা নির্দিষ্ট করুন (সামগ্রী তৈরি করার জন্য অনুরোধ), মডেলের নাম এবং অঞ্চল।

      উদাহরণস্বরূপ, সমর্থিত EU অঞ্চলের যেকোনো একটিতে Gemini 1.5 Flash-এর সাহায্যে সামগ্রীর অনুরোধ তৈরি করার জন্য কোটা দেখতে, আপনার ফিল্টারটি দেখতে এইরকম হবে:
      Generate content requests + Dimension:base_model:gemini-1.5-flash + Dimension:region:eu

    • Vertex AI in Firebase জন্য: ক্ষমতা (সামগ্রী তৈরি করার অনুরোধ) এবং অঞ্চল নির্দিষ্ট করুন।

      উদাহরণস্বরূপ, সমর্থিত এশিয়ান অঞ্চলগুলির যেকোনো একটিতে সামগ্রীর অনুরোধ তৈরি করার জন্য প্রতি-ব্যবহারকারীর কোটা দেখতে, আপনার ফিল্টারটি দেখতে এইরকম হবে:
      Generate content requests + Dimension:region:asia

      মনে রাখবেন যে Vertex AI in Firebase একটি নির্দিষ্ট মডেলের উপর ভিত্তি করে নয়। এছাড়াও, (default) কোটা সারি Vertex AI in Firebase তে প্রযোজ্য নয়।

কোটা সম্পাদনা করুন বা কোটা বৃদ্ধির অনুরোধ করুন

আপনি প্রোডাকশনে যাওয়ার আগে বা আপনি যদি 429 কোটা-অতিরিক্ত ত্রুটি পেয়ে থাকেন, তাহলে আপনাকে আপনার কোটা সম্পাদনা করতে বা কোটা বৃদ্ধির অনুরোধ করতে হতে পারে। আপনি সেই অনুযায়ী প্রতিটি API-এর কোটা সামঞ্জস্য করেছেন তা নিশ্চিত করুন (বিবেচনার জন্য এই পৃষ্ঠায় প্রতিটি API-এর আগে কোটা বুঝে নিন )।

একটি কোটা সম্পাদনা করতে, আপনার অবশ্যই serviceusage.quotas.update অনুমতি থাকতে হবে, যা ডিফল্টরূপে মালিক এবং সম্পাদকের ভূমিকায় অন্তর্ভুক্ত থাকে৷

আপনার কোটা কীভাবে সম্পাদনা করবেন বা কোটা বৃদ্ধির অনুরোধ করবেন তা এখানে রয়েছে:

  1. প্রতিটি API-এর কোটা দেখতে পূর্ববর্তী উপবিভাগের নির্দেশাবলী অনুসরণ করুন।

  2. আগ্রহের প্রতিটি কোটার বাম দিকের চেকবক্সটি নির্বাচন করুন৷

  3. কোটার সারির শেষে, তিন-বিন্দু মেনুতে ক্লিক করুন এবং তারপরে কোটা সম্পাদনা করুন নির্বাচন করুন।

  4. কোটা পরিবর্তন ফর্মে, নিম্নলিখিতগুলি করুন:

    1. নতুন মান ক্ষেত্রে বর্ধিত কোটা লিখুন।

      এই কোটা প্রজেক্ট-লেভেলে প্রযোজ্য এবং সেই ফায়ারবেস প্রোজেক্ট ব্যবহার করে এমন সমস্ত অ্যাপ্লিকেশন এবং আইপি অ্যাড্রেস জুড়ে শেয়ার করা হয়।

    2. ফর্মের যেকোনো অতিরিক্ত ক্ষেত্র পূরণ করুন, এবং তারপর সম্পন্ন ক্লিক করুন।

    3. অনুরোধ জমা দিন ক্লিক করুন.