প্রোডাকশন অ্যাপ চালানোর ক্ষেত্রে AI ফিচারের খরচ, ব্যবহার ও অন্যান্য মেট্রিক মনিটর করা গুরুত্বপূর্ণ। আপনার অ্যাপের স্বাভাবিক ব্যবহারের প্যাটার্ন কেমন হয় তা আপনাকে জানতে হবে এবং নিশ্চিত করতে হবে যে আপনি সেইসব থ্রেশহোল্ডের মধ্যে আছেন যা আপনার কাছে গুরুত্বপূর্ণ।
এই পৃষ্ঠায় আপনার খরচ, ব্যবহার এবং অন্যান্য মেট্রিক মনিটর করার জন্য কিছু সাজেস্ট করা বিকল্পের বর্ণনা দেওয়া হয়েছে। এগুলি Firebase কনসোল এবং Google Cloud কনসোল, দু'টিতেই উপলভ্য।
মনিটরের খরচ
Firebase কনসোলের ব্যবহার ও বিলিং ড্যাশবোর্ড থেকে, আপনি Agent Platform Gemini API (formerly Vertex AI) ও Gemini Developer API-এ কল করার জন্য আপনার প্রজেক্টের খরচ দেখতে পাবেন (যখন আপনি Blaze প্রাইসিং প্ল্যানে থাকবেন)।
ড্যাশবোর্ডে দেখানো খরচ না Firebase AI Logic ক্লায়েন্ট SDK ব্যবহার করে করা কলের জন্য নির্দিষ্ট নয়। দেখানো খরচ সেইসব "Gemini API"-তে করা যেকোনও কলের সাথে যুক্ত, সেগুলি Firebase AI Logic ক্লায়েন্ট SDK, Google GenAI সার্ভার SDK, Genkit, Firebase Extensions, REST কল, AI স্টুডিওগুলির Gemini API একটি অথবা অন্যান্য API ক্লায়েন্ট ব্যবহার করে করা হোক না কেন।
Firebase AI Logic ব্যবহারের সাথে যুক্ত প্রোডাক্টের দাম সম্পর্কে আরও জানুন।
বাজেট সতর্কতা ও খরচের সীমা সেট-আপ করা
আপনি Blaze প্রাইসিং প্ল্যানে থাকলে, বাজেট অ্যালার্ট ও খরচের সীমা সেট-আপ করে আকস্মিক বিল এড়িয়ে যান।
মনে রাখবেন, বাজেট সংক্রান্ত সতর্কতা বাজেট ক্যাপ নয়। আপনার খরচ যখন বাজেটের নির্দিষ্ট থ্রেশহোল্ডে পৌঁছে যাবে, তখন আপনাকে সতর্কতামূলক ইমেল পাঠানো হবে যাতে আপনি অ্যাপ বা প্রোজেক্টে অ্যাকশন নিতে পারেন। আপনার বাজেট শেষ হয়ে গেলে পরিষেবা পজ করতে চাইলে আপনাকে খরচের সর্বোচ্চ সীমা সেট করতে হবে।
Firebase কনসোলে আপনার AI ফিচারের ব্যবহার পর্যবেক্ষণ করা
আপনি Firebase কনসোলের Firebase AI Logic পৃষ্ঠায় AI মনিটরিং চালু করতে পারবেন, যাতে আপনি বিভিন্ন অ্যাপ-লেভেল মেট্রিক ও ব্যবহার পর্যবেক্ষণ করতে পারেন এবং এর ফলে Firebase AI Logic ক্লায়েন্ট SDK থেকে আসা অনুরোধ সম্পর্কে সামগ্রিক দৃশ্যমানতা পেতে পারেন। এইসব ড্যাশবোর্ড Count Tokens API-তে কল করে পাওয়া বেসিক টোকেন সংখ্যার চেয়ে অনেক বেশি ইন-ডেপথ।
Firebase কনসোলে AI মনিটরিংয়ের মূল কার্যকারিতার মধ্যে এগুলি অন্তর্ভুক্ত:
আপনার প্রতিটি অ্যাপের জন্য অনুরোধের ভলিউম, লেটেন্সি, সমস্যা এবং প্রতিটি মোডালিটি টোকেন ব্যবহারের মতো পরিমাণগত মেট্রিক্স দেখা।
আপনার অনুরোধের অ্যাট্রিবিউট, ইনপুট ও আউটপুট দেখতে ট্রেস চেক করা, যা ডিবাগিং ও কোয়ালিটি উন্নত করতে সাহায্য করতে পারে।
অনুরোধের স্ট্যাটাস, ন্যূনতম লেটেন্সি, মডেলের নাম এবং আরও অনেক কিছুর মতো মাত্রা অনুসারে ডেটা স্লাইস করা।
এইসব ফিচার Google Cloud Observability Suite ব্যবহার করে তৈরি করা হয়েছে (নিচে প্রোডাক্টের বিস্তারিত তথ্য দেখুন)।
AI মনিটরিং চালু করা
আপনি এইসব উপায়ে Firebase কনসোলে AI মনিটরিং চালু করতে পারবেন:
আপনি যখন AI পরিষেবা > Firebase AI Logic পৃষ্ঠা থেকে প্রাথমিক গাইড করা সেট-আপ ওয়ার্কফ্লোর মাধ্যমে যান
AI পরিষেবা > AI লজিক > সেটিংস ট্যাব থেকে যেকোনও সময়
AI মনিটরিং চালু ও ব্যবহার করার জন্য প্রয়োজনীয়তা:
আপনাকে অবশ্যই প্রোজেক্টের মালিক, এডিটর বা Firebase Vertex AI অ্যাডমিন হতে হবে।
আপনার অ্যাপে অন্তত এই Firebase লাইব্রেরি ভার্সন থাকতে হবে:
iOS+: v11.13.0+ | Android: v16.0.0+ (BoM: v33.14.0+) | Web: v11.8.0+ | Flutter: v2.0.0+ (BoM: v3.11.0+) | Unity: v12.9.0+আপনার অ্যাপে অবশ্যই অপ্ট-ইন ডেটা সংগ্রহ চালু থাকতে হবে (এটি ডিফল্ট হিসেবে চালু থাকে)।
আপনার অ্যাপ এইসব প্রয়োজনীয়তা পূরণ করার পরে এবং আপনি কনসোলে AI মনিটরিং চালু করলে, AI পরিষেবা > AI লজিক > AI মনিটরিং ট্যাবে ড্যাশবোর্ডে ডেটা পপুলেট হতে দেখার জন্য আপনাকে অ্যাপ বা কনসোলে আর কিছু করতে হবে না। অনুরোধ থেকে পাওয়া টেলিমেট্রি Firebase কনসোলে উপলভ্য হওয়ার আগে সামান্য বিলম্ব (কখনও কখনও ৫ মিনিট পর্যন্ত) হতে পারে।
উন্নত ব্যবহার
এই বিভাগে স্যাম্পেলিং রেট কনফিগারেশন এবং আপনার ডেটা দেখা ও সেটির সাথে কাজ করার জন্য বিভিন্ন বিকল্পের বিবরণ দেওয়া আছে।
স্যাম্পেল রেট
আপনি যদি প্রচুর অনুরোধ করেন, তাহলে আমরা স্যাম্পেল রেট কনফিগারেশন ব্যবহার করার পরামর্শ দিই। স্যাম্পেলিং রেট থেকে বোঝা যায় যে কতগুলি অনুরোধের জন্য ট্রেস বিবরণ আসলে সংগ্রহ করা হয়েছে।
Firebase কনসোলের AI পরিষেবা > AI লজিক > সেটিংস ট্যাব থেকে, আপনার প্রোজেক্টের জন্য স্যাম্পেলিং রেট ১ থেকে ১০০%-এর মধ্যে কোনও ভ্যালুতে কনফিগার করতে পারবেন। এখানে ১০০% মানে হল, AI মনিটরিং আপনার সব ট্রাফিক থেকে ট্রেস সংগ্রহ করবে। ডিফল্ট মান হল ১০০%। কম ট্রেস সংগ্রহ করলে আপনার খরচ কম হবে, তবে আপনি যতগুলি ট্রেস মনিটর করতে পারবেন তার সংখ্যাও কমে যাবে। মনে রাখবেন যে আপনার স্যাম্পেলিং রেট যাই হোক না কেন, মনিটরিং ড্যাশবোর্ডে দেখানো গ্রাফ সবসময় ট্রাফিকের প্রকৃত ভলিউম দেখাবে।
Firebase কনসোলের বাইরে অতিরিক্ত বিকল্প
Firebase কনসোলে উপলভ্য AI মনিটরিং ছাড়াও, এইসব বিকল্প বিবেচনা করুন:
Vertex AI Model Garden এক্সপ্লোর করুন।
এইসব ড্যাশবোর্ড ম্যানেজ করা মডেলের ক্ষেত্রে লেটেন্সি ও থ্রুপুট সম্পর্কে আরও ট্রেন্ড ইনসাইট প্রদান করে, যা Firebase কনসোলে AI মনিটরিং থেকে পাওয়া ইনসাইটকে পরিপূরক হিসেবে কাজ করে।আপনার ডেটা এক্সপ্লোর ও ব্যবহার করুন Google Cloud Observability Suite
AI মনিটরিংয়ের জন্য টেলিমেট্রি ডেটা আপনার প্রজেক্টের সাথে Google Cloud Observability Suite অ্যাসোসিয়েট করা অবস্থায় স্টোর করা হয়, তাই আপনি এর ড্যাশবোর্ডে আপনার ডেটা এক্সপ্লোর করতে পারবেন, এর মধ্যে Trace Explorer ও Logs Explorer অন্তর্ভুক্ত, যেগুলি Firebase কনসোলে আপনার ব্যক্তিগত ট্রেস চেক করার সময় লিঙ্ক করা হয়। এছাড়াও, আপনি কাস্টম ড্যাশবোর্ড তৈরি করতে, অ্যালার্ট সেট-আপ করতে এবং আরও অনেক কিছু করতে আপনার ডেটা ব্যবহার করতে পারবেন।
AI মনিটরিংয়ের জন্য ব্যবহৃত প্রোডাক্ট সম্পর্কে বিস্তারিত তথ্য
AI মনিটরিং আপনার টেলিমেট্রি ডেটা বিভিন্ন প্রোডাক্টে সেভ করে যা Google Cloud Observability Suite-এ উপলভ্য, এর মধ্যে Cloud Monitoring, Cloud Trace ও Cloud Logging অন্তর্ভুক্ত।
Cloud Monitoring: স্টোর করা মেট্রিক্সের মধ্যে রয়েছে অনুরোধের সংখ্যা, সফলতার হার এবং অনুরোধের লেটেন্সি।
Cloud Trace: আপনার প্রতিটি অনুরোধের জন্য ট্রেস সেভ করে যাতে আপনি সামগ্রিকভাবে দেখার পরিবর্তে আলাদা আলাদাভাবে বিবরণ দেখতে পারেন। সাধারণত, কোনও ট্রেস লগের সাথে যুক্ত থাকে যাতে আপনি প্রতিটি ইন্টার্যাকশনের কন্টেন্ট ও সময় পরীক্ষা করে দেখতে পারেন।
Cloud Logging: আপনার AI অনুরোধের প্রতিটি অংশ সম্পর্কে বিস্তারিত তথ্য প্রদান করতে ইনপুট, আউটপুট এবং কনফিগারেশন মেটাডেটা ক্যাপচার করে।
আপনার টেলিমেট্রি ডেটা এইসব প্রোডাক্টে স্টোর করা থাকে বলে, আপনি প্রতিটি প্রোডাক্টের মধ্যে সরাসরি আপনার রিটেনশন ও অ্যাক্সেস সেটিংস নির্দিষ্ট করতে পারবেন (আরও জানতে, Cloud Monitoring, Cloud Trace এবং Cloud Logging-এর ডকুমেন্টেশন দেখুন)।
মনে রাখবেন, AI মনিটরিং Cloud Logging-এ প্রতিটি স্যাম্পেল করা অনুরোধ থেকে আসল প্রম্পট ও জেনারেট করা আউটপুট সেভ করে যাতে এই ডেটা Firebase কনসোলে অ্যাক্সেস করা যায়। আপনি চাইলে প্রম্পট ও উত্তর সেভ করা বন্ধ করতে পারেন।
মূল্য
Spark-এর কোনও চার্জ না লাগা প্রাইসিং প্ল্যানে প্রোজেক্ট (শুধুমাত্র Gemini Developer API ব্যবহার করার সময় উপলভ্য): AI মনিটরিংয়ের জন্য অন্তর্নিহিত পরিষেবার ব্যবহার কোনও চার্জ ছাড়াই করা যায়।
পে-অ্যাজ-ইউ-গো Blaze প্রাইসিং প্ল্যানের প্রোজেক্ট: আপনি Google Cloud Observability Suite প্রোডাক্টের ব্যবহারের জন্য চার্জ করা হবে যা AI মনিটরিং ব্যবহার করে (আপনার বেছে নেওয়া Gemini API প্রদানকারী নির্বিশেষে)। তবে, প্রতিটি Google Cloud Observability Suite প্রোডাক্টে কোনও খরচ ছাড়াই টিয়ারের সুবিধা পাওয়া যায়। Google Cloud Observability Suite দাম সংক্রান্ত ডকুমেন্টেশন থেকে আরও জানুন।
(ঐচ্ছিক) প্রম্পট ও উত্তর সেভ করা বন্ধ করুন
ডিফল্ট হিসেবে, AI মনিটরিং মডেলকে পাঠানো আসল প্রম্পট এবং মডেলের তৈরি করা উত্তর ক্যাপচার করে, যার মধ্যে সেইসব প্রম্পট ও উত্তরে থাকা যেকোনও সংবেদনশীল তথ্য (যেমন ব্যক্তিগতভাবে শনাক্তকরণযোগ্য তথ্য (PII)) অন্তর্ভুক্ত। এইসব ডেটা Cloud Logging-এ স্টোর করা হয় যাতে এটি Firebase কনসোলে অ্যাক্সেস করা যায়।
প্রম্পট ও উত্তর সেভ করার সুবিধা বন্ধ করতে, আপনার
Cloud Logging সিঙ্ক-এ
(সাধারণত _Default সিঙ্ক) নিম্নলিখিত
এক্সক্লুশন ফিল্টার যোগ করুন:
resource.type="firebasevertexai.googleapis.com/Model"
Google Cloud কনসোলে প্রোজেক্ট-লেভেল API মেট্রিক দেখা
প্রতিটি API-এর জন্য, আপনি Google Cloud কনসোলে ব্যবহারের মতো প্রোজেক্ট-লেভেল মেট্রিক দেখতে পাবেন।
মনে রাখবেন, এই বিভাগে বর্ণিত Google Cloud কনসোল পৃষ্ঠায় থাকে না অনুরোধ ও উত্তরের কন্টেন্ট এবং টোকেন সংখ্যার মতো তথ্য। এই ধরনের তথ্য মনিটর করতে, Firebase কনসোলে AI মনিটরিং ব্যবহার করার কথা বিবেচনা করুন (আগের বিভাগ দেখুন)।
Google Cloud কনসোলে, আপনি যে API দেখতে চান সেটির মেট্রিক্স পৃষ্ঠায় যান:
Agent Platform API: Agent Platform Gemini API (formerly Vertex AI)-এ করা যেকোনও অনুরোধের সাথে যুক্ত ব্যবহার দেখুন।
- এর মধ্যে রয়েছে Firebase AI Logic ক্লায়েন্ট SDK, Google GenAI সার্ভার SDK, Genkit, Firebase Extensions এর জন্য Gemini API, REST API, Agent Studio ইত্যাদি ব্যবহার করে করা অনুরোধ।
Gemini Developer API: Gemini Developer API-এ করা যেকোনও অনুরোধের সাথে যুক্ত ব্যবহার দেখুন।
- এর মধ্যে রয়েছে Firebase AI Logic ক্লায়েন্ট SDK, Google GenAI সার্ভার SDK, Genkit, Firebase Extensions এর জন্য Gemini API, REST API, Google AI Studio ইত্যাদি ব্যবহার করে করা অনুরোধ।
- Google Cloud কনসোলে এই API-এর ডিসপ্লে নাম হল "জেনারেটিভ ল্যাঙ্গুয়েজ API"।
আপনি যদি API-এর "ওভারভিউ পৃষ্ঠায়" নিজেকে খুঁজে পান, তাহলে ম্যানেজ করুন বিকল্পে ক্লিক করুন এবং তারপরে মেট্রিক ট্যাবে ক্লিক করুন।
থেকে পাওয়া শুধুমাত্র অনুরোধের প্রতিফলন দেখাবে।ড্রপ-ডাউন মেনু ব্যবহার করে, আগ্রহের মেট্রিক দেখুন, যেমন, রেসপন্স কোড অনুযায়ী ট্রাফিক, API পদ্ধতি অনুযায়ী সমস্যা, সামগ্রিক লেটেন্সি এবং API পদ্ধতি অনুযায়ী লেটেন্সি।