Google Cloud टेलीमेट्री और लॉगिंग प्लगिन

Google Cloud प्लगिन, Firebase Genkit की टेलीमेट्री और लॉगिंग डेटा को Google Cloud का ऑपरेशन सुइट.

ज़रूरी शर्तें

अगर आपको इस प्लगिन का इस्तेमाल करने वाले फ़्लो को लोकल तौर पर चलाना है, तो आपको Google Cloud CLI टूल इंस्टॉल किया गया.

Google Cloud खाता सेट अप करना

इस प्लग इन के लिए एक Google Cloud खाता और एक Google Cloud प्रोजेक्ट ज़रूरी है. अगर आपके पास पहले से कोई खाता नहीं है, तो साइन अप करें.

प्लग इन जोड़ने से पहले, पक्का करें कि आपके प्रोजेक्ट के लिए नीचे दिए गए एपीआई चालू हों:

ये एपीआई आपके प्रोजेक्ट के एपीआई डैशबोर्ड में मौजूद होने चाहिए.

एपीआई को चालू और बंद करने के बारे में ज़्यादा जानने के लिए, यहां क्लिक करें.

कॉन्फ़िगरेशन

Google Cloud ट्रेसिंग, लॉग इन, और मॉनिटरिंग में एक्सपोर्ट करने की सुविधा चालू करने के लिए, googlecloud पैकेज और Init() चलाएं. Init() पर कॉल करने के बाद, आपकी टेलीमेट्री अपने-आप एक्सपोर्ट हो जाता है.

import "github.com/firebase/genkit/go/plugins/googlecloud"

if err := googlecloud.Init(
	ctx,
	googlecloud.Config{ProjectID: "your-google-cloud-project"},
); err != nil {
	return err
}

आपको वह Google Cloud प्रोजेक्ट तय करना होगा जिसमें आपको टेलीमेट्री एक्सपोर्ट करना है डेटा शामिल है. कुछ वैकल्पिक पैरामीटर भी होते हैं:

  • ForceExport: डेव एनवायरमेंट में चलते समय भी टेलीमेट्री डेटा एक्सपोर्ट करें (जैसे, genkit start या genkit flow:run का इस्तेमाल करते समय). यह तुरंत इसका पता लगाने और अपने पहले इवेंट को मॉनिटरिंग के लिए Google में भेजने की कोशिश की जा सकती है क्लाउड.

    इस विकल्प का इस्तेमाल करने पर, आपको अपने क्लाउड क्रेडेंशियल भी उपलब्ध कराने होंगे स्थानीय भाषा में:

    gcloud auth application-default login

  • MetricInterval: नैनोसेकंड में वह इंटरवल जिस पर टेलीमेट्री को एक्सपोर्ट करना है जानकारी. डिफ़ॉल्ट रूप से, यह अवधि 60 सेकंड (60e9 नैनोसेकंड) होती है.

  • LogLevel: लॉग एंट्री को एक्सपोर्ट करने के लिए, गंभीरता का कम से कम लेवल. डिफ़ॉल्ट रूप से, slog.LevelInfo.

प्लगिन के लिए, आपके Google Cloud प्रोजेक्ट क्रेडेंशियल की ज़रूरत है. अगर आप दौड़ रहे हैं, तो Google Cloud एनवायरमेंट (Cloud Run वगैरह) से आपके फ़्लो (Cloud Run वगैरह) का इस्तेमाल किया जाता है, तो क्रेडेंशियल अपने-आप सेट हो जाता है. अन्य एनवायरमेंट में चलाने के लिए, सेट अप करना ज़रूरी है ऐप्लिकेशन के डिफ़ॉल्ट क्रेडेंशियल.

Google Cloud के ऑपरेशंस सुइट की मदद से प्रोडक्शन की निगरानी करने की सुविधा

फ़्लो लागू करने के बाद, Google Cloud के ऑपरेशंस सुइट पर जाएं और अपना प्रोजेक्ट चुनें.

लॉग और ट्रेस

साइड मेन्यू से, 'लॉग किया जा रहा है' ढूंढें और 'लॉग एक्सप्लोरर' पर क्लिक करें.

आपको console.log() के साथ-साथ, डिप्लॉय किए गए फ़्लो से जुड़े सभी लॉग दिखेंगे. ऐसा कोई भी लॉग जिसमें प्रीफ़िक्स [genkit] होता है, Genkit-internal लॉग होता है. इसमें ऐसी जानकारी होती है जो डीबग करने के लिए दिलचस्प हो सकती है. उदाहरण के लिए, Config[...] फ़ॉर्मैट में Genkit के लॉग में, एलएलएम के खास अनुमानों के लिए तापमान और सबसे ऊपर के लेवल की वैल्यू जैसे मेटाडेटा शामिल होते हैं. Output[...] फ़ॉर्मैट वाले लॉग में एलएलएम के जवाब होते हैं. वहीं, Input[...] के लॉग में प्रॉम्प्ट मौजूद होते हैं. क्लाउड लॉगिंग में मज़बूत ACL है, जो संवेदनशील लॉग पर बेहतर नियंत्रण की अनुमति देता है.

खास लॉग लाइनों के लिए, एक्सटेंडेड मेन्यू आइकॉन पर क्लिक करके और "ट्रेस की जानकारी में देखें" को चुनकर, उनसे जुड़े ट्रेस पर जाया जा सकता है.

इससे ट्रेस की झलक दिखाने वाला पैनल दिखेगा. इसमें ट्रेस की जानकारी की एक झलक दिखेगी. पूरी जानकारी पाने के लिए, "ट्रेस में देखें" पर क्लिक करें लिंक पर क्लिक करें.

Cloud Trace में मौजूद सबसे मुख्य नेविगेशन एलिमेंट, ट्रेस स्कैटर प्लॉट होता है. इसमें एक दी गई समयावधि में इकट्ठा किए गए सभी ट्रेस शामिल होते हैं.

हर डेटा पॉइंट पर क्लिक करने से, स्कैटर प्लॉट के नीचे उसकी जानकारी दिखेगी.

ज़्यादा जानकारी वाले व्यू में फ़्लो आकार शामिल होता है. इसमें सभी चरण और समय से जुड़ी ज़रूरी जानकारी शामिल होती है. Cloud Trace में इस व्यू में दिए गए ट्रेस से जुड़े सभी लॉग इंटरलीव करने की सुविधा होती है. "विस्तृत दिखाएं" चुनें "लॉग और इवेंट" ड्रॉप-डाउन चुनें.

इस सुविधा की मदद से, ट्रेस के कॉन्टेक्स्ट में लॉग की बारीकी से जांच की जा सकती है. इसमें प्रॉम्प्ट और एलएलएम के जवाब भी शामिल हैं.

मेट्रिक

"लॉगिंग" चुनकर, वे सभी मेट्रिक देखी जा सकती हैं जिन्हें Genkit एक्सपोर्ट किया जा सकता है "मेट्रिक मैनेजमेंट" पर क्लिक करके, साइड मेन्यू में जाएं.

मेट्रिक मैनेजमेंट कंसोल में, इकट्ठा की गई सभी मेट्रिक का एक टेबल व्यू होता है. इसमें Cloud Run और उसके आस-पास के एनवायरमेंट से जुड़ी मेट्रिक भी शामिल होती हैं. 'वर्कलोड' पर क्लिक करके इस विकल्प से एक सूची दिखेगी, जिसमें Genkit से इकट्ठा की गई मेट्रिक शामिल होंगी. genkit प्रीफ़िक्स वाली किसी भी मेट्रिक को इंटरनल Genkit मेट्रिक माना जाता है.

Genkit, फ़्लो-लेवल, ऐक्शन-लेवल, और जनरेट-लेवल मेट्रिक के साथ-साथ कई कैटगरी की मेट्रिक इकट्ठा करता है. हर मेट्रिक में कई काम के डाइमेंशन होते हैं, जो बेहतर फ़िल्टर करने और ग्रुप बनाने में मदद करते हैं.

सामान्य डाइमेंशन में ये शामिल हैं:

  • flow_name - फ़्लो का टॉप-लेवल नाम.
  • flow_path - स्पैन और इसके पैरंट स्पैन को, रूट स्पैन तक चेन किया जाता है.
  • error_code - कोई गड़बड़ी होने पर, उससे जुड़ा गड़बड़ी कोड.
  • error_message - कोई गड़बड़ी होने पर, उससे जुड़ा गड़बड़ी का मैसेज.
  • model - मॉडल का नाम.
  • temperature - अनुमान का तापमान value.
  • topK - अनुमान के लिए टॉप की वैल्यू.
  • topP - अनुमान का TopP value.

फ़्लो-लेवल मेट्रिक

नाम आयाम
genkit/flow/अनुरोध Flood_name, error_code, error_message
जेनकिट/फ़्लो/लेटेंसी फ़्लो_नाम

ऐक्शन-लेवल की मेट्रिक

नाम आयाम
जेनकिट/कार्रवाई/अनुरोध Flood_name, error_code, error_message
जेनकिट/ऐक्शन/लेटेंसी फ़्लो_नाम

जनरेट होने वाली मेट्रिक के लेवल पर

नाम आयाम
जेनकिट/एआई/जनरेट Flood_path, मॉडल, तापमान, TopK, TopP, error_code, error_message
genkit/ai/generate/input_tokens Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/generate/Output_tokens Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/generate/input_characters Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/generate/Output_characters Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/generate/input_images Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/generate/Output_images Flood_path, मॉडल, तापमान, TopK, TopP
genkit/ai/जनरेट/लेटेंसी Flood_path, मॉडल, तापमान, TopK, TopP, error_code, error_message

मेट्रिक को मेट्रिक एक्सप्लोरर की मदद से विज़ुअलाइज़ किया जा सकता है. साइड मेन्यू का इस्तेमाल करके, 'लॉगिंग' चुनें और 'मेट्रिक एक्सप्लोरर' पर क्लिक करें

"मेट्रिक चुनें" पर क्लिक करके मेट्रिक चुनें ड्रॉपडाउन में, 'जेनेरिक नोड', 'जेनकिट', और एक मेट्रिक चुनें.

मेट्रिक का विज़ुअलाइज़ेशन, इसके टाइप (काउंटर, हिस्टोग्राम वगैरह) पर निर्भर करता है. मेट्रिक एक्सप्लोरर, मेट्रिक को अलग-अलग डाइमेंशन के हिसाब से ग्राफ़ में एग्रीगेशन और क्वेरी करने की सुविधाएं देता है. इससे, मेट्रिक को उनके अलग-अलग डाइमेंशन के हिसाब से ग्राफ़ में दिखाने में मदद मिलती है.

टेलीमेट्री में देरी

Cloud के ऑपरेशंस सुइट में, किसी फ़्लो को सही तरीके से चलाने में टेलीमेट्री दिखने में कुछ समय लग सकता है. ज़्यादातर मामलों में, यह देरी एक मिनट से कम होती है.

कोटा और सीमाएं

यहां कुछ कोटा ऐसे हैं जिन्हें ध्यान में रखना ज़रूरी है:

लागत

क्लाउड लॉगिंग, क्लाउड ट्रेस, और क्लाउड मॉनिटरिंग के कई फ़्री टियर हैं. खास कीमत देखने के लिए, इन लिंक पर जाएं: