किसी भी ऐप्लिकेशन होस्टिंग प्लैटफ़ॉर्म पर फ़्लो डिप्लॉय करें

Firebase Genkit फ़्लो को ऐसी किसी भी सेवा का इस्तेमाल करके वेब सेवाओं के तौर पर डिप्लॉय किया जा सकता है जो Go बाइनरी होस्ट करते हैं. उदाहरण के तौर पर, इस पेज पर आपको कन्वर्ज़न ट्रैकिंग को लागू करने की सामान्य प्रोसेस के बारे में जानकारी मिलेगी डिफ़ॉल्ट सैंपल फ़्लो में दिखेगा. साथ ही, इसमें बताया गया है कि आपको सेवा देने वाली कंपनी के हिसाब से कार्रवाइयां.

  1. Genkit सैंपल प्रोजेक्ट के लिए डायरेक्ट्री बनाएं:

    mkdir -p ~/tmp/genkit-cloud-project
    cd ~/tmp/genkit-cloud-project

    अगर आपको किसी IDE का इस्तेमाल करना है, तो उसे इस डायरेक्ट्री में खोलें.

  2. अपनी प्रोजेक्ट डायरेक्ट्री में Go मॉड्यूल शुरू करें:

    go mod init example/cloudrun
  3. अपने प्रोजेक्ट में Genkit शुरू करें:

    genkit init

    मॉडल की सेवा देने वाली उस कंपनी को चुनें जिसका आपको इस्तेमाल करना है.

    बचे हुए प्रॉम्प्ट के लिए, डिफ़ॉल्ट सेटिंग स्वीकार करें. genkit टूल बनाएगा सैंपल सोर्स फ़ाइल का इस्तेमाल करें. इससे आपको अपने एआई फ़्लो डेवलप करने में मदद मिलेगी. हालांकि, इस ट्यूटोरियल के बाकी हिस्सों के लिए, आपको सिर्फ़ सैंपल फ़्लो डिप्लॉय करना होगा.

  4. साफ़ तौर पर जानकारी देने के लिए, सैंपल फ़ाइल (main.go या genkit.go) में बदलाव करें वह फ़्लो सर्वर पोर्ट करें जिस पर फ़्लो सर्वर को सुनना चाहिए:

    if err := genkit.Init(ctx,
           
    &genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
    ); err != nil {
            log
    .Fatal(err)
    }

    अगर मोबाइल और इंटरनेट सेवा देने वाली कंपनी आपको किसी खास पोर्ट पर गाने सुनने के लिए कहती है, तो Genkit को उसी हिसाब से कॉन्फ़िगर करें.

  5. का इस्तेमाल करें.

    जनरेटिव एआई की ज़्यादातर सेवाओं में सीमित डेटा होता है. इसलिए, आपको ताकि उन्हें कॉल करने वाले किसी भी एंडपॉइंट को ओपन ऐक्सेस दिया जा सके. होस्टिंग की कुछ सेवाएं डिप्लॉय किए गए ऐप्लिकेशन के लिए, फ़्रंटएंड के तौर पर पुष्टि करने की लेयर उपलब्ध कराना, इस काम के लिए इनका इस्तेमाल किया जा सकता है.

  6. डिप्लॉय किए गए अपने फ़ंक्शन के लिए, एपीआई क्रेडेंशियल उपलब्ध कराएं. कोई एक काम करें नीचे दिया गया है, जो आपके चुने मॉडल कंपनी के आधार पर:

    1. पक्का करें कि Google का एआई आपके इलाके में उपलब्ध है.

    2. इस एपीआई के लिए एपीआई पासकोड जनरेट करें Google AI Studio का इस्तेमाल करके Gemini API.

    3. डिप्लॉय किए गए एनवायरमेंट में एपीआई पासकोड उपलब्ध कराएं.

      ज़्यादातर ऐप्लिकेशन होस्ट, रहस्यों को सुरक्षित रूप से मैनेज करने के लिए कुछ सिस्टम उपलब्ध कराते हैं, जैसे कि का इस्तेमाल एपीआई कुंजियों के तौर पर करें. अक्सर, ये सीक्रेट आपके ऐप्लिकेशन में की जानकारी देते रहें. अगर आप अपना एपीआई पासकोड, GOOGLE_GENAI_API_KEY वैरिएबल है, तो Genkit इसका इस्तेमाल अपने-आप करेगा. अगर ऐसा नहीं है, तो आपको googleai.Init() कॉल में बदलाव करना होगा, ताकि कुंजी सेट करें. (हालांकि, कुंजी को सीधे कोड में एम्बेड न करें! सीक्रेट का इस्तेमाल करें आपके होस्टिंग प्रोवाइडर की ओर से दी जाने वाली मैनेजमेंट सुविधाएं.)

    1. Cloud Console में, Vertex AI API को चालू करना आपके प्रोजेक्ट के लिए.

    2. IAM पर पेज पर, Vertex AI API ऐक्सेस करने के लिए, सेवा खाता बनाएं. याद रखें कि यह पहले से ही मौजूद नहीं है.

      खाते को Vertex AI User की भूमिका दें.

    3. ऐप्लिकेशन के डिफ़ॉल्ट क्रेडेंशियल सेट अप करें एक ही जगह पर कई सुविधाएं मौजूद हैं.

    4. अपने Google Cloud प्रोजेक्ट आईडी और Vertex के साथ प्लगिन को कॉन्फ़िगर करें AI API की जगह की जानकारी, जिसका इस्तेमाल करना है. ऐसा करने के लिए आपके कैंपेन में GCLOUD_PROJECT और GCLOUD_LOCATION एनवायरमेंट वैरिएबल होस्ट कर रहा है या vertexai.Init() कॉल में है.

    इस ट्यूटोरियल के लिए, आपको सिर्फ़ मॉडल सेवा देने वाली कंपनी, लेकिन आम तौर पर आपको हर सेवा के लिए कुछ ऐसा करना होगा इस्तेमाल करता है.

  7. ज़रूरी नहीं: डेवलपर यूज़र इंटरफ़ेस (यूआई) में अपना फ़्लो आज़माएं:

    1. आपने मॉडल बनाने वाली जो कंपनी चुनी है उसके लिए, अपना लोकल एनवायरमेंट सेट अप करें:

      export GOOGLE_GENAI_API_KEY=<your API key>
      export GCLOUD_PROJECT=<your project ID>
      export GCLOUD_LOCATION=us-central1
      gcloud auth application-default login
    2. यूज़र इंटरफ़ेस (यूआई) शुरू करें:

      genkit start
    3. डेवलपर यूज़र इंटरफ़ेस (यूआई) (http://localhost:4000/) में, फ़्लो चलाएं:

      1. menuसुझावFlow पर क्लिक करें.

      2. इनपुट JSON टैब पर, मॉडल के लिए कोई विषय बताएं:

        "banana"
      3. Run पर क्लिक करें.

  8. अगर अब तक सब कुछ उम्मीद के मुताबिक काम कर रहा है, तो टूल का इस्तेमाल करके फ़्लो को कम कर सकते हैं.

Code-first framework for orchestrating, deploying, and monitoring generative AI workflows.

Aug 23, 2024 को अपडेट किया गया

Code-first framework for orchestrating, deploying, and monitoring generative AI workflows.

Aug 23, 2024 को अपडेट किया गया

Code-first framework for orchestrating, deploying, and monitoring generative AI workflows.

Nov 6, 2024 को अपडेट किया गया