نشر التدفقات إلى أي نظام أساسي لاستضافة التطبيقات

يمكنك نشر مسارات Firebase Genkit كخدمات ويب باستخدام أي خدمة يمكنها استضافة برنامج ثنائي Go. ترشدك هذه الصفحة، كمثال، خلال العملية العامة لنشر وتدفق النموذج الافتراضي، ويشير إلى المكان الذي يجب أن تأخذ فيه النموذج الخاص مناسبة.

  1. إنشاء دليل لمشروع Genkit النموذجي:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    إذا كنت ستستخدم بيئة تطوير متكاملة (IDE)، افتحه في هذا الدليل.

  2. تهيئة وحدة Go في دليل المشروع:

    go mod init example/cloudrun

  3. إعداد Genkit في مشروعك:

    genkit init

    اختَر موفِّر الطراز الذي تريد استخدامه.

    اقبل الإعدادات التلقائية للطلبات المتبقية. ستنشئ أداة genkit نموذج ملف مصدر لتبدأ بتطوير مسارات الذكاء الاصطناعي (AI) الخاصة بك. ومع ذلك، في بقية هذا البرنامج التعليمي، ستنشر فقط تدفق العينة.

  4. عدِّل نموذج الملف (main.go أو genkit.go) لتحديد المنفذ الذي يجب أن يصغي إليه خادم التدفق:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    إذا طلب منك موفّر الخدمة الاستماع عبر منفذ معيّن، احرص على وإعداد Genkit وفقًا لذلك.

  5. تنفيذ شكل من أشكال المصادقة والتفويض لبوابة الوصول إلى التدفقات التي تخطط لنشرها.

    بما أنّ معظم خدمات الذكاء الاصطناعي التوليدي تفرض تكلفة استخدام، لا تريد على الأرجح للسماح بالوصول المفتوح إلى أي نقاط نهاية تستدعيها. بعض خدمات الاستضافة توفر طبقة مصادقة كواجهة أمامية للتطبيقات المنشورة عليها، والتي يمكنك استخدامها لهذا الغرض

  6. إتاحة بيانات اعتماد واجهة برمجة التطبيقات للدالة المنشورة نفِّذ أحد الإجراءات التالية بناءً على موفر النموذج الذي اخترته:

    Gemini (تكنولوجيات الذكاء الاصطناعي من Google)

    1. التأكّد من أنّ تكنولوجيات الذكاء الاصطناعي من Google متوفّرة في منطقتك

    2. إنشاء مفتاح واجهة برمجة تطبيقات Gemini API باستخدام Google AI Studio

    3. إتاحة مفتاح واجهة برمجة التطبيقات في البيئة المنشورة

      يوفر معظم مضيفي التطبيقات نظامًا للتعامل مع الأسرار بأمان، مثل كمفاتيح واجهة برمجة التطبيقات. تتوفر هذه الأسرار غالبًا لتطبيقك في شكل من أشكال المتغيرات البيئية. إذا كان بإمكانك تعيين مفتاح واجهة برمجة التطبيقات GOOGLE_GENAI_API_KEY، سيستخدمه Genkit تلقائيًا. بخلاف ذلك، عليك تعديل استدعاء googleai.Init() إلى اضبط المفتاح. (ولكن لا تقم بتضمين المفتاح في التعليمات البرمجية مباشرة! استخدام السر خدمات إدارة البيانات التي يوفّرها موفر خدمة الاستضافة).

    Gemini (Vertex AI)

    1. في Cloud Console تفعيل Vertex AI API لمشروعك.

    2. في إدارة الهوية وإمكانية الوصول يمكنك إنشاء حساب خدمة للوصول إلى Vertex AI API إذا كنت لا تمتلك واحدًا.

      امنح الحساب دور مستخدم Vertex AI.

    3. ضبط بيانات الاعتماد التلقائية للتطبيق في بيئة الاستضافة

    4. اضبط المكوِّن الإضافي باستخدام رقم تعريف مشروع Google Cloud وVertex الموقع الجغرافي لواجهة برمجة التطبيقات AI API الذي تريد استخدامه يمكنك إجراء ذلك إما من خلال تعيين متغيّرات البيئة GCLOUD_PROJECT وGCLOUD_LOCATION في أو بيئة الاستضافة أو في مكالمة vertexai.Init().

    السر الوحيد الذي تحتاج إلى إعداده لهذا البرنامج التعليمي هو النموذج المستخدم، ولكن عليك بشكل عام تنفيذ إجراء مماثل لكل خدمة التي يستخدمها التدفق.

  7. اختياري: يمكنك تجربة المسار في واجهة مستخدم المطوّر:

    1. إعداد بيئتك المحلية لموفّر النماذج الذي اخترته:

      Gemini (تكنولوجيات الذكاء الاصطناعي من Google)

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. بدء واجهة المستخدم:

      genkit start

    3. في واجهة مستخدم مطور البرامج (http://localhost:4000/)، شغّل التدفق:

      1. انقر على mesuggestionFlow.

      2. في علامة التبويب Input JSON، قدِّم موضوعًا للنموذج:

        "banana"

      3. انقر على تشغيل.

  8. إذا سارت كل الأمور على النحو المتوقع حتى الآن، يمكنك إنشاء باستخدام أدوات موفر الخدمة.