ทำให้โฟลว์ใช้งานได้ในแพลตฟอร์มโฮสติ้งแอปใดก็ได้

คุณสามารถทำให้ขั้นตอนของ Firebase Genkit ใช้งานได้เป็นบริการบนเว็บโดยใช้บริการใดก็ได้ที่สามารถ โฮสต์ไบนารี Go หน้านี้เป็นตัวอย่างที่จะแนะนำคุณตลอดขั้นตอนทั่วไปในการทำให้ ขั้นตอนตัวอย่างเริ่มต้น รวมถึงชี้ให้เห็นจุดที่คุณต้องดำเนินการตามผู้ให้บริการ การดำเนินการ

  1. สร้างไดเรกทอรีสำหรับโปรเจ็กต์ตัวอย่าง Genkit ดังนี้

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    หากคุณจะใช้ IDE ให้เปิดในไดเรกทอรีนี้

  2. เริ่มต้นโมดูล Go ในไดเรกทอรีโปรเจ็กต์ โดยทำดังนี้

    go mod init example/cloudrun

  3. เริ่มต้น Genkit ในโปรเจ็กต์ของคุณ

    genkit init

    เลือกผู้ให้บริการโมเดลที่ต้องการใช้

    ยอมรับค่าเริ่มต้นสำหรับข้อความแจ้งที่เหลือ เครื่องมือ genkit จะสร้าง ไฟล์ต้นฉบับตัวอย่างสำหรับให้คุณเริ่มพัฒนาขั้นตอน AI ของคุณเอง แต่สำหรับส่วนที่เหลือของบทแนะนำนี้ คุณเพียงแค่ทำให้ขั้นตอนตัวอย่างใช้งานได้

  4. แก้ไขไฟล์ตัวอย่าง (main.go หรือ genkit.go) เพื่อระบุ พอร์ตที่เซิร์ฟเวอร์โฟลว์ควรรับคำสั่งต่อไปนี้

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    หากผู้ให้บริการกำหนดให้คุณฟังในพอร์ตที่เฉพาะเจาะจง โปรด กำหนดค่า Genkit ให้สอดคล้องกัน

  5. ใช้การตรวจสอบสิทธิ์และการให้สิทธิ์ในบางรูปแบบเพื่อการเข้าถึงประตู ขั้นตอนที่คุณวางแผนจะทำให้ใช้งานได้

    เนื่องจากบริการ Generative AI ส่วนใหญ่มีการวัดปริมาณอินเทอร์เน็ต เพื่ออนุญาตการเข้าถึงแบบเปิดไปยังปลายทางที่เรียกปลายทางเหล่านั้น บริการโฮสติ้งบางอย่าง ให้เลเยอร์การตรวจสอบสิทธิ์เป็นฟรอนท์เอนด์ของแอปที่ใช้งานได้ ซึ่งคุณใช้เพื่อวัตถุประสงค์นี้ได้

  6. ทำให้ข้อมูลเข้าสู่ระบบ API พร้อมใช้งานสำหรับฟังก์ชันที่ทำให้ใช้งานได้ ทำอย่างใดอย่างหนึ่งต่อไปนี้ ดังต่อไปนี้ ขึ้นอยู่กับผู้ให้บริการโมเดลที่คุณเลือก

    Gemini (AI ของ Google)

    1. ตรวจสอบว่า AI ของ Google พร้อมให้บริการในภูมิภาคของคุณ

    2. สร้างคีย์ API สำหรับ Gemini API ที่ใช้ Google AI Studio

    3. ทำให้คีย์ API พร้อมใช้งานในสภาพแวดล้อมที่ทำให้ใช้งานได้แล้ว

      โฮสต์แอปส่วนใหญ่มีระบบบางอย่างสำหรับจัดการข้อมูลลับอย่างปลอดภัย เช่น เป็นคีย์ API บ่อยครั้งที่ข้อมูลลับเหล่านี้อยู่ในแอปของคุณ ของตัวแปรสภาพแวดล้อม หากคุณกำหนดคีย์ API ให้กับ GOOGLE_GENAI_API_KEY ตัวแปร Genkit จะใช้ตัวแปรนี้โดยอัตโนมัติ มิฉะนั้นคุณต้องแก้ไขการเรียก googleai.Init() เป็น กำหนดคีย์ (แต่อย่าฝังคีย์ในโค้ดโดยตรง! ใช้ข้อมูลลับ การจัดการที่จัดหาโดยผู้ให้บริการโฮสติ้ง)

    Gemini (Vertex AI)

    1. ใน Cloud Console เปิดใช้ Vertex AI API สำหรับโปรเจ็กต์ของคุณ

    2. ใน IAM ให้สร้างบัญชีบริการสําหรับเข้าถึง Vertex AI API หากคุณ ไม่มีอยู่จริง

      มอบบทบาทผู้ใช้ Vertex AI ให้กับบัญชี

    3. ตั้งค่าข้อมูลเข้าสู่ระบบเริ่มต้นของแอปพลิเคชัน ในสภาพแวดล้อมโฮสติ้งของคุณ

    4. กำหนดค่าปลั๊กอินด้วยรหัสโปรเจ็กต์ Google Cloud และ Vertex ตำแหน่ง AI API ที่ต้องการใช้ คุณสามารถทำได้โดยการตั้งค่า ตัวแปรสภาพแวดล้อม GCLOUD_PROJECT และ GCLOUD_LOCATION ใน สภาพแวดล้อมโฮสติ้ง หรือในการเรียกใช้ vertexai.Init()

    ข้อมูลลับเดียวที่คุณต้องตั้งค่าสำหรับบทแนะนำนี้คือสำหรับโมเดล แต่โดยทั่วไป คุณจะต้องดำเนินการที่คล้ายกันนี้สำหรับแต่ละบริการ ที่คุณใช้

  7. ไม่บังคับ: ลองดำเนินการตามขั้นตอนใน UI ของนักพัฒนาซอฟต์แวร์ ดังนี้

    1. ตั้งค่าสภาพแวดล้อมในเครื่องสำหรับผู้ให้บริการโมเดลที่คุณเลือก ดังนี้

      Gemini (AI ของ Google)

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. เริ่มต้น UI ด้วยคำสั่งต่อไปนี้

      genkit start

    3. ใน UI ของนักพัฒนาซอฟต์แวร์ (http://localhost:4000/) ให้เรียกใช้ขั้นตอนดังนี้

      1. คลิก MenuSuggestionFlow

      2. ในแท็บ Input JSON ให้ระบุหัวเรื่องสำหรับโมเดล ดังนี้

        "banana"

      3. คลิกเรียกใช้

  8. หากทุกอย่างทำงานเป็นปกติดีแล้ว คุณสามารถสร้างและใช้ โดยใช้เครื่องมือของผู้ให้บริการ