คุณทำให้ขั้นตอนของ Firebase Genkit ใช้งานได้เป็นบริการบนเว็บโดยใช้บริการใดก็ได้ที่โฮสต์ไบนารีของ Go ได้ หน้านี้เป็นตัวอย่างที่จะแนะนำคุณตลอดขั้นตอนทั่วไปในการทำให้โฟลว์ตัวอย่างเริ่มต้นใช้งานได้ รวมถึงระบุจุดที่ต้องดำเนินการเฉพาะผู้ให้บริการ
สร้างไดเรกทอรีสำหรับโปรเจ็กต์ตัวอย่าง Genkit ดังนี้
mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project
หากคุณจะใช้ IDE ให้เปิดในไดเรกทอรีนี้
เริ่มต้นโมดูล Go ในไดเรกทอรีโปรเจ็กต์ โดยทำดังนี้
go mod init example/cloudrun
เริ่มต้น Genkit ในโปรเจ็กต์ของคุณ
genkit init
เลือกผู้ให้บริการโมเดลที่ต้องการใช้
ยอมรับค่าเริ่มต้นสำหรับข้อความแจ้งที่เหลือ เครื่องมือ
genkit
จะสร้างตัวอย่างไฟล์ต้นฉบับเพื่อช่วยคุณเริ่มต้นพัฒนาขั้นตอน AI ของคุณเอง แต่สำหรับส่วนที่เหลือของบทแนะนำนี้ คุณเพียงแค่ทำให้ขั้นตอนตัวอย่างใช้งานได้แก้ไขไฟล์ตัวอย่าง (
main.go
หรือgenkit.go
) เพื่อระบุพอร์ตที่เซิร์ฟเวอร์โฟลว์เซิร์ฟเวอร์ควรรับคำสั่งอย่างชัดแจ้ง ดังนี้if err := genkit.Init(ctx, &genkit.Options{FlowAddr: ":3400"}, // Add this parameter. ); err != nil { log.Fatal(err) }
หากผู้ให้บริการกำหนดให้คุณฟังในพอร์ตเฉพาะ ให้กำหนดค่า Genkit ให้สอดคล้องกัน
ใช้การตรวจสอบสิทธิ์และการให้สิทธิ์บางรูปแบบเพื่อการเข้าถึงประตูสู่ขั้นตอนที่คุณวางแผนจะทำให้ใช้งานได้
เนื่องจากบริการ Generative AI ส่วนใหญ่มีการวัดปริมาณอินเทอร์เน็ต คุณจึงไม่ควรอนุญาตให้เข้าถึงปลายทางที่เรียกใช้บริการเหล่านั้นแบบเปิดกว้าง บริการโฮสติ้งบางอย่างมีเลเยอร์การตรวจสอบสิทธิ์เป็นฟรอนท์เอนด์ของแอปที่ใช้งานในบริการดังกล่าว ซึ่งคุณสามารถใช้เพื่อวัตถุประสงค์นี้ได้
ทำให้ข้อมูลเข้าสู่ระบบ API พร้อมใช้งานสำหรับฟังก์ชันที่ทำให้ใช้งานได้ ทำอย่างใดอย่างหนึ่งต่อไปนี้ โดยขึ้นอยู่กับผู้ให้บริการโมเดลที่คุณเลือก
Gemini (AI ของ Google)
ตรวจสอบว่า AI ของ Google พร้อมใช้งานในภูมิภาคของคุณ
สร้างคีย์ API สำหรับ Gemini API โดยใช้ Google AI Studio
ทำให้คีย์ API พร้อมใช้งานในสภาพแวดล้อมที่ทำให้ใช้งานได้แล้ว
โฮสต์แอปส่วนใหญ่มีระบบบางอย่างสำหรับจัดการข้อมูลลับอย่างปลอดภัย เช่น คีย์ API บ่อยครั้งที่ข้อมูลลับเหล่านี้พร้อมใช้งานสำหรับแอปของคุณในรูปแบบตัวแปรสภาพแวดล้อม หากคุณกำหนดคีย์ API ให้กับตัวแปร
GOOGLE_GENAI_API_KEY
ได้ Genkit จะใช้คีย์ดังกล่าวโดยอัตโนมัติ ไม่เช่นนั้น คุณจะต้องแก้ไขการเรียกgoogleai.Init()
เพื่อตั้งค่าคีย์อย่างชัดเจน (แต่อย่าฝังคีย์ในโค้ดโดยตรง! ใช้หน่วยงานการจัดการข้อมูลลับที่ผู้ให้บริการโฮสติ้งมีให้)
Gemini (Vertex AI)
เปิดใช้ Vertex AI API สำหรับโปรเจ็กต์ของคุณในคอนโซล Cloud
ในหน้า IAM ให้สร้างบัญชีบริการสำหรับเข้าถึง Vertex AI API หากคุณยังไม่มีบัญชี
มอบบทบาทผู้ใช้ Vertex AI ให้กับบัญชี
ตั้งค่าข้อมูลเข้าสู่ระบบเริ่มต้นของแอปพลิเคชันในสภาพแวดล้อมโฮสติ้ง
กำหนดค่าปลั๊กอินด้วยรหัสโปรเจ็กต์ Google Cloud และตำแหน่ง Vertex AI API ที่ต้องการใช้ ซึ่งทำได้โดยการตั้งค่าตัวแปรสภาพแวดล้อม
GCLOUD_PROJECT
และGCLOUD_LOCATION
ในสภาพแวดล้อมการโฮสต์หรือในการเรียกใช้vertexai.Init()
ข้อมูลลับเดียวที่คุณต้องตั้งค่าสำหรับบทแนะนำนี้คือสำหรับผู้ให้บริการโมเดล แต่โดยทั่วไปแล้ว คุณจะต้องดำเนินการที่คล้ายกันสำหรับบริการแต่ละบริการที่กระบวนการของคุณใช้
ไม่บังคับ: ลองดำเนินการตามขั้นตอนใน UI ของนักพัฒนาซอฟต์แวร์ ดังนี้
ตั้งค่าสภาพแวดล้อมในเครื่องสำหรับผู้ให้บริการโมเดลที่คุณเลือก ดังนี้
Gemini (AI ของ Google)
export GOOGLE_GENAI_API_KEY=<your API key>
Gemini (Vertex AI)
export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login
เริ่มต้น UI ด้วยคำสั่งต่อไปนี้
genkit start
ใน UI ของนักพัฒนาซอฟต์แวร์ (http://localhost:4000/) ให้เรียกใช้ขั้นตอนดังนี้
คลิก MenuSuggestionFlow
ในแท็บ Input JSON ให้ระบุหัวเรื่องสำหรับโมเดล ดังนี้
"banana"
คลิกเรียกใช้
หากทุกอย่างทำงานได้ดีตามที่คาดไว้ คุณสามารถสร้างและทำให้โฟลว์นี้ใช้งานได้โดยใช้เครื่องมือของผู้ให้บริการ