Chỉ định vị trí để truy cập vào mô hình

Các mô hình AI tạo sinh của Google có ở một số khu vực.

Khi khởi chạy dịch vụ phụ trợ Vertex AI Gemini API trong mã, bạn có thể tuỳ ý chỉ định vị trí cho mô hình mà bạn đang truy cập trong các yêu cầu. Xem danh sách các vị trí có sẵn ở phần sau trên trang này.

Dưới đây là một số thông tin chính và phương pháp hay nhất về vị trí:

• Giới hạn về dung lượng là theo từng mô hình, theo từng khu vực, theo từng phút.

• Nếu bạn không chỉ định vị trí, thì giá trị mặc định sẽ là us-central1.

• Để tránh gặp phải giới hạn về dung lượng một cách bất ngờ, hãy cân nhắc đặt vị trí thành global (nếu mô hình của bạn hỗ trợ vị trí global).

• Nếu việc đặt vị trí thành global không áp dụng được hoặc không được hỗ trợ cho trường hợp sử dụng của bạn, hãy cân nhắc việc phân phối rõ ràng nơi bạn truy cập vào các mô hình. Ví dụ: bạn có thể đặt vị trí dựa trên vị trí của người dùng cuối bằng cách sử dụng Firebase Remote Config.

Tìm hiểu về vị trí global

Để truy cập vào hầu hết các Gemini mô hình, Vertex AI Gemini API hỗ trợ vị trí global, nghĩa là yêu cầu của bạn sẽ được xử lý bởi một mô hình có sẵn ở bất kỳ đâu trong nhóm toàn cầu. Việc đặt vị trí thành global cho các yêu cầu có thể giúp bạn tránh gặp phải giới hạn về dung lượng cho mô hình và giảm lỗi hết tài nguyên (429).

Mã mẫu

Xin lưu ý rằng các mẫu này cho thấy cách truy cập vào mô hình Gemini, nhưng bạn cũng có thể chỉ định vị trí khi truy cập vào mô hình Imagen.

Thay thế LOCATION bằng mã vị trí (ví dụ: europe-west4) trong danh sách các vị trí có sẵn ở phần sau trên trang này.

// ...

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
let ai = FirebaseAI.firebaseAI(backend: .vertexAI(location: "LOCATION"))

// Create a `GenerativeModel` instance with a model that supports your use case
let model = ai.generativeModel(modelName: "MODEL_NAME")

// ...

// ...

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
val model = Firebase.ai(backend = GenerativeBackend.vertexAI(location = "LOCATION"))
                        .generativeModel("MODEL_NAME")

// ...

// ...

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.vertexAI("LOCATION"))
        .generativeModel("MODEL_NAME");

GenerativeModelFutures model = GenerativeModelFutures.from(ai);

// ...

// ...

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
const ai = getAI(firebaseApp, { backend: new VertexAIBackend('LOCATION') });

// Create a `GenerativeModel` instance with a model that supports your use case
const model = getGenerativeModel(ai, { model: 'MODEL_NAME' });

// ...

// ...

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
final ai = await FirebaseAI.vertexAI(location: 'LOCATION');

// Create a `GenerativeModel` instance with a model that supports your use case
final model = ai.generativeModel(model: 'MODEL_NAME');

// ...

// ...

// Initialize the Vertex AI Gemini API backend service
// Specify a supported location for where you want to access the model
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.VertexAI(location: "LOCATION"));

// Create a `GenerativeModel` instance with a model that supports your use case
var model = ai.GetGenerativeModel(modelName: "MODEL_NAME");

// ...

Xin lưu ý rằng nếu bạn chỉ định một vị trí mà mô hình không có ở đó, bạn sẽ gặp lỗi 404 cho biết mô hình was not found or your project does not have access to it (không tìm thấy hoặc dự án của bạn không có quyền truy cập vào mô hình đó).

Phạm vi cung cấp

Google Cloud sử dụng các khu vực. Google Cloud chỉ lưu trữ dữ liệu khách hàng ở khu vực mà bạn chỉ định cho tất cả các tính năng thường dùng của AI tạo sinh trên Vertex AI.

AI tạo sinh trên Vertex AI có ở các khu vực sau. Một số mô hình và/hoặc phiên bản cụ thể có thể không có ở tất cả các vị trí (để biết thông tin chi tiết về phạm vi cung cấp, hãy xem Google Cloud tài liệu).

Tất cả các mô hình Gemini (ngoại trừ các mô hình Gemini Live API) cũng có ở vị trí global. Đối với tất cả các Live API mô hình và tất cả các Imagen mô hình, vị trí global không được hỗ trợ.