Live API'nin oturumlarını yönetme

Gemini Live API, oturum adı verilen sürekli ses veya metin akışlarını işler. İlk el sıkışmadan düzgün sonlandırmaya kadar oturum yaşam döngüsünü yönetebilirsiniz.

Oturumlarla ilgili sınırlar

Live API için oturum, giriş ve çıkışın aynı bağlantı üzerinden sürekli olarak aktarıldığı kalıcı bir bağlantıyı ifade eder.

Oturum aşağıdaki sınırlardan herhangi birini aşarsa bağlantı sonlandırılır.

  • Bağlantı süresi yaklaşık 10 dakika ile sınırlıdır.

  • Oturum süresi, giriş biçimlerine bağlıdır:

    • Yalnızca ses girişli oturumlar 15 dakika ile sınırlıdır.
    • Video ve ses girişi 2 dakika ile sınırlıdır.

  • Oturum bağlam penceresi 128 bin jetonla sınırlıdır.

Bağlantı sona ermeden önce kullanımdan kaldırılma bildirimi alırsınız. Bu bildirim sayesinde daha fazla işlem yapabilirsiniz.

Oturum başlatma

Oturum başlatma işleminin nasıl yapılacağını gösteren tam bir snippet için Live API başlangıç kılavuzunu ziyaret edin.

Oturum ortasında güncelleme

Live API modelleri, oturum ortası güncellemeler için aşağıdaki gelişmiş özellikleri destekler:

Artımlı içerik güncellemeleri ekleme

Etkin bir oturum sırasında artımlı güncellemeler ekleyebilirsiniz. Metin girişi göndermek, oturum bağlamı oluşturmak veya oturum bağlamını geri yüklemek için kullanılır.

  • Daha uzun bağlamlar için, sonraki etkileşimlerde bağlam penceresini boşaltmak amacıyla tek bir ileti özeti sağlamanızı öneririz.

  • Kısa bağlamlar için, aşağıdaki snippet'te olduğu gibi, etkinliklerin tam sırasını temsil eden adım adım etkileşimler gönderebilirsiniz.

Swift 

// Define initial turns (history/context).
let turns: [ModelContent] = [
  ModelContent(role: "user", parts: [TextPart("What is the capital of France?")]),
  ModelContent(role: "model", parts: [TextPart("Paris")]),
]

// Send history, keeping the conversational turn OPEN (false).
await session.sendContent(turns, turnComplete: false)

// Define the new user query.
let newTurn: [ModelContent] = [
  ModelContent(role: "user", parts: [TextPart("What is the capital of Germany?")]),
]

// Send the final query, CLOSING the turn (true) to trigger the model response.
await session.sendContent(newTurn, turnComplete: true)

Kotlin 

Not yet supported for Android apps - check back soon!

Java 

Not yet supported for Android apps - check back soon!

Web 

const turns = [{ text: "Hello from the user!" }];

await session.send(
  turns,
  false // turnComplete: false
);

console.log("Sent history. Waiting for next input...");

// Define the new user query.
const newTurn [{ text: "And what is the capital of Germany?" }];

// Send the final query, CLOSING the turn (true) to trigger the model response.
await session.send(
    newTurn,
    true // turnComplete: true
);
console.log("Sent final query. Model response expected now.");

Dart 

// Define initial turns (history/context).
final List turns = [
  Content(
    "user",
    [Part.text("What is the capital of France?")],
  ),
  Content(
    "model",
    [Part.text("Paris")],
  ),
];

// Send history, keeping the conversational turn OPEN (false).
await session.send(
  input: turns,
  turnComplete: false,
);

// Define the new user query.
final List newTurn = [
  Content(
    "user",
    [Part.text("What is the capital of Germany?")],
  ),
];

// Send the final query, CLOSING the turn (true) to trigger the model response.
await session.send(
  input: newTurn,
  turnComplete: true,
);

Unity 

// Define initial turns (history/context).
List turns = new List {
    new ModelContent("user", new ModelContent.TextPart("What is the capital of France?") ),
    new ModelContent("model", new ModelContent.TextPart("Paris") ),
};

// Send history, keeping the conversational turn OPEN (false).
foreach (ModelContent turn in turns)
{
    await session.SendAsync(
        content: turn,
        turnComplete: false
    );
}

// Define the new user query.
ModelContent newTurn = ModelContent.Text("What is the capital of Germany?");

// Send the final query, CLOSING the turn (true) to trigger the model response.
await session.SendAsync(
    content: newTurn,
    turnComplete: true
);

Oturum sırasında sistem talimatlarını güncelleme

Yalnızca Vertex AI Gemini API API sağlayıcısı olarak kullanılırken kullanılabilir.

Etkin bir oturum sırasında sistem talimatlarını güncelleyebilirsiniz. Bunu, modelin yanıtlarını uyarlamak için kullanın. Örneğin, yanıt dilini değiştirebilir veya üslubu düzenleyebilirsiniz.

Sistem talimatlarını oturum ortasında güncellemek için system rolüyle metin içeriği gönderebilirsiniz. Güncellenen sistem talimatları, oturumun geri kalanı için geçerli olmaya devam edecek.

Swift 

await session.sendContent(
  [ModelContent(
    role: "system",
    parts: [TextPart("new system instruction")]
  )],
  turnComplete: false
)

Kotlin 

Not yet supported for Android apps - check back soon!

Java 

Not yet supported for Android apps - check back soon!

Web 

Not yet supported for Web apps - check back soon!

Dart 

try {
  await _session.send(
    input: Content(
      'system',
      [Part.text('new system instruction')],
    ),
    turnComplete: false,
  );
} catch (e) {
  print('Failed to update system instructions: $e');
}

Unity 

try
{
    await session.SendAsync(
        content: new ModelContent(
            "system",
            new ModelContent.TextPart("new system instruction")
        ),
        turnComplete: false
    );
}
catch (Exception e)
{
    Debug.LogError($"Failed to update system instructions: {e.Message}");
}

Oturumun ne zaman sona ereceğini algılama

Oturum sona ermeden 60 saniye önce istemciye kapanma bildirimi gönderilir. Böylece, başka işlemler yapabilirsiniz.

Aşağıdaki örnekte, going away bildirimi dinlenerek yaklaşan bir oturum sonlandırmasının nasıl tespit edileceği gösterilmektedir:

Swift 

for try await response in session.responses {
  switch response.payload {

  case .goingAwayNotice(let goingAwayNotice):
    // Prepare for the session to close soon
    if let timeLeft = goingAwayNotice.timeLeft {
        print("Server going away in \(timeLeft) seconds")
    }
  }
}

Kotlin 

for (response in session.responses) {
    when (val message = response.payload) {
        is LiveServerGoAway -> {
            // Prepare for the session to close soon
            val remaining = message.timeLeft
            logger.info("Server going away in $remaining")
        }
    }
}

Java 

session.getResponses().forEach(response -> {
    if (response.getPayload() instanceof LiveServerResponse.GoingAwayNotice) {
        LiveServerResponse.GoingAwayNotice notice = (LiveServerResponse.GoingAwayNotice) response.getPayload();
        // Prepare for the session to close soon
        Duration timeLeft = notice.getTimeLeft();
    }
});

Web 

for await (const message of session.receive()) {
  switch (message.type) {

  ...
  case "goingAwayNotice":
    console.log("Server going away. Time left:", message.timeLeft);
    break;
  }
}

Dart 

Future _handleLiveServerMessage(LiveServerResponse response) async {
  final message = response.message;
  if (message is GoingAwayNotice) {
     // Prepare for the session to close soon
     developer.log('Server going away. Time left: ${message.timeLeft}');
  }
}

Unity 

foreach (var response in session.Responses) {
    if (response.Payload is LiveSessionGoingAway notice) {
        // Prepare for the session to close soon
        TimeSpan timeLeft = notice.TimeLeft;
        Debug.Log($"Server going away notice received. Remaining: {timeLeft}");
    }
}