瞭解並使用安全性設定


您可以使用安全性設定，調整收到可能有害回覆的可能性。根據預設，安全設定會封鎖所有維度中屬於中等和/或高機率有害的內容。

如要進一步瞭解安全設定，請參閱 Google Cloud 說明文件。

您可以在模型初始化期間設定 SafetySettings。以下列舉幾個基本範例。

以下說明如何設定安全設定：

Kotlin+KTX 

import com.google.firebase.vertexai.type.BlockThreshold
import com.google.firebase.vertexai.type.HarmCategory
import com.google.firebase.vertexai.type.SafetySetting

val generativeModel = Firebase.vertexAI.generativeModel(
    modelName = "MODEL_NAME",
    safetySettings = listOf(
        SafetySetting(HarmCategory.HARASSMENT, BlockThreshold.ONLY_HIGH)
    )
)

// ...

Java 

SafetySetting harassmentSafety = new SafetySetting(HarmCategory.HARASSMENT,
    BlockThreshold.ONLY_HIGH);

GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
    "MODEL_NAME",
    /* generationConfig is optional */ null,
    Collections.singletonList(harassmentSafety)
);

GenerativeModelFutures model = GenerativeModelFutures.from(gm);

// ...

你也可以設定多個安全設定：

Kotlin+KTX 

import com.google.firebase.vertexai.type.BlockThreshold
import com.google.firebase.vertexai.type.HarmCategory
import com.google.firebase.vertexai.type.SafetySetting

val harassmentSafety = SafetySetting(HarmCategory.HARASSMENT, BlockThreshold.ONLY_HIGH)

val hateSpeechSafety = SafetySetting(HarmCategory.HATE_SPEECH, BlockThreshold.MEDIUM_AND_ABOVE)

val generativeModel = Firebase.vertexAI.generativeModel(
    modelName = "MODEL_NAME",
    safetySettings = listOf(harassmentSafety, hateSpeechSafety)
)

// ...

Java 

SafetySetting harassmentSafety = new SafetySetting(HarmCategory.HARASSMENT,
    BlockThreshold.ONLY_HIGH);

SafetySetting hateSpeechSafety = new SafetySetting(HarmCategory.HATE_SPEECH,
    BlockThreshold.MEDIUM_AND_ABOVE);

GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
    "MODEL_NAME",
    /* generationConfig is optional */ null,
    List.of(harassmentSafety, hateSpeechSafety)
);

GenerativeModelFutures model = GenerativeModelFutures.from(gm);

// ...

其他控管內容產生作業的選項

  • 進一步瞭解提示設計，以便影響模型產生符合需求的輸出內容。
  • 設定模型參數，控制模型產生回覆的方式。這些參數包括輸出符記數量上限、溫度、topK 和 topP。
  • 設定系統指示，引導模型的行為。這項功能就像是「前言」，可在模型向使用者提供任何後續指示之前新增。
  • 請傳遞回應結構定義和提示，以便指定特定輸出結構定義。這項功能最常用於產生 JSON 輸出內容，但也可以用於分類工作 (例如希望模型使用特定標籤或標記時)。