Google は、黒人コミュニティのための人種的公平の促進に取り組んでいます。詳細をご覧ください。
コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

Analyze Comment Toxicity with Perspective API

Jigsaw
Made by Jigsaw

Analyze the perceived impact the text of a comment might have on a conversation using Perspective API.

この拡張機能の動作

Perspective API から Cloud Firestore コレクションに書き込まれたコメントの有害度スコアを取得する拡張機能です。

この拡張機能は、構成したテキスト フィールドとコレクションに対して Perspective API を実行します。この API は機械学習モデルを使用して、コメントが会話に与える影響をスコア化します。このコメントは、属性と呼ばれるさまざまな感情概念を通じて評価されます。この拡張機能をインストールする際に、どの属性のスコアを受け取るかを指定します。Perspective の主要な属性は TOXICITY(有害度)で、「人々がディスカッションから離れる可能性の高い、粗暴、無礼、または理不尽なコメント」として定義されます。デベロッパー サイトで 利用可能な 属性の一覧 をご確認ください。スコアは、新しいドキュメントがコレクションに追加されるか、既存のドキュメントが変更されると取得されます。

追加の設定

この拡張機能を使用する前に、Perspective API を有効にする必要があります。 スタートガイドのページの手順 に沿って API アクセスをリクエストし、 API を有効にして API キーを作成 します。

デフォルトで、Perspective API に対する 1 秒あたり 1 件のクエリ(QPS)が割り当てられます。追加の QPS については、必要に応じて 割り当ての増加リクエスト を入力します。

注: 割り当てられた QPS レートを上回ってドキュメントを追加または更新すると、割り当てを超過する場合があります。また、拡張機能によるドキュメントのスコア付けも行われない可能性があります。

課金

Perspective API はすべての割り当て量について 無料 でご利用いただけます。ただし、この拡張機能は、次に挙げるFirebase サービスや Google Cloud Platform サービスを使用するため、それらに関連する料金が発生する可能性があります。

  • Cloud Firestore
  • Cloud Functions

Firebase Extensions を使用する場合、課金の対象になるのは 使用した基盤リソースのみです。有料ティアの料金プランは、拡張機能が 有料ティアプランの必要なサービス(例: Google Cloud API の呼び出しや、Google 以外のサービスへの送信ネットワーク リクエストを行うサービス)を利用する場合にのみ必要となります。なお、すべての Firebase サービスに無料枠が用意されています。 Firebase の料金の詳細をご確認ください。

この拡張機能をインストールする方法

Firebase コンソールの使用

拡張機能のインストールと管理は、Firebase コンソールで行えます。

コンソールを使用してインストールする

Firebase CLI の使用

拡張機能のインストールと管理は、Firebase CLI でも行えます。

ステップ 1: 以下の npm コマンドを実行して、CLI をインストールするか、最新バージョンの CLI に更新します。

npm install -g firebase-tools
正常に機能しない場合は、 Firebase CLI リファレンス を確認するか、 npm のアクセス権 を変更してください。

ステップ 2: 新しい Firebase プロジェクトのディレクトリを設定 するか、既存のプロジェクト ディレクトリに移動します

ステップ 3: 次を実行して、この拡張機能を 拡張機能のマニフェスト に追加します

firebase ext:install jigsaw/firestore-perspective-toxicity --local --project=projectId_or_alias

Step 4 (Optional): Test this extension locally with the Firebase Emulator Suite

firebase emulators:start

ステップ 5: マニフェストにある拡張機能をプロジェクトに デプロイ します

firebase deploy --only extensions --project=projectId_or_alias
サポート対象
Cloud Firestore
作成者
ライセンス
Apache-2.0
バージョン
0.1.6