Google 致力于为黑人社区推动种族平等。查看具体举措
使用集合让一切井井有条 根据您的偏好保存内容并对其进行分类。

Analyze Comment Toxicity with Perspective API

Jigsaw
Made by Jigsaw

Analyze the perceived impact the text of a comment might have on a conversation using Perspective API.

此扩展程序的运作方式

使用此扩展程序从 Perspective API 获取 写入 Cloud Firestore 集合的评论的 恶意评分。

此扩展程序在您配置的文本字段和集合上 运行 Perspective API。该 API 使用机器学习模型, 通过评估一系列情感概念(称为特性) 的评论来为评论可能对会话产生的影响打分。安装此扩展程序时, 您将指定您希望获得其得分的特性。Perspective 的主要 特性是 TOXICITY,其定义为“可能使您离开讨论的粗鲁、 无礼或不合理的评论”。在我们的开发者网站上查看 所有可用特性的列表 。 将新文档添加到您的集合或修改现有文档时, 系统会检索得分。

额外设置

您需要先启用 Perspective API,然后才能使用此扩展程序。 按照 我们的“使用入门”页面上的说明 申请 API 访问权限, 然后 启用 API 并创建 API 密钥

默认情况下,您的 Perspective API 每秒查询次数 (QPS) 配额 为 1。如需增加 QPS, 请根据需要填写 增加配额申请

注意 :如果您添加或更新文档的速率高于分配的 QPS, 则您可能会超出配额,并且扩展程序将无法对您的文档打分。

结算

Perspective API 对所有配额数量都 免费 。不过,此扩展程序要 用到 Firebase 和 Google Cloud Platform 服务 (这些服务可能会产生相关的费用),包括:

  • Cloud Firestore
  • Cloud Functions

在您使用 Firebase Extensions 时,仅需为所使用的底层 资源付费。只有此扩展程序使用的服务 (例如,调用 Google Cloud API 或向非 Google 服务发出出站网络请求)需要付费层级方案时, 此扩展程序才需要付费层级结算方案。 所有 Firebase 服务均提供免费用量层级。 详细了解 Firebase 结算。

如何安装此扩展程序

使用 Firebase 控制台

要安装和管理扩展程序,您可以使用 Firebase 控制台。

使用控制台安装

使用 Firebase CLI

要安装和管理扩展程序,您还可以使用 Firebase CLI:

步骤 1 :运行以下 npm 命令来安装 CLI 或将 CLI 更新到最新版本。

npm install -g firebase-tools
不能运行?请参阅 Firebase CLI 参考文档 或者更改您的 npm 权限

第 2 步 设置一个新的 Firebase 项目目录 或转到现有目录

第 3 步 :将此扩展程序添加到 扩展程序清单

firebase ext:install jigsaw/firestore-perspective-toxicity --local --project=projectId_or_alias

Step 4 (Optional): Test this extension locally with the Firebase Emulator Suite

firebase emulators:start

第 5 步 :将清单中的扩展程序 部署 到项目中

firebase deploy --only extensions --project=projectId_or_alias
支持
Cloud Firestore
作者
许可
Apache-2.0
版本
0.1.6