文档中心
即时通讯
内容审核
能力概述

能力概述

更新时间：2024-09-05 16:50

概述

ZEGO 即时通讯（ZIM）支持审核消息内容。目前，您可以使用多种方式满足审核需要；

（推荐）开通并使用 ZIM 内置的内容审核能力，无需额外开发，即可快速实现文本消息、图片消息、语音消息以及视频消息的安全审核。此外，ZIM 还支持您自定义敏感词列表，实现自定义文本消息审核。
如需自行实现审核或对接第三方审核服务，您可以使用消息发送前回调实现。

内置审核功能

在通过 ZEGO 控制台或者 ZEGO 技术支持开通内容审核服务之后，无需您额外配置，即可实现获取内容审核能力。ZIM 会根据您预设的审核等级返回审核结果，您只需根据该结果实现相关业务逻辑即可。

下表是目前支持的审核能力介绍：

审核内容	审核方式	审核渠道	审核标签
文本消息	先审后发	单聊消息群聊消息房间消息	默认检测以下违禁内容：涉政、暴恐、违禁、色情、辱骂、广告、隐私、广告法等。如需调整，请联系 ZEGO 技术支持处理。
图片消息	先发后审（默认）先审后发如需调整，请联系 ZEGO 技术支持。	单聊消息群聊消息房间消息	默认检测以下违禁内容：涉政、色情、暴恐、二维码、广告等，并可支持识别图片文字是否违规。如需调整，请联系 ZEGO 技术支持处理。
语音消息	先发后审	单聊消息群聊消息	默认检测以下违规内容：涉政、色情、暴恐等，并可支持识别以下违规内容：领导人声纹、广告、违禁、辱骂等。如需调整，请联系 ZEGO 技术支持处理。
视频消息	先发后审	单聊消息群聊消息房间消息	视频审核分为视频中图像和音频两方面内容的审核。图像：默认检测以下违规内容：涉政、色情、暴恐等，并可支持识别以下违规内容：二维码、图像文字等违规内容。如需调整，请联系 ZEGO 技术支持处理。音频：默认检测以下违规内容：涉政，色情，暴恐等，并可支持识别以下违规内容：领导人声纹、广告、违禁、辱骂等。如需调整，请联系 ZEGO 技术支持处理。

审核方式说明：
- 先审后发：ZIM 先审核消息，再发送消息。审核通过，消息发送成功；审核不通过，消息发送失败。
- 先发后审：ZIM 先发送消息，再审核消息。审核通过，消息正常显示；审核不通过，消息会被撤回。
您在使用内容审核服务时，可以根据审核渠道配置对应的审核标签和尺度。例如，部分社交场景中，群聊使用相对严格的尺度和标签，单聊使用相对宽松的尺度和标签。
支持针对审核结果，配置不同的审核强度。审核结果分为“通过”，“不确定”，“不通过”三种。
- 如果您设置的审核强度是“弱审核”：审核结果为“不确定”时，ZIM 将依旧发送此条消息。
- 如果您设置的审核强度是“强审核”：审核结果为“不确定”时，ZIM 将停止发送此条消息。

如需了解审核服务从开通到运行的全流程，请参考实现流程。

自定义敏感词

敏感词，是指在内置文本消息审核能力上扩展出的一种自定义审核策略。

如需使用此功能，请向 ZEGO 技术支持提供自定义的敏感词名单并说明处理策略。

在 ZEGO 技术支持完成配置后，ZIM 会对用户消息中命中名单的内容进行处理。目前 ZIM 提供三种处理策略：

处理策略	说明	举例
处理策略	说明	敏感词	原文本	发送结果
拦截敏感词	只要消息包含了敏感词，该消息将被直接拦截，导致消息发送失败。	您好	您好，欢迎您。	发送失败。
替换敏感词	如果消息包含了敏感词，ZIM 将用其他内容替换该敏感词，并发送该消息。消息接收端用户将看到替换后内容。	您好	您好，欢迎您。	**，欢迎您
发送原文文本	即便消息包含了敏感词，ZIM 仍继续发送该消息。	您好	您好，欢迎您。	您好，欢迎您。

在提供敏感词名单时，请遵循以下做法：

名单文件需为 Excel 格式。
将敏感词按照处理策略分类，随后分别放置在独立的名单文件中。
- 一个敏感词只能出现在一个名单文件中，即只能配置一个处理策略。
- 如果一个敏感词被配置了多种策略，ZIM 将按照以下优先级对该词进行处理：拦截 > 敏感词替换 > 原文发送。
如果敏感词中包含不同语种的词汇，请将他们按照语种分类，随后放置在独立的名单文件中。

例如，您自定义的敏感词包含中英文两种语言，且都需要对它们使用3 种处理策略，则您需要向 ZEGO 技术支持提供 6 份敏感词名单 Excel 文件，其中 3 份仅包含中文词汇（文件命名为：项目名称_拦截_zh、项目名称_替换_zh、项目名称_发送_zh），另外 3 份仅包含英文词汇（文件命名为：项目名称_拦截_en、项目名称_替换_en、项目名称_发送_en）。

审核功能计费

内容审核服务为付费服务，开发环境可免费体验 7 天，生产环境下需要按照实际用量进行付费。如需进一步了解审核服务收费细节，请参考计费说明。