IM 即时通讯
服务端
API 参考
圈组

安全通

更新时间: 2023/10/30 15:07:16

网易云信融合网易易盾的内容安全审核能力,为您提供全方位的内容审核增值服务,对 IM 即时通讯内容进行有效的判别和筛选,降低相关人力投入。在国家对互联网内容安全政策监管日趋严格和规范的大背景下,为您的产品营收稳定增长保驾护航。

IM 易盾内容审核服务现已全新升级为安全通服务,2021年 4 月 1 日后开通的内容审核功能均为新版安全通。新版安全通服务相较于旧版内容审核功能,提供更为便捷的接入方式、更易用的接口体系。

技术原理

针对不同的内容类型,安全通提供两套内容审核方案:

审核方案
说明
实时(同步)内容审核 主要针对文本和图片内容。由云信服务端进行内容提交、过滤和投递,客户端会收到内容审核结果,且云信服务器会同时抄送审核结果给应用服务器。客户端上需根据内容审核结果自行实现相关业务处理。
异步内容审核 主要针对音频、视频和文件。由云信服务端先行投递消息,违规内容由云信服务端删除。内容审核结果抄送至应用服务器,后者根据审核结果对消息进行处理(如撤回)。客户端不会收到内容审核结果

安全通技术原理.png

功能概述

开通安全通功能并配置安全通检测规则后,指定类型的消息经过相关的接口调用和配置后,都会先经由安全通进行内容安全检测,之后才会转发给接收端的用户。安全通目前支持单聊、群聊、聊天室和圈组的文本消息、图片消息、用户头像和用户资料等类型的内容安全检测以及自定义消息的内容安全检测。

目前提供如下几种消息类型的内容审核:

API 关键字 说明
text 文本消息
image 图片消息
audio 音频消息
video 视频消息
custom 自定义消息

注意事项

云信安全通内部使用了易盾的密钥,如果您刷新了易盾密钥,请务必及时同步给云信技术支持。

审核结果字段说明

异步内容审核不支持返回结果字段。

实时内容审核结果通过客户端回调返回,具体请参考客户端相关文档。审核结果字段 yidunAntiSpamRes,该字段为 JSON 字符串格式,请自行解析或者反转成 JSON 对象使用。yidunAntiSpamRes 字段定义如下:

名称类型说明
code Integer状态码:
  • 200:易盾内容审核结果返回正常
  • 404:易盾反回的内容审核结果为空,该情况下 yidunAntiSpamRes 中无 code 以外的字段
  • 414:易盾返回的内容审核结果过长,该情况下 yidunAntiSpamRes 中无 ext 字段
type String内容审核类型
  • text:文本
  • image:图片
version String易盾内容审核的接口版本
taskId String审核任务的 ID
suggestion Integer 建议处理方式
  • 0:通过
  • 1:嫌疑,建议人工复审
  • 2:不通过
status Integer内容审核请求结果
  • 2:检测成功
  • 3:检测失败只有图片审核(type="image")时才返回该字段。
  • ext String内容审核结果,对应易盾的 result 字段,result 字段详情参见易盾文档(注:本链接仅以“单次同步文本检测的 result 字段说明”为例)

    考虑到安全通内容审核相关字段后续的扩展性(一般为新增属性),请注意做好解析兼容。

    参考文档

    此文档是否对你有帮助?
    有帮助
    去反馈
    • 技术原理
    • 功能概述
    • 注意事项
    • 审核结果字段说明
    • 参考文档