安全通
更新时间: 2024/07/17 17:57:35
网易云信融合网易易盾的内容安全审核能力,为您提供全方位的内容审核增值服务,对 IM 即时通讯内容进行有效的判别和筛选,降低相关人力投入。在国家对互联网内容安全政策监管日趋严格和规范的大背景下,为您的产品营收稳定增长保驾护航。
IM 易盾内容审核服务现已全新升级为安全通服务,2021年 4 月 1 日后开通的内容审核功能均为新版安全通。新版安全通服务相较于旧版内容审核功能,提供更为便捷的接入方式、更易用的接口体系。
技术原理
针对不同的内容类型,安全通提供两套内容审核方案:
审核方案 |
说明 |
---|---|
实时(同步)内容审核 | 主要针对文本和图片内容。由云信服务端进行内容提交、过滤和投递,客户端会收到内容审核结果,且云信服务器会同时抄送审核结果给应用服务器。客户端上需根据内容审核结果自行实现相关业务处理。 |
异步内容审核 | 主要针对音频、视频和文件。由云信服务端先行投递消息,违规内容由云信服务端删除。内容审核结果抄送至应用服务器,后者根据审核结果对消息进行处理(如撤回)。客户端不会收到内容审核结果。 |
功能概述
开通安全通功能并配置安全通检测规则后,指定类型的消息经过相关的接口调用和配置后,都会先经由安全通进行内容安全检测,之后才会转发给接收端的用户。安全通目前支持单聊、群聊、聊天室和圈组的文本消息、图片消息、用户头像和用户资料等类型的内容安全检测以及自定义消息的内容安全检测。
目前提供如下几种消息类型的内容审核:
API 关键字 | 说明 |
---|---|
text | 文本消息 |
image | 图片消息 |
audio | 音频消息 |
video | 视频消息 |
custom | 自定义消息 |
注意事项
云信安全通内部使用了易盾的密钥,如果您刷新了易盾密钥,请务必及时同步给云信技术支持。
审核结果字段说明
异步内容审核不支持返回结果字段。
实时内容审核结果通过客户端回调返回,具体请参考客户端相关文档。审核结果字段 yidunAntiSpamRes,该字段为 JSON 字符串格式,请自行解析或者反转成 JSON 对象使用。yidunAntiSpamRes 字段定义如下:
名称 | 类型 | 说明 |
---|---|---|
code | Integer | 状态码:
|
type | String | 内容审核类型
|
version | String | 易盾内容审核的接口版本 |
taskId | String | 审核任务的 ID |
suggestion | Integer | 建议处理方式
|
status | Integer | 内容审核请求结果 |
ext | String | 内容审核结果,对应易盾的 result 字段,result 字段详情参见易盾文档(注:本链接仅以“单次同步文本检测的 result 字段说明”为例) |
考虑到安全通内容审核相关字段后续的扩展性(一般为新增属性),请注意做好解析兼容。
参考文档
此文档是否对你有帮助?