网易云信融合网易易盾的内容安全审核能力，为您提供全方位的内容审核增值服务，对 IM 即时通讯内容进行有效的判别和筛选，降低相关人力投入。在国家对互联网内容安全政策监管日趋严格和规范的大背景下，为您的产品营收稳定增长保驾护航。

技术原理

针对不同的内容类型，安全通提供两套内容审核方案：

审核方案	说明
实时（同步）内容审核	主要针对文本和图片内容。由网易云信服务端进行内容提交、过滤和投递，客户端会收到内容审核结果，且网易云信服务器会同时抄送审核结果给应用服务器。客户端上需根据内容审核结果自行实现相关业务处理。
异步内容审核	主要针对音频、视频和文件。由网易云信服务端先行投递消息，违规内容由网易云信服务端删除。内容审核结果抄送至应用服务器，后者根据审核结果对消息进行处理（如撤回）。客户端不会收到内容审核结果。

网易云信 IM 实现安全通反垃圾的技术原理如下图所示，若您需要网易云信服务器将审核结果抄送到您的应用服务器，即流程 6 和流程 12，请开通 异步反垃圾抄送。

sequenceDiagram
autoNumber
participant sender as 发送端（集成 NIM SDK）
participant NE as 网易云信服务端
participant yidun as 内容审核服务
participant app as 应用服务端
participant recev as 接收端

par 实时（同步）内容检测
sender->>NE:投递文本内容
NE->>yidun:提交审核
yidun-->>NE:返回审核结果
NE->>NE:违规内容过滤
NE->>recev:审核通过下发内容
NE->>app:抄送审核结果
end

par 异步内容检测
sender->>NE:投递音频/视频/文件内容
NE->>yidun:提交审核
NE->>recev:直接下发内容
yidun-->>NE:异步审核，告知命中结果
NE->>NE:删除违规内容
NE->>app:抄送审核结果
app-->>NE:调用撤回消息或删除消息接口
end

功能概述

开通安全通功能并配置安全通检测规则 后，指定类型的消息经过相关的接口调用和配置后，都会先经由安全通进行内容安全检测，之后才会转发给接收端的用户。安全通目前支持单聊、群聊、聊天室和圈组的文本消息、图片消息、用户头像和用户资料等类型的内容安全检测以及自定义消息的内容安全检测。

目前提供如下几种消息类型的内容审核：

API 关键字	说明
text	文本消息
image	图片消息
audio	音频消息
video	视频消息
custom	自定义消息

注意事项

网易云信安全通内部使用了易盾的密钥，如果您刷新了易盾密钥，请务必及时 提交工单 联系网易云信技术支持工程师。

审核结果字段说明

异步内容审核 不支持 返回结果字段。

实时内容审核结果通过客户端回调返回，具体请参考客户端相关文档。审核结果字段 yidunAntiSpamRes，该字段为 JSON 字符串格式，请自行解析或者反转成 JSON 对象使用。yidunAntiSpamRes 字段定义如下：

名称	类型	说明
code	Integer	状态码： 200：易盾内容审核结果返回正常 404：易盾反回的内容审核结果为空，该情况下 yidunAntiSpamRes 中无 code 以外的字段 414：易盾返回的内容审核结果过长，该情况下 yidunAntiSpamRes 中无 ext 字段
type	String	内容审核类型 text：文本 image：图片
version	String	易盾内容审核的接口版本
taskId	String	审核任务的 ID
suggestion	Integer	建议处理方式 0：通过 1：嫌疑，建议人工复审 2：不通过
status	Integer	内容审核请求结果 2：检测成功 3：检测失败只有图片审核（type="image"）时才返回该字段。
ext	String	内容审核结果，对应易盾的 result 字段，result 字段详情参考 易盾文档。本链接仅以 单次同步文本检测的 result 字段说明 为例。

考虑到安全通内容审核相关字段后续的扩展性（一般为新增属性），请注意做好解析兼容。

参考文档

• 《网易易盾官方文档》文本内容审核
• 《网易易盾官方文档》图片内容审核