反垃圾

更新时间: 2023/07/21 06:56:54

云信 IM Web Elite 支持三类内容反垃圾功能,分别为安全通、通用反垃圾和第三方反垃圾。您可按需开通和配置上述反垃圾功能,满足您的业务内容安全审核需求,避免内容违规导致的业务风险。

安全通

安全通(又称“易盾反垃圾”)是网易云信提供的内容安全增值业务,为您提供全方位的内容安全检测服务。开通安全通功能并配置安全通检测规则后,指定类型的消息都会先经由安全通进行内容安全检测,之后才会转发给接收端的应用用户。安全通目前支持单聊、群聊、聊天室和圈组的文本消息、图片消息、用户头像和用户资料等类型的内容安全检测以及自定义消息的内容安全检测。

更多 IM 安全通介绍请参见安全通概述

技术原理

安全通示意图.png

若您需要云信服务器将审核结果抄送到您的应用服务器,即上图中的流程 6,请先开通易盾异步反垃圾抄送

前提条件

如需使用安全通,请确保您已开通安全通服务

实现方法

开通安全通服务后,调用相关接口发送消息的时候传入下列参数可实现消息内容过安全通检测。

参数
是否必传
类型
说明
yidunEnable boolean 是否过安全通检测;若应用没有开通安全通,则设置无效;若设置为 false,则此消息只过通用反垃圾。
antiSpamContent String 自定义内容安全字段;仅对自定义消息有效;必须传递 JSON 格式字符串,长度不超过 5,000 字节。
antiSpamBusinessId String 安全通自定义业务 ID;如需新增安全通自定义业务,请联系商务经理进行相关配置,然后前往云信控制台的安全通配置界面获取该业务 ID。

示例代码如下:

jsnim.sendText({
  // ... 省略其他字段
  yidunEnable: true,
  antiSpamContent: JSON.stringify({
    "type": 1, // 1:文本,2:图片,3视频
    "data": "" // 文本内容or图片地址or视频地址
  }),
})

上述参数仅适用于 IM 除聊天室和圈组以外的内容安全通检测。圈组相关的安全通检测的入参请参见 ChatMessageAntiSpamInfo;聊天室相关的安全通检测的入参请参见 yidunAntiCheatingyidunAntiSpamExt

通用反垃圾

通用反垃圾指使用 IM 默认的反垃圾功能,是 IM 最基础的内容审核能力,仅能满足对涉政和反动等内容的审核。通用反垃圾不需要任何配置。

如果您开通了客户端本地反垃圾和安全通等增值内容审核能力,系统默认不再调用通用反垃圾能力,转而调用这些增值能力。

第三方反垃圾

如果您的应用已接入第三方内容安全审核服务(第三方反垃圾服务),您可通过云信服务端的第三方回调服务来实现第三方反垃圾,即发送方发送消息后先过第三方内容安全审核后再判断是否投递至接收方。

此文档是否对你有帮助?
有帮助
去反馈
  • 安全通
  • 技术原理
  • 前提条件
  • 实现方法
  • 通用反垃圾
  • 第三方反垃圾