圈组支持安全通（内容审核）服务。本文介绍如何实现圈组的内容安全检测。

背景信息

“类 Discord” 的大型线上社群场景中，充斥着各种不可控的风险因素，例如色情、暴恐和涉政信息等。随着国家监管的日趋严格，各平台需要对线上平台的内容进行管控，然而自行进行内容审核需要投入大量人力进行甄别。网易云信融合网易易盾的内容审核能力，为开发者提供安全通（内容审核）服务（又称“易盾反垃圾”），对内容进行有效的判别和筛选，降低人力投入。

在云信控制台开通安全通功能并配置安全通检测规则后，指定类型的消息都会先经由安全通进行内容安全检测，之后才会转发给接收端的用户。圈组的消息、用户头像、用户资料和自定义消息的内容安全检测均可通过安全通进行审核。

前提条件

• 已联系商务经理开通圈组功能。

• 在进行安全通能力的集成前，请确保您已开通 IM 安全通，且已在云信控制台上配置圈组相关的配置，具体见下图。

  单击展开查看云信控制台上的必要配置

  1. 选择应用，在应用详情界面中选择IM 专业版 > 安全通，进入 IM 安全通配置界面。
  2. 按需对如下图所示标红的审核类型进行配置。
  其中语音消息和视频消息必须先配置抄送地址才能配置内容审核。

  

实现消息内容审核

发送时的配置

圈组中，消息内容审核参数为antiSpamInfo，其类型为QChatMessageAntiSpamInfo类。

调用如下方法时，可配消息内容审核参数。

方法	说明
sendMessage	在频道里发送消息
updateMessage	更新圈组消息

QChatMessageAntiSpamInfo类的 部分 成员参数说明如下：

参数	参数类型	说明
antiSpamUsingYidun	boolean	设置是否对当前消息使用安全通进行内容审核的信息，开通安全通后默认进行内容审核
antiSpamBusinessId	string	设置安全通的自定义反垃圾（即内容审核）业务的 ID。自定义反垃圾业务主要用来针对单条消息进行除了默认反垃圾业务以外的内容审核。开通安全通后，云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务，如果需要自定义反垃圾业务，请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请，获取对应的业务 ID。
yidunAntiCheating	string	设置透传给易盾的反作弊检测参数，格式为 JSON，长度限制1024 ，具体请参见文本防刷版开发文档
yidunAntiSpamExt	string	设置透传给易盾的反垃圾扩展字段，具体请参见易盾的反垃圾增强版用户可扩展参数，格式为 JSON，长度限制1024
yidunAntiSpamRes	string	内容审核的拦截结果字段，具体字段信息参见审核结果字段说明

获取拦截结果

发送方发送消息后，如果发送失败，需要发送方主动捕获消息发送失败的error信息，并从其中获取消息被内容审核拦截的结果。

仅文本消息和图片消息可返回消息被内容审核拦截的信息。其他类型消息，不支持返回拦截信息。

try {
  const msg = await qchat.qchatMsg.sendMessage({})
} catch(err) {
  console.error(err)
}

error信息示例：

实现资料内容审核

圈组资料包括服务器资料、频道资料、身份组资料和成员资料。SDK 支持通过antiSpamBusinessId对上述资料类型进行内容审核。

方法	参数类型	说明
antispamTag	AntispamTag	安全通的自定义反垃圾（即内容审核）业务的 ID（{ antiSpamBusinessId: { picbid: string; textbid: string } }）。自定义反垃圾业务主要用来针对圈组的资料信息进行除了默认反垃圾业务以外的内容审核。开通安全通后，云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务，如果需要自定义反垃圾业务，请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请，获取对应的业务 ID。

服务器资料内容审核

调用如下方法创建或修改服务器时，可通过antiSpamBusinessId对服务器资料进行内容审核。

API	说明	相关文档
createServer	创建服务器	服务器管理
updateServer	修改服务器

频道资料内容审核

调用如下方法创建或修改频道时，可通过antiSpamBusinessId对频道道资料进行内容审核。

API	说明	相关文档
createChannel	创建频道	频道管理
updateChannel	修改频道

身份组资料内容审核

调用如下方法创建或修改服务器身份组时，可通过antiSpamBusinessId对身份组资料进行内容审核

API	说明	相关文档
createServerRole	创建服务器身份组	服务器身份组
updateServerRole	修改服务器身份组

服务器成员资料内容审核

调用如下方法修复自己或他人在服务器的成员信息时，可通过配置antiSpamBusinessId参数对成员资料进行内容审核。

API	说明	相关文档
updateMyMemberInfo	修改自己在服务器的成员信息	修改自己的成员信息
updateServerMemberInfo	修改他人在服务器的成员信息	修改他人的服务器成员信息