圈组支持安全通（内容审核）服务。本文介绍如何实现圈组的内容安全检测。

背景信息

“类 Discord” 的大型线上社群场景中，充斥着各种不可控的风险因素，例如色情、暴恐和涉政信息等。随着国家监管的日趋严格，各平台需要对线上平台的内容进行管控，然而自行进行内容审核需要投入大量人力进行甄别。网易云信融合网易易盾的内容审核能力，为开发者提供安全通（内容审核）服务（又称“易盾反垃圾”），对内容进行有效的判别和筛选，降低人力投入。

在云信控制台开通安全通功能并配置安全通检测规则后，指定类型的消息都会先经由安全通进行内容安全检测，之后才会转发给接收端的用户。圈组的消息、用户头像、用户资料和自定义消息的内容安全检测均可通过安全通进行审核。

前提条件

• 已开通圈组功能。
• 在进行安全通能力的集成前，请确保您已开通 IM 安全通，且已在子功能配置中配置圈组相关的内容审核功能，具体请参见开通 IM 安全通。

实现内容审核

实现消息内容审核

SDK 内定义圈组消息内容审核相关配置参数的结构为antiSpamOption，其类型为QChatMessageAntiSpamOption类。

调用sendMessage方法发送圈组消息或调用updateMessage方法更新圈组消息时，您可通过QChatMessageAntiSpamOption类的成员参数进行内容审核配置。

• QChatMessageAntiSpamOption类的 部分 重要参数

  参数	类型	是否必传	说明
  isAntiSpamUsingYidun	bool	否	是否对当前消息使用安全通进行内容审核。安全通开通后，默认对消息进行内容审核
  antiSpamBusinessId	String	否	安全通的自定义反垃圾（即内容审核）业务的 ID。自定义反垃圾业务主要用来针对单条消息进行除了默认反垃圾业务以外的内容审核。如需配置自定义反垃圾，请通过云信官网首页提供的微信、在线聊天和电话等方式联系商务经理进行配置，并获取对应的业务 ID
  yidunAntiCheating	String	否	透传给易盾的反作弊检测参数，格式为 JSON，长度限制1024 ，具体请参见文本防刷版开发文档
  yidunAntiSpamExt	String	否	透传给易盾的反垃圾扩展字段，具体请参见易盾的反垃圾增强版用户可扩展参数，格式为 JSON，长度限制1024

• 示例代码

  var paramText = QChatSendMessageParam(
          channelId: channelId, serverId: serverId, type: NIMMessageType.text);
      paramText.body = '文本消息';
      paramText.antiSpamOption = QChatMessageAntiSpamOption(isAntiSpamUsingYidun:true,antiSpamBusinessId: '传入业务ID');
      NimCore.instance.qChatMessageService
          .sendMessage(paramText)
          .then((value) {
      if (value.isSuccess) {
          //todo  success
      } else {}
      });
  

文本消息和图片消息发送后，SDK 支持通过QChatMessageAntiSpamResult类所包含的字段将消息内容的审核结果通知发送者，具体字段信息参见审核结果字段说明。消息发送者可通过注册onMessageStatusChange回调函数获取文本消息和图片消息的内容审核结果。

其他类型消息的内容审核结果，不支持通知消息发送者。

实现资料内容审核

圈组资料包括服务器资料、频道资料、身份组资料和成员资料。SDK 支持通过配置QChatAntiSpamConfig 类的antiSpamBusinessId参数对上述资料类型进行内容审核。

参数	类型	是否必传	说明
antiSpamBusinessId	String	否	安全通的自定义反垃圾（即内容审核）业务的 ID。自定义反垃圾业务主要用来针对圈组的资料信息进行除了默认反垃圾业务以外的内容审核。如需配置自定义反垃圾，请通过云信官网首页提供的微信、在线聊天和电话等方式联系商务经理进行配置，并获取对应的业务 ID

服务器资料内容审核

调用如下方法创建或修改服务器时，可通过配置antiSpamBusinessId参数对服务器资料进行内容审核。

API	说明	相关文档
createServer	创建服务器	服务器管理
updateServer	修改服务器

频道资料内容审核

调用如下方法创建或修改频道时，可通过配置antiSpamBusinessId参数对频道资料进行内容审核。

API	说明	相关文档
createChannel	创建频道	频道管理
updateChannel	修改频道

身份组资料内容审核

调用如下方法创建或修改身份组时，可通过配置antiSpamBusinessId参数对身份组资料进行内容审核。

API	说明	相关文档
createServerRole	创建服务器身份组	服务器身份组
updateServerRole	修改服务器身份组

服务器成员资料内容审核

调用如下方法修复自己或他人在服务器的成员信息时，可通过配置antiSpamBusinessId参数对成员资料进行内容审核。

API	说明	相关文档
updateMyMemberInfo	修改自己在服务器的成员信息	修改自己的成员信息
updateServerMemberInfo	修改他人在服务器的成员信息	修改他人的服务器成员信息

相关参考

您可参考图解圈组消息流转了解内容审核对于圈组消息流转的影响。