IM 即时通讯
Android
开发指南

圈组内容审核

更新时间: 2023/09/22 17:29:42

圈组支持安全通(内容审核)服务。本文介绍如何实现圈组的内容安全检测。

背景信息

“类 Discord” 的大型线上社群场景中,充斥着各种不可控的风险因素,例如色情、暴恐和涉政信息等。随着国家监管的日趋严格,各平台需要对线上平台的内容进行管控,然而自行进行内容审核需要投入大量人力进行甄别。网易云信融合网易易盾的内容审核能力,为开发者提供安全通(内容审核)服务(又称“易盾反垃圾”),对内容进行有效的判别和筛选,降低人力投入。

在云信控制台开通安全通功能并配置安全通检测规则后,指定类型的消息都会先经由安全通进行内容安全检测,之后才会转发给接收端的用户。圈组的消息、用户头像、用户资料和自定义消息的内容安全检测均可通过安全通进行审核。

前提条件

  • 开通圈组功能
  • 在进行安全通能力的集成前,请确保您已开通 IM 安全通,且已在子功能配置中配置圈组相关的内容审核功能,具体请参见开通 IM 安全通

实现内容审核

实现消息内容审核

SDK 内定义圈组消息内容审核相关配置参数的结构为QChatMessageAntiSpamOption类。调用sendMessage方法发送圈组消息或调用updateMessage方法更新圈组消息时,您可通过该类的成员参数进行内容审核配置。

QChatMessageAntiSpamOption类的 部分 内置方法说明如下:

方法
参数类型
说明
setAntiSpamUsingYidun Boolean 设置是否对当前消息使用安全通进行内容审核的信息。安全通开通后,默认对消息进行内容审核
setAntiSpamBusinessId String 设置安全通的自定义反垃圾(即内容审核)业务的 ID。自定义反垃圾业务主要用来针对单条消息进行除了默认反垃圾业务以外的内容审核。开通安全通后,云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务,如果需要自定义反垃圾业务,请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请,获取对应的业务 ID。
setYidunAntiCheating String 设置透传给易盾的反作弊检测参数,格式为 JSON,长度限制1024 ,具体请参见文本防刷版开发文档
setYidunAntiSpamExt String 设置透传给易盾的反垃圾扩展字段,具体请参见易盾的反垃圾增强版用户可扩展参数,格式为 JSON,长度限制1024

文本消息和图片消息发送后,SDK 支持通过QChatMessageAntiSpamResult类所包含的字段通知发送者消息内容的审核结果,具体字段信息参见审核结果字段说明。消息发送者可通过注册observeMessageStatusChange回调函数获取文本消息和图片消息的内容审核结果。

其他类型消息的内容审核结果,不支持通知消息发送者。

实现资料内容审核

圈组资料包括服务器资料、频道资料、身份组资料和成员资料。SDK 支持通过setAntiSpamBusinessId对上述资料类型进行内容审核。

方法
参数类型
说明
setAntiSpamBusinessId String 获取安全通的自定义反垃圾(即内容审核)业务的 ID。自定义反垃圾业务主要用来针对圈组的资料信息进行除了默认反垃圾业务以外的内容审核。开通安全通后,云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务,如果需要自定义反垃圾业务,请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请,获取对应的业务 ID。

服务器资料内容审核

调用如下方法创建或修改服务器时,可通过setAntiSpamBusinessId对服务器资料进行内容审核。

API 说明 相关文档
createServer 创建服务器 服务器管理
updateServer 修改服务器

频道资料内容审核

调用如下方法创建或修改频道时,可通过setAntiSpamBusinessId对频道道资料进行内容审核。

API
说明 相关文档
createChannel 创建频道 频道管理
updateChannel 修改频道

身份组资料内容审核

调用如下方法创建或修改身份组时,可通过setAntiSpamBusinessId对身份组资料进行内容审核

API
说明 相关文档
createServerRole 创建服务器身份组 服务器身份组
updateServerRole 修改服务器身份组

服务器成员资料内容审核

调用如下方法修复自己或他人在服务器的成员信息时,可通过配置setAntiSpamBusinessId参数对成员资料进行内容审核。

API 说明 相关文档
updateMyMemberInfo 修改自己在服务器的成员信息 修改自己的成员信息
updateServerMemberInfo 修改他人在服务器的成员信息 修改他人的服务器成员信息

相关参考

您可参考图解圈组消息流转了解内容审核对于圈组消息流转的影响。

此文档是否对你有帮助?
有帮助
去反馈
  • 背景信息
  • 前提条件
  • 实现内容审核
  • 实现消息内容审核
  • 实现资料内容审核
  • 服务器资料内容审核
  • 频道资料内容审核
  • 身份组资料内容审核
  • 服务器成员资料内容审核
  • 相关参考