IM 即时通讯(增强版)
Web
动态与公告
IM UIKit 更新日志
NIM SDK 更新日志
新手接入指南
产品介绍
简介
产品优势
主要功能
功能介绍
账号集成与登录
基础消息功能
群组功能
聊天室功能
圈组功能
多端登录与互踢策略
海外数据中心
IM 平滑迁移方案
接口及业务限制
体验 Demo
下载 SDK 与 Demo 源码
快速开始
跑通 IM Demo 源码
实现单聊消息收发(不含 UI)
实现聊天室登录(不含 UI)
实现圈组消息收发(不含 UI)
含 UI 集成
什么是 IM UIKit
IM UIKit 功能列表
快速集成 IM UIKit
非React框架快速集成
非React框架集成 IM UIKit
非 React 框架自定义示渲染
组件导入
初始化
全局上下文
登录相关
会话列表相关
集成会话列表界面
自定义会话列表界面 UI
会话消息相关
集成会话界面
实现自定义消息收发
自定义会话界面 UI
用户资料相关
集成用户资料组件
通讯录相关
集成通讯录界面
自定义通讯录界面 UI
搜素组件相关
集成搜索组件
自定义搜索组件 UI
主题样式设置
语言设置
初始化(兼容 NIM SDK)
常见问题
如何解决样式冲突
不含 UI 集成
集成 SDK
IM 登录与初始化相关
初始化并登录 IM
注销登录与销毁实例
多端登录与互踢
消息收发
历史消息
消息扩展
最近会话
服务端会话服务
用户资料托管
好友关系托管
在线状态订阅
系统通知
群组功能
群组概述
群组管理
群成员管理
群消息管理
超大群功能
超大群概述
超大群管理
超大群成员管理
超大群消息管理
反垃圾
聊天室功能
聊天室概述
聊天室初始化与登录相关
初始化并登录聊天室
注销登录与销毁实例
聊天室标签功能
聊天室消息管理
聊天室成员管理
聊天室信息管理
聊天室队列服务
圈组功能
圈组概述
初始化与登录
通用接口校验说明
服务器相关
服务器概述
服务器管理
服务器成员管理
游客功能
服务器未读数管理
频道相关
频道概述
频道管理
频道黑白名单
频道分组
频道分组黑白名单
频道未读数管理
实时互动频道
搜索服务器与频道
身份组相关
身份组概述
身份组应用场景
服务器身份组
频道身份组
频道用户定制权限
频道分组身份组
自定义权限项
成员权限查询与判定
身份组相关查询
圈组订阅机制
圈组消息相关
圈组消息收发
圈组消息撤回
圈组消息更新
圈组消息删除
消息正在输入
获取频道最后一条消息
会话消息回复(Thread)
圈组快捷评论
圈组消息搜索
查询历史消息
查询@我的消息
圈组系统通知相关
圈组系统通知概述
圈组系统通知收发
圈组系统通知更新
圈组内容审核
圈组第三方回调
圈组相关抄送
圈组各端接口命名差异
融合存储方案
最佳实践
聊天室重要消息投递
API 参考
NIM SDK API 参考
状态码
IM 控制台指南
创建应用
注册 IM 账号
升级服务
服务协议

圈组内容审核

更新时间: 2023/04/11 17:11:44

圈组支持安全通(内容审核)服务。本文介绍如何实现圈组的内容安全检测。

背景信息

“类 Discord” 的大型线上社群场景中,充斥着各种不可控的风险因素,例如色情、暴恐和涉政信息等。随着国家监管的日趋严格,各平台需要对线上平台的内容进行管控,然而自行进行内容审核需要投入大量人力进行甄别。网易云信融合网易易盾的内容审核能力,为开发者提供安全通(内容审核)服务(又称“易盾反垃圾”),对内容进行有效的判别和筛选,降低人力投入。

在云信控制台开通安全通功能并配置安全通检测规则后,指定类型的消息都会先经由安全通进行内容安全检测,之后才会转发给接收端的用户。圈组的消息、用户头像、用户资料和自定义消息的内容安全检测均可通过安全通进行审核。

前提条件

  • 已联系商务经理开通圈组功能。

  • 在进行安全通能力的集成前,请确保您已开通 IM 安全通,且已在云信控制台上配置圈组相关的配置,具体见下图。

    单击展开查看云信控制台上的必要配置
    1. 选择应用,在应用详情界面中选择IM 专业版 > 安全通,进入 IM 安全通配置界面。
    2. 按需对如下图所示标红的审核类型进行配置。
    3. 其中语音消息视频消息必须先配置抄送地址才能配置内容审核。

实现消息内容审核

发送时的配置

圈组中,消息内容审核参数为antiSpamInfo,其类型为QChatMessageAntiSpamInfo类。

调用如下方法时,可配消息内容审核参数。

方法 说明
sendMessage 在频道里发送消息
updateMessage 更新圈组消息

QChatMessageAntiSpamInfo类的 部分 成员参数说明如下:

参数
参数类型
说明
antiSpamUsingYidun boolean 设置是否对当前消息使用安全通进行内容审核的信息,开通安全通后默认进行内容审核
antiSpamBusinessId string 设置安全通的自定义反垃圾(即内容审核)业务的 ID。自定义反垃圾业务主要用来针对单条消息进行除了默认反垃圾业务以外的内容审核。开通安全通后,云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务,如果需要自定义反垃圾业务,请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请,获取对应的业务 ID。
yidunAntiCheating string 设置透传给易盾的反作弊检测参数,格式为 JSON,长度限制1024 ,具体请参见文本防刷版开发文档
yidunAntiSpamExt string 设置透传给易盾的反垃圾扩展字段,具体请参见易盾的反垃圾增强版用户可扩展参数,格式为 JSON,长度限制1024
yidunAntiSpamRes string 内容审核的拦截结果字段,具体字段信息参见审核结果字段说明

获取拦截结果

发送方发送消息后,如果发送失败,需要发送方主动捕获消息发送失败的error信息,并从其中获取消息被内容审核拦截的结果。

仅文本消息和图片消息可返回消息被内容审核拦截的信息。其他类型消息,不支持返回拦截信息。


try {
  const msg = await qchat.qchatMsg.sendMessage({})
} catch(err) {
  console.error(err)
}

error信息示例:

web圈祖内容审核消息拦截结果.png

实现资料内容审核

圈组资料包括服务器资料、频道资料、身份组资料和成员资料。SDK 支持通过antiSpamBusinessId对上述资料类型进行内容审核。

方法
参数类型
说明
antispamTag AntispamTag 安全通的自定义反垃圾(即内容审核)业务的 ID({ antiSpamBusinessId: { picbid: string; textbid: string } })。自定义反垃圾业务主要用来针对圈组的资料信息进行除了默认反垃圾业务以外的内容审核。开通安全通后,云信控制台会自动生成默认反垃圾业务。客户端不需要配置业务 ID 就能默认采用安全通的默认反垃圾业务,如果需要自定义反垃圾业务,请先通过云信官网首页提供的微信、在线聊天和电话等方式跟商务经理发出申请,获取对应的业务 ID。

服务器资料内容审核

调用如下方法创建或修改服务器时,可通过antiSpamBusinessId对服务器资料进行内容审核。

API 说明 相关文档
createServer 创建服务器 服务器管理
updateServer 修改服务器

频道资料内容审核

调用如下方法创建或修改频道时,可通过antiSpamBusinessId对频道道资料进行内容审核。

API 说明 相关文档
createChannel 创建频道 频道管理
updateChannel 修改频道

身份组资料内容审核

调用如下方法创建或修改服务器身份组时,可通过antiSpamBusinessId对身份组资料进行内容审核

API 说明 相关文档
createServerRole 创建服务器身份组 服务器身份组
updateServerRole 修改服务器身份组

服务器成员资料内容审核

调用如下方法修复自己或他人在服务器的成员信息时,可通过配置antiSpamBusinessId参数对成员资料进行内容审核。

API 说明 相关文档
updateMyMemberInfo 修改自己在服务器的成员信息 修改自己的成员信息
updateServerMemberInfo 修改他人在服务器的成员信息 修改他人的服务器成员信息
此文档是否对你有帮助?
有帮助
我要吐槽
  • 背景信息
  • 前提条件
  • 实现消息内容审核
  • 发送时的配置
  • 获取拦截结果
  • 实现资料内容审核
  • 服务器资料内容审核
  • 频道资料内容审核
  • 身份组资料内容审核
  • 服务器成员资料内容审核