反垃圾(内容审核)

更新时间: 2024/12/12 11:08:51

网易云信 NERoom 支持安全通反垃圾(内容审核)功能。

功能描述

安全通是网易云信提供的内容安全增值业务,为您提供全方位的内容安全检测服务。在国家对互联网内容安全政策监管日趋严格和规范的大背景下,为您的产品营收稳定增长保驾护航。

目前支持单聊、群聊、聊天室的文本消息、图片消息、自定义消息以及用户头像和用户资料等类型的内容安全检测。

开通安全通功能并配置安全通检测规则后,指定类型的消息都会先经由安全通进行内容安全检测,之后才会转发给接收端的应用用户。若检测的消息违规,NRERoom 会对该消息进行拦截,接受方不会收到该违规消息;发送者也会通过回调收到检测结果。

前提条件

实现 IM 消息内容审核

开通 IM 安全通服务后,即可实现消息安全通审核。当发送的消息匹配命中敏感词后,会触发 NERoomListener.onAntiSpamMessageIntercepted 回调。回调中的 antiSpamRes 字段为具体的安全通审核结果。

审核结果详情如下:

参数 类型 说明
code Integer 内容审核状态码
  • 200:内容审核结果返回正常
  • 404:返回的内容审核结果为空
  • 414:返回的内容审核结果过长
  • type String 内容审核类型
  • text:文本
  • image:图片
  • version String 内容审核的接口版本
    taskId String 审核任务的 ID
    suggestion Integer 建议处理方式
  • 0:通过
  • 1:嫌疑,建议人工复审
  • 2:不通过
  • status Integer 内容审核请求结果
  • 0:检测成功
  • 1:检测失败
  • ext String 内容审核结果,对应易盾的 result 字段,具体请参考 易盾文档(注:本链接仅以 “单次同步文本检测的 result 字段说明” 为例)

    考虑到安全通内容审核相关字段后续的扩展性(一般为新增属性),请注意做好解析兼容。

    此文档是否对你有帮助?
    有帮助
    去反馈
    • 功能描述
    • 前提条件
    • 实现 IM 消息内容审核