本文介绍 Android 端开启和关闭安全通的操作方法。

功能介绍

泛娱乐类音视频聊天场景中，充斥着各种不可控的风险因素，例如色情、暴恐和涉政信息等。

随着国家监管的日趋严格，各平台需要对平台的音视频内容进行管控，自行处理音视频内容审核需要投入大量人力进行甄别。

网易云信融合网易易盾的内容审核能力，为开发者提供实时音视频安全通（内容安全审核）服务（以下简称安全通），对音视频内容进行有效的判别和筛选，降低人力投入。

技术原理

安全通的架构如下图所示。

架构说明如下：

• 应用服务器：

  您的应用服务器负责调用网易云信服务端 API，在指定房间中开启或结束内容审核、管理内容审核的状态。

• 安全通服务：

  • 开启安全通后，实时音视频安全通服务会以虚拟身份加入音视频房间，实时监听房间内的视频流和音频流。例如依据预设的频率截取视频截图、音频片段，用于内容审核。
  • 安全通服务的虚拟身份对其他房间成员不可见，应用服务器调用停止检测接口时，该虚拟身份自动退出房间，结束安全审核。

• 接受内容审核结果的服务器：

  • 安全通服务的审核结果会以抄送形式发送至您预留的抄送地址，即您本地用于处理消息抄送的服务器公网地址。您也可以主动调用网易云信服务端 API，主动获取审核过程中收集的语音和截图等证据信息。
  • 服务器接收到实时审核结果时，可以据此进行相关的业务处理逻辑，例如检测到违规连麦者时，可以踢人、关闭房间等等。

安全通的时序图如下图所示。

实现方法

1. 调用startAudit接口开启安全通。

   示例代码如下：

   SecurityAuditManager securityAuditManager = new SecurityAuditManager();
               securityAuditManager.startAudit(new SecurityAuditManager.SecurityAuditCallback() {
                   @Override
                   public void callback(SecurityAuditModel model) {
                     // 根据审核结果进行业务处理
                   }
               });            
   

2. 调用stopAudit接口关闭安全通。

   示例代码如下：

   securityAuditManager.stopAudit();