本文介绍 Android 端开启和关闭安全通的操作方法。

功能介绍

泛娱乐类音视频聊天场景中，充斥着各种不可控的风险因素，例如色情、暴恐和涉政信息等。

随着国家监管的日趋严格，各平台需要对平台的音视频内容进行管控，自行处理音视频内容审核需要投入大量人力进行甄别。

网易云信融合网易易盾的内容审核能力，为开发者提供实时音视频安全通（内容安全审核）服务（以下简称安全通），对音视频内容进行有效的判别和筛选，降低人力投入。

技术原理

安全通的架构如下图所示。

架构说明如下：

• 应用服务器：

  您的应用服务器负责调用网易云信服务端 API，在指定房间中开启或结束内容审核、管理内容审核的状态。

• 安全通服务：

  • 开启安全通后，实时音视频安全通服务会以虚拟身份加入音视频房间，实时监听房间内的视频流和音频流。例如依据预设的频率截取视频截图、音频片段，用于内容审核。
  • 安全通服务的虚拟身份对其他房间成员不可见，应用服务器调用停止检测接口时，该虚拟身份自动退出房间，结束安全审核。

• 接受内容审核结果的服务器：

  • 安全通服务的审核结果会以抄送形式发送至您预留的抄送地址，即您本地用于处理消息抄送的服务器公网地址。您也可以主动调用网易云信服务端 API，主动获取审核过程中收集的语音和截图等证据信息。
  • 服务器接收到实时审核结果时，可以据此进行相关的业务处理逻辑，例如检测到违规连麦者时，可以踢人、关闭房间等等。

安全通的时序图如下图所示。

sequenceDiagram
    participant A as 用户A
    participant HJA as 呼叫组件A
    participant YY as 1V1应用服务器
    participant G2 as 云信服务器
    participant HJB as 呼叫组件B
    participant B as 用户B

    A->>HJA: A发起呼叫邀请
    HJA->>G2: 呼叫组件发起呼叫邀请
    G2-->>HJB: A邀请B的信令
    HJB-->>B: A邀请B
    B->>HJB: B接听
    HJB->>G2: B接听
    HJB->>G2: B加入RTC
    G2-->>YY: RTC房间创建的抄送
    rect rgb(191, 223, 255)
    YY ->> G2: 创建安全通审核任务
    end
    G2-->>YY: B加入RTC的抄送
    G2-->>HJA: B接听的信令
    HJA->>G2: A加入RTC
    HJA-->>A: B接听
    G2-->>YY: A、B出现违规的抄送
    rect rgb(191, 223, 255)
    YY ->> A: 提示用户A、B出现违规
    YY ->> B: 提示用户A、B出现违规
    end

实现方法

1. 调用startAudit接口开启监听业务服务器返回的安全通事件。

   示例代码如下：

   SecurityAuditManager securityAuditManager = new SecurityAuditManager();
               securityAuditManager.startAudit(new SecurityAuditManager.SecurityAuditCallback() {
                   @Override
                   public void callback(SecurityAuditModel model) {
                     // 根据审核结果进行业务处理
                   }
               });            
   

2. 调用stopAudit接口移除监听安全通事件。

   示例代码如下：

   securityAuditManager.stopAudit();