安全通
更新时间: 2023/07/10 02:26:00
本文介绍 iOS 端监听安全通审核后,收到透传消息的使用方法。
功能介绍
泛娱乐类音视频聊天场景中,充斥着各种不可控的风险因素,例如色情、暴恐和涉政信息等。
随着国家监管的日趋严格,各平台需要对平台的音视频内容进行管控,自行处理音视频内容审核需要投入大量人力进行甄别。
网易云信融合网易易盾的内容审核能力,为开发者提供实时音视频安全通(内容安全审核)服务(以下简称安全通),对音视频内容进行有效的判别和筛选,降低人力投入。
技术原理
安全通的架构如下图所示。
架构说明如下:
-
应用服务器:
您的应用服务器负责调用网易云信服务端 API,在指定房间中开启或结束内容审核、管理内容审核的状态。
-
安全通服务:
- 开启安全通后,实时音视频安全通服务会以虚拟身份加入音视频房间,实时监听房间内的视频流和音频流。例如依据预设的频率截取视频截图、音频片段,用于内容审核。
- 安全通服务的虚拟身份对其他房间成员不可见,应用服务器调用停止检测接口时,该虚拟身份自动退出房间,结束安全审核。
-
接受内容审核结果的服务器:
- 安全通服务的审核结果会以抄送形式发送至您预留的抄送地址,即您本地用于处理消息抄送的服务器公网地址。您也可以主动调用网易云信服务端 API,主动获取审核过程中收集的语音和截图等证据信息。
- 服务器接收到实时审核结果时,可以据此进行相关的业务处理逻辑,例如检测到违规连麦者时,可以踢人、关闭房间等等。
安全通的时序图如下图所示。
sequenceDiagram
participant A as 用户A
participant HJA as 呼叫组件A
participant YY as 1V1应用服务器
participant G2 as 云信服务器
participant HJB as 呼叫组件B
participant B as 用户B
A->>HJA: A发起呼叫邀请
HJA->>G2: 呼叫组件发起呼叫邀请
G2-->>HJB: A邀请B的信令
HJB-->>B: A邀请B
B->>HJB: B接听
HJB->>G2: B接听
HJB->>G2: B加入RTC
G2-->>YY: RTC房间创建的抄送
rect rgb(191, 223, 255)
YY ->> G2: 创建安全通审核任务
end
G2-->>YY: B加入RTC的抄送
G2-->>HJA: B接听的信令
HJA->>G2: A加入RTC
HJA-->>A: B接听
G2-->>YY: A、B出现违规的抄送
rect rgb(191, 223, 255)
YY ->> A: 提示用户A、B出现违规
YY ->> B: 提示用户A、B出现违规
end
实现方法
您需要监听服务端下发的 400、401 和 3000 事件,当涉及敏感内容时,UI 界面触发安全通相关处理,例如增加遮罩和提示词。
-
进入页面后,添加
NEOneOnOneListener
监听。示例代码如下:
[[NEOneOnOneKit getInstance] addOneOnOneListener:self];
-
监听代理方法
onReceiveNotificationCustomMessageWithMessage
。示例代码如下:
- (void)onReceiveNotificationCustomMessageWithMessage:(NEOneOnOneCustomMessage *)message { if (message.type == 400 || message.type == 401) { if (message.data.audio) { NSString *uid = [NSString stringWithFormat:@"%lld", message.data.audio.uid]; if (uid.length > 0 && [uid intValue] > 0) { /// 言语涉及敏感内 } } if (message.data.video) { NSString *uid = [NSString stringWithFormat:@"%lld", message.data.video.uid]; if (uid.length > 0 && [uid intValue] > 0) { ///画面涉及敏感内容 } } } else if (message.type == 3000) { ///正常case } }
此文档是否对你有帮助?