安全通审核自动打码

更新时间: 2024/03/25 11:00:42

安全通服务的审核结果会以抄送方式发送至您预留的抄送URL 地址,即您本地用于处理消息抄送的服务器公网地址。您可以根据审核结果自行实现相关的业务处理逻辑,但是若采用传统的内容审核处理方式,比如将出现违规行为的用户踢出房间或直接关闭主播的直播间,会影响房间通话时长,从而影响您的相关业务。
为了帮助您提高用户及房间的留存率,网易云信提供视频安全审核自动打码服务,通过服务端器向您的应用客户端发送打码指令,对违规用户的本端上行视频流和房间内其他用户接收到的此用户的下行视频流进行渲染打码。

功能介绍

通过调用网易云信服务器的创建安全通审核任务接口,开启视频审核自动打码功能。若云信服务器在截图频率(默认为 5 秒) x 5的时间段内收到 3 次及以上针对同一用户的违规回调通知,即 labels 数组中的 level 参数值为 2,则向客户端发送打码指令,对指定违规用户的上、下行媒体流进行马赛克打码操作。

技术原理

安全通审核自动打码的内部流程如下图所示。

安全通审核自动打码.svg

注意事项

  • 目前仅支持对视频主流进行打码。
  • 目前房间内仅支持提供一次安全通审核任务,若您需要更新打码状态,请在调用停止安全通审核任务接口终止此次审核任务后,重新提交审核任务。
  • 若您停止了安全通审核任务,SDK 会自动停止触发新的打码指令,但当前对违规用户已有的打码效果仍然生效。
  • 有违规记录的用户退出房间重连后,默认重新计算违规回调通知次数,再次符合打码条件后才会进行打码。

实现步骤

调用服务端接口创建安全通审核任务接口,并通过 autoMaskConfig 字段说明 参数设置视频审核自动打码相关参数。

参数说明

请求参数

autoMaskConfig 字段说明

参数名称
类型
是否必选
示例
描述
maskType Int 可选 0 打码效果。默认值为 0,即马赛克效果。
若报错 invalid format autoMaskConfig[maskType],说明传参非 Int 类型;
若报错 invalid negative autoMaskConfig[maskType],说明传参为负。
duration Int 可选 10 打码时长。单位为秒(s),默认值为 15 秒。
若报错 invalid format autoMaskConfig[duration],说明传参非 Int 类型;
若报错 invalid negative autoMaskConfig[duration],说明传参为负。
unmaskUids JSON 数组 可选 - 设置不打码的白名单。若不传则置空。
若报错 invalid format unmaskUids,说明传参非数组类型;
若报错 invalid format autoMaskConfig[unmaskUids],说明传参的元素类型有误。
enableMask Boolean 可选 true 是否开启自动打码。可设置为:
  • true:开启。
  • false(默认):关闭。
  • 返回参数

    Evidences 结构体中包含的参数如下:

    evidence 字段说明:

    参数名称 类型 描述
    beginTime Number 视频直播当前时间点。 单位为毫秒(ms)。您可自行格式化为可视化时间,如:1599205126000 转换为 "2020-09-04 15:38:46"。
    endTime Number 视频直播当前时间点。 单位为毫秒(ms)。您可自行格式化为可视化时间,如:1599205126000 转换为 "2020-09-04 15:38:46"。
    type Number 违规数据类型。返回值包括: 1:图片。 2:视频。
    url String 证据信息。
    speakerId String 针对接入 SDK 监听客户,返回说话人 ID。
    frontPics JSON 数组 违规前截图信息。

    labels 字段说明:

    参数名称 类型 描述
    label Number 分类信息。返回值包括:
  • 100:色情。
  • 110:性感。
  • 200:广告。
  • 210:二维码。
  • 260:广告法。
  • 300:暴恐。
  • 400:违禁。
  • 500:涉政。
  • 800:恶心类。
  • 900:其他。
  • 1020:黑屏。
  • 1030:挂机。
  • 1100:涉价值观。
  • subLabels JSON 数组 细分类信息。可能包含多条信息,可能为空。详细信息请参考 subLabels 字段说明
    level Number 级别信息,返回值包括:
  • 1:不确定。
  • 2:确定。
  • rate Number 分数。

    subLabels 字段说明

    参数名称 类型 描述
    subLabel Number 细分类。详细编码请参考细分类编码对应表
    rate Number 置信度分数。取值范围为 0 ~ 1。
    details JSON 数组 违规详细信息,请参考 details 字段说明

    details 字段说明

    参数名称 类型 描述
    hitInfos String 针对 sublabel 的补充说明。
    imageTagInfo JSON 数组 违规标签详细信息。针对 hintInfo 的补充说明,可能为空。
    详细信息请参考 imageTagInfo 字段说明

    imageTagInfo 字段说明

    参数名称 类型 描述
    tagName String hinInfo 中可返回的图片中包含的可识别内容。
    tagGroup String tagName 对应的分组名称。

    示例

    请求示例

    {
        "monitorUid": 1234567,
        "channelName": "channel-name",
        "detectType": 0,
        "scFrequency": 5,
        "callbackUrl": "http://example.com/your-url"
        "autoMaskConfig": {
            "maskType": 0,
            "duration": 10,
            "unmaskUids": [123,456],
            "enableMask": true
        } 
    }
    

    返回示例

    {
    "taskId": "ll6pwyrc6yiczvxzt0a1h42g04009tne",
      "callback": "0n2q0Qztf9",
      "dataId": "904593131178207372641649990885061",
      "status": 101,
      "evidences": {
        "video": {
          "evidence": {
            "type": 1,
            "url": "https://yidun-video.nos-eastchina1.126.net/***.jpg?Signature=gGUGxdzxmy6wqt3GeHAKrrLUDVAkVS%2FnTzMX2SUFWhs%3D&Expires=1623939429&NOSAccessKeyId=7b107844ee8e4******54c726e3273ff",
            "beginTime": 1621347428813,
            "endTime": 1621347428813,
            "speakerId": "658323",
            "frontPics": [
              {
                "url": "https://yidun-video.nos-eastchina1.126.net/***.jpg?Signature=5%2BFn29rA%2Fu7oeUifvQF6W3qUwDdyAN224S9lOrfhwPA%3D&Expires=1623939429&NOSAccessKeyId=7b107844ee8e4******54c726e3273ff"
              },
              {
                "url": "https://yidun-video.nos-eastchina1.126.net/***.jpg?Signature=SSQD0dahg3tJ%2BPqsT6W%2F%2BSjEr8kxwzt9qgTkJLomwY0%3D&Expires=1623939429&NOSAccessKeyId=7b107844ee8e4******54c726e3273ff"
              },
              {
                "url": "https://yidun-video.nos-eastchina1.126.net/***.jpg?Signature=lIwNFupZ22TrZi12N84ceCcZ3sXT9v1EQgi0PJ8spJA%3D&Expires=1623939429&NOSAccessKeyId=7b107844ee8e4******54c726e3273ff"
              }
            ]
          },
          "labels": [
            {
              "label": 100,
              "level": 2,
              "rate": 0.999705,
              "subLabels": [
                {
                  "subLabel": 10003,
                  "rate": 0.9953329,
                  "details": {
                    "hitInfos": [
                      "男xx"
                    ],
                    "imageTagInfos": [
                      {
                        "tagName": "男xx",
                        "tagGroup": "色情"
                      }
                    ]
                  }
                }
              ]
            }
          ]
        }
      }
    }
    
    此文档是否对你有帮助?
    有帮助
    去反馈
    • 功能介绍
    • 技术原理
    • 注意事项
    • 实现步骤
    • 参数说明
    • 请求参数
    • 返回参数
    • 示例
    • 请求示例
    • 返回示例