安全通审核事件抄送 - 音视频通话 2.0

开发者中心

音视频通话 2.0

服务端 API

安全通审核事件抄送

更新时间： 2024/03/25 11:00:41

事件类型

event_type	事件含义
400	实时音视频安全通审核抄送
401	云端录制安全通审核抄送

开通音视频通话 2.0 或点播的安全通服务之后，才能接收到安全通审核事件抄送。详细说明请参考安全通概述。

400 实时音视频安全通审核抄送

实时音视频安全审核结果抄送，其中包含抄送任务详情、审核结果、截图证据等信息。

此抄送在以下场景下会被触发：

针对房间内的实时音视频流进行内容安全审核时，如果检测到违规信息，会触发此抄送，其中包含触发审核规则的违规行为详细信息。
如果已联系网易易盾技术支持开通了全量抄送，此时除了违规内容的抄送之外，安全通服务还会根据截图频率定期发送截图对应的检测结果。
- 全量抄送中也包含检测结果为正常的任务信息。
- 修改截图频率请参考步骤 3。
审核任务停止时，安全通服务也会发送一条实时音视频安全通审核抄送，其中包含任务停止前的检测结果。此抄送表示检测任务结束。其中，status 为 102，表示抄送结束。

字段说明

eventType 为 400，data 中封装的字段说明如下：

字段	类型	说明
channelId	Number	进行内容审核的音视频房间 ID。
channelName	String	进行内容审核的音视频房间名称。
taskId	String	实时音视频安全通审核ID，是其唯一标识。
callback	String	调用创建安全通审核接口时，传递的 callback 字段数据。
dataId	String	网易云信为您自动生成的数据唯一标识，如果您对检测结果有任何疑问，请根据 dataId 咨询技术支持。
status	Number	检测状态。 101：检测中。 102：检测结束。
censorSource	Number	审核来源。 0：易盾人审 1：客户人审 2：易盾机审
riskLevel	Number	直播异常风险等级。 0：正常 1：低危 2：中危 3：中高危 4：高危
riskScore	Number	直播异常分数
evidences	JSON	机审证据信息。
reviewEvidences	JSON	人审证据信息。

机审证据信息

evidences 数据结构：

参数名称	类型	描述
audio	JSON	语音证据信息。
video	JSON	截图证据信息。

audio 数据结构：

参数名称	类型	描述
action	Number	检测结果。 0：通过 1：嫌疑 2：不通过
asrStatus	Number	音频翻译结果。 2：检测中 3：检测完成 4：检测失败
asrResult	Number	音频翻译检测失败原因。 1：文件下载失败 2：音频流不存在 3：解析失败 4：文件格式错误
uid	Number	此违规信息对应的用户ID。
startTime	Number	违规音频开始时间点，单位毫秒。
endTime	Number	违规音频结束时间点，单位毫秒。
content	String	违规内容。
url	String	需要开启返回直播语音片段播放地址，请联系云信技术支持，如未开启则不返回url
segments	Array of JSON	分类信息详细数据。
frontSegment	Array of JSON	关联证据信息，异常/嫌疑断句命中时返回，命中断句前20s的证据信息，包含前20s的音频语音识别内容及对应url，通过时数据为空。

segments 数据结构：

参数名称	类型	描述
label	Number	分类信息。 100：色情 200：广告 300：暴恐 400：违禁 500：涉政 600：谩骂 1100：涉价值观
level	Number	分类级别。 1：不确定 2：确定
subLabels	Array of JSON	细分类信息，可能包含多个。

subLabels 数据结构：

参数名称	类型	描述
details	JSON	命中线索信息。
subLabel	String	二级细分类，详细编码请参考对应表。

frontSegment 数据结构：

参数名称	类型	描述
content	String	命中断句前20s的语音识别内容。
url	String	命中断句前20s的音频url，可解析进行回放。

video 数据结构：

参数名称	类型	描述
evidence	JSON	证据信息。
labels	Array of JSON	分类信息详细数据。

evidence 数据结构

参数名称	类型	描述
beginTime	Number	违规视频开始时间点，单位为毫秒。您可以自行格式化为可视化时间，如：1599205126000 转换为"2020-09-04 15:38:46"。
endTime	Number	违规视频结束时间点，单位为毫秒。您可以自行格式化为可视化时间，如：1599205126000 转换为"2020-09-04 15:38:46"。
type	Number	1：图片。2：视频。
url	String	证据信息。
uid	Number	此违规信息对应的用户ID。
frontPics	Array of JSON	关联信息-命中前截图信息。

frontPics 数据结构：

参数名称	类型	描述
url	String	截图地址。

labels 数据结构：

参数名称	类型	描述
label	Number	分类信息。 100：色情，110：性感；200：广告，210：二维码，260：广告法，300：暴恐，400：违禁，500：涉政，800：恶心类，900：其他，1020：黑屏，1030：挂机，1100：涉价值观。
subLabels	Array of JSON	细分类信息，可能包含多个，可能为空。
level	Number	级别信息。 1：不确定 2：确定
rate	Number	分数。

subLabels 数据结构：

参数名称	类型	描述
subLabel	Number	细分类，详细编码请参考对应表。
rate	Number	置信度分数，0-1之间取值，1为置信度最高，0为置信度最低。
details	Array of JSON	htiInfos：命中详细信息。

details 数据结构

参数名称	类型	描述
hitInfos	String	针对命中sublabel的补充说明。
imageTagInfo	Array of JSON	命中标签详细信息，对于返回的hintInfo的解释说明，可能为空。
hitLocationInfos	Array of JSON	命中详情位置信息，当前人脸、logo、关键词支持返回位置信息。

imageTagInfo 数据结构

参数名称	类型	描述
tagName	String	hinInfo中可返回的图片中包含的可识别内容。
tagGroup	String	tagName对应的分组名称，用于对tageName的解释。

hitLocationInfos 数据结构

参数名称	类型	描述
hitInfo	String	命中详情。
x1	Number	位置信息，对应目标矩形左上角横坐标相对坐标。
y1	Number	位置信息，对应目标矩形左上角纵坐标相对坐标。
x2	Number	位置信息，对应目标矩形右下角横坐标相对坐标。
y2	Number	位置信息，对应目标矩形右下角纵坐标相对坐标。

电视墙人审证据信息

reviewEvidences 数据结构：

参数名称	类型	描述
action	Number	审核操作。1：忽略，2：警告，3：断流，4：提示，10：机器检测结束。
actionTime	Number	操作时间，UNIX_TIME时间戳，单位为毫秒。
label	Number	违规类型。其中，0 表示不违规。 100：色情，111：淫秽表演，112：偶然走光，113：服装暴露，114：床上直播，115：音乐内容低俗，116：言论低俗涉黄，117：违规服装，118：上装暴露，119：下装暴露，120：低俗连麦，涉黄200：广告，210：二维码，211：商业推广，212：提及竞品，213：字幕推广，300：暴恐，311恐怖主义，312：暴力血腥，400：违禁，411：危险表演，412：涉毒/赌/传销，413：违禁服装，500：涉政，511：影响政府形象，512：邪教迷信，513：涉军事，514：涉宗教，800：不文明，811：赤膊，812：性感，821：涉酒，822：涉烟，823：纹身，824：未成年，825：危险驾驶，826：传播负面情绪，1000：其他，1020：黑屏，1022：画质差，1023：无营养，1024：盗播版权内容，1025：无音乐设备，1026：与音乐无关，1030：挂机，1050：自定义。
detail	String	违规详细说明。
warnCount	Number	警告次数。
evidence	Array of JSON	人审操作action时返回前5张机器截图，用于还原场景。
frontAudioSegment	Array of JSON	人审操作action时返回前20s的音频断句信息，用于还原场景。

evidence数据结构：

参数名称	类型	描述
snapshot	String	证据截图url。

frontAudioSegment 数据结构：

参数名称	类型	描述
url	String	音频断句url。
content	String	音频断句语音识别结果。

JSON 示例

视频截图证据信息

json{ 
        "data": { 
                "dataId": "370435748723511885531", 
                "callback": "", 
                "channelName": "bq032604", 
                "evidences": { 
                        "video": { 
                                "evidence": { 
                                        "uid": 2222, 
                                        "beginTime": 1616764739975, 
                                        "endTime": 1616764739975, 
                                        "type": 1, 
                                        "url": "https://****.jpg" 
                                }, 
                                "labels": [{ 
                                        "subLabels": [{ 
                                                "subLabel": 20001, 
                                                "rate": 1 
                                        }], 
                                        "level": 1, 
                                        "rate": 1, 
                                        "label": 200 
                                }] 
                        } 
                }, 
                "censorSource": 2, 
                "channelId": 43677571680222, 
                "taskId": "668335fe7adb4d9f88a", 
                "status": 101 
        }, 
        "eventType": 400 
}

音频断句证据信息

{ 
    "data": { 
        "dataId": "370435748723511885531616758864450038930", 
        "callback": "", 
        "channelName": "bq032604", 
        "evidences": { 
            "audio": { 
                "uid": 1111, 
                "action": 2, 
                "startTime": 1616764308692, 
                "endTime": 1616764309532, 
                "asrStatus": 2, 
                "content": "控告广告", 
                "segments": [ 
                    { 
                        "subLabels": [ 
                            { 
                                "subLabel": "200009", 
                                "details": { 
                                    "evidence": "广告" 
                                } 
                            } 
                        ], 
                        "level": 2, 
                        "label": 200 
                    } 
                ] 
            } 
        }, 
        "censorSource": 2, 
        "channelId": 43677571680222, 
        "taskId": "668335fe7adb4d9f88ab35fb7b1e4b65", 
        "status": 101 
    }, 
    "eventType": 400 
}

401 云端录制安全通审核抄送

针对云端录制文件进行安全通审核时，如果检测到违规信息，会触发此抄送。

字段说明

eventType 为 401，data 中封装的字段说明如下：

参数名称	类型	描述
result	Number	检测结果。1：正常；2：异常；3：疑似。
vid	Long	视频文件标识。
censorLabels	json	在智能审核系统自定义的标签分类信息。
checkstatus	Number	检测状态。0：检测中；1：检测成功；2：检测失败
dataId	String	网易云信为您自动生成的数据唯一标识，如果您对检测结果有任何疑问，请根据 dataId 咨询技术支持。
checkTime	Number	机器审核完成时间，单位为毫秒。13 位 UNIX 时间戳格式。
channelName	Number	进行内容审核的音视频房间名称。
censorTime	Number	人工审核完成时间，单位为毫秒。13 位 UNIX 时间戳格式。如果没有人审流程，此字段为网易云信收到云端录制文件的时间。
evidences	JSON	机审证据信息。
reviewEvidences	JSON	人审证据信息。
censorSource	Number	审核方式。0：易盾人审。1：客户人审。2：易盾机审。
taskId	String	云端录制安全通审核 ID，是其唯一标识。
channelId	Number	进行内容审核的音视频房间 ID。
cid	Number	进行内容审核的音视频房间 ID。

censorLabels 数据结构

参数名称	类型	描述
code	Number	人工审核时，在智能系统配置自定义便签之后，生成的一个唯一标签 ID。

evidences 数据结构

参数名称	类型	描述
audio	Array of JSON	语音证据信息。
video	Array of JSON	视频证据信息。

audio 数据结构

参数名称	类型	描述
censorLabels	json数据	在智能审核系统自定义的标签分类信息。
asrResult	Number	音频翻译检测失败原因。1：文件下载失败； 2：音频流不存在；3：解析失败；4：文件格式错误
callback	String	网易云信会在该字段中为您封装审核标识，标记该审核任务是云端录制安全通类型。
action	Number	检测结果，0：通过，1：嫌疑，2：不通过。
suggestReason	Number	违规信息的建议分类，您也可以在 labels 中查看详细分类。100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，700：灌水，900：其他，1100：涉价值观。
asrStatus	Number	音频翻译结果。2：检测中；3：检测完成；4：检测失败；
taskId	String	云端录制安全通审核 ID，是其唯一标识。
segments	JSON	音频数据所在断句详细信息。
labels	JSON	音频数据所在断句语音识别原文内容，支持返回异常数据所在断句内容或全部原文内容。

segments 数组数据结构

参数名称	类型	描述
hintList	Array of JSON	线索详细信息
level	Nubmber	分类级别，0：通过，1：嫌疑，2：不通过
startTime	Number	最近开始时间点，单位秒
endTime	Number	最近开始时间点，单位秒
label	Number	分类信息，100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，900：其他，1100：涉价值观
content	String	音频数据所在断句语音识别原文内容，支持返回异常数据所在断句内容或全部原文内容

labels 数据结构

参数名称	类型	描述
label	Number	分类信息，100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，1100：涉价值观
level	Number	分类级别，0：通过，1：嫌疑，2：不通过
subLabels	Array of JSON	细分类信息，可能包含多个，可能为空

subLabels 数据结构

参数名称	类型	描述
details	json对象	其他信息
subLabel	Array of JSON	细分类，详细编码请参考下方对应细分类编码对应表

details 数据结构

参数名称	类型	描述
hitType	Number	命中检测器类型：10：用户名单 11:IP名单 12:设备名单 30:敏感词 110:IP地区限制 130:声纹检测
hint	Array of JSON	线索信息，用于定位文本中有问题的部分，辅助人工审核

hint 数据结构

参数名称	类型	描述
value	String	命中的敏感词或者声纹检测的分值
segments	Array of JSON	命中敏感词或者声纹检测的音频时间点

segments 数据结构

参数名称	类型	描述
startTime	Number	最近开始时间点，单位毫秒
endTime	Number	最近结束时间点，单位毫秒

video 数据结构

参数名称	类型	描述
level	Number	视频级别信息，分为0：正常，1：不确定，2：确定，其中不确定的建议人工复审。
suggestReason	Number	违规信息的建议分类，您也可以在 labels 中查看详细分类。100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，700：灌水，900：其他，1100：涉价值观。
evidences	Array of JSON	证据信息。
taskId	String	云端录制安全通审核 ID，是其唯一标识。
status	Number	视频处理状态码，定义为：0：检测成功，110：请求重复，120：参数错误，130：解析错误，140：数据类型错误。

evidences对象数据结构：

参数名称	类型	描述
beginTime	Number	证据开始相对时间，单位为毫秒，调用方获取后可自行格式化为可视化时间，如：149000 转换为"00:02:29"
endTime	Number	证据结束相对时间，单位为毫秒，调用方获取后可自行格式化为可视化时间，如：149000 转换为"00:02:29"
type	Number	1：图片，2：视频
url	String	证据信息
labels	json对象数组	证据结果数组

labels对象数据结构

参数名称	类型	描述
label	Number	分类信息，100：色情，110：性感；200：广告，210：二维码，260：广告法，300：暴恐，400：违禁，500：涉政，800：恶心类，900：其他，1020：黑屏，1030：挂机，1100：涉价值观
subLabels	Array of JSON	细分类信息,可能包含多个，可能为空
level	Number	级别信息，分为1：不确定，2：确定
rate	Number	分数

subLabels 数据结构

参数名称	类型	描述
subLabel	Number	细分类，详细编码请参考下方对应细分类编码对照表
rate	Number	置信度分数，0-1之间取值，1为置信度最高，0为置信度最低
details	Array of JSON	htiInfos:命中详细信息

details 数据结构

参数名称	类型	描述
hitInfos	String	针对命中sublabel的补充说明
imageTagInfo	Array of JSON	命中标签详细信息，对于返回的hintInfo的解释说明，可能为空
hitLocationInfos	Array of JSON	命中详情位置信息，当前人脸、logo、关键词支持位置信息返回

imageTagInfo 数据结构

参数名称	类型	描述
tagName	String	hinInfo中可返回的图片中包含的可识别内容
tagGroup	String	tagName对应的分组名称，用于对tageName的解释

hitLocationInfos 数据结构

参数名称	类型	描述
hitInfo	String	命中详情
x1	Number	位置信息，对应目标矩形左上角横坐标相对坐标
y1	Number	位置信息，对应目标矩形左上角纵坐标相对坐标
x2	Number	位置信息，对应目标矩形右下角横坐标相对坐标
y2	Number	位置信息，对应目标矩形右下角纵坐标相对坐标

JSON 示例

{
        "data": {
                "result": 2,
                "vid": 3049646,
                "censorLabels": [],
                "checkStatus": 1,
                "dataId": "3049646",
                "checkTime": 1617010860147,
                "channelName": "bq032902",
                "censorTime": 1617010809008,
                "evidences": {
                        "audio": {
                                "censorLabels": [],
                                "asrResult": 0,
                                "callback": "{\"antiTrashSource\":\"ILIVE\"}",
                                "action": 2,
                                "suggestReason": 200,
                                "asrStatus": 3,
                                "taskId": "14def3c4d5364045b577c527abc7bbf8",
                                "segments": [{
                                        "hintList": ["广告"],
                                        "level": 2,
                                        "startTime": 60,
                                        "label": 200,
                                        "endTime": 77,
                                        "content": "广告广告广告。"
                                }],
                                "labels": [{
                                        "subLabels": [{
                                                "subLabel": "200009",
                                                "details": {
                                                        "hitType": 30,
                                                        "hint": [{
                                                                "value": "广告",
                                                                "segments": [{
                                                                        "startTime": 60,
                                                                        "endTime": 78
                                                                }]
                                                        }]
                                                }
                                        }],
                                        "level": 2,
                                        "label": 200
                                }]
                        },
                        "video": {
                                "level": 2,
                                "suggestReason": 100,
                                "evidences": [{
                                        "beginTime": 80000,
                                        "endTime": 80000,
                                        "type": 1,
                                        "url": "***",
                                        "labels": [{
                                                "subLabels": [{
                                                        "subLabel": 100080,
                                                        "rate": 1.0,
                                                        "details": {
                                                                "hitInfos": ["色情", "云信测试色情资源"],
                                                                "hitLocationInfos": [{
                                                                        "y1": 0.24303482,
                                                                        "y2": 0.2818408,
                                                                        "x1": 0.13307813,
                                                                        "x2": 0.25598437,
                                                                        "hitInfo": "云信测试色情资源"
                                                                }]
                                                        }
                                                }],
                                                "rate": 1.0,
                                                "level": 2,
                                                "label": 100
                                        }]
                                }],
                                "taskId": "14def3c4d5364045b577c527abc7bbf8",
                                "status": 0
                        }
                },
                "censorSource": 2,
                "taskId": "14def3c4d53",
                "channelId": "43685858815712",
                "cid": "43685858815712"
        },
        "eventType": 401
}

此文档是否对你有帮助？

有帮助

去反馈

事件类型
400 实时音视频安全通审核抄送
字段说明
机审证据信息
电视墙人审证据信息
JSON 示例
视频截图证据信息
音频断句证据信息
401 云端录制安全通审核抄送
字段说明
JSON 示例