安全通审核事件抄送
更新时间： 2025/01/15 10:18:56
本文介绍了安全通审核 400 和 401 事件抄送相关详情。
前提条件
开通音视频通话 2.0 或点播的安全通服务之后，才能接收到安全通审核事件抄送。开通步骤请参考 安全通概述。
事件类型
| event_type | 事件含义 |
|---|---|
| 400 | 实时音视频安全通审核抄送 |
| 401 | 云端录制安全通审核抄送 |
400 实时音视频安全通审核抄送
实时音视频安全审核结果抄送，其中包含抄送任务详情、审核结果、截图证据等信息。
触发场景
实时音视频安全通审核抄送在以下场景下会被触发：
- 针对房间内的实时音视频流进行内容安全审核时，如果检测到违规信息，会触发此抄送，其中包含触发审核规则的违规行为详细信息。
- 如果已联系网易易盾技术支持开通了全量抄送，此时除了违规内容的抄送之外，安全通服务还会根据截图频率定期发送截图对应的检测结果。
- 全量抄送中也包含检测结果为正常的任务信息。
- 修改截图频率请参考 步骤 3。
- 审核任务停止时，安全通服务也会发送一条实时音视频安全通审核抄送，其中包含任务停止前的检测结果。此抄送表示检测任务结束。其中，status 为 102，表示抄送结束。
字段说明
eventType 为 400，data 中封装的字段说明如下：
| 参数名称 | 类型 | 描述 |
|---|---|---|
| channelId | Number | 进行内容审核的音视频房间 ID。 |
| channelName | String | 进行内容审核的音视频房间名称。 |
| taskId | String | 实时音视频安全通审核 ID，是其唯一标识。 |
| callback | String | 调用创建安全通审核接口时，传递的 callback 字段数据。 |
| dataId | String | 网易云信为您自动生成的数据唯一标识，如果您对检测结果有任何疑问，请根据 dataId 咨询技术支持。 |
| status | Number | 检测状态。
|
| censorSource | Number | 审核来源。
|
| riskLevel | Number | 直播异常风险等级。
|
| riskScore | Number | 直播异常分数 |
| evidences | JSON | 机审证据信息。 |
| reviewEvidences | JSON | 人审证据信息。 |
机审证据信息
evidences 数据结构：
| 参数名称 | 类型 | 描述 |
|---|---|---|
| - video | JSON | 截图证据信息。 |
| - evidence | JSON | 证据信息。 |
| beginTime | Number | 违规视频开始时间点，单位为毫秒。您可以自行格式化为可视化时间，如：1599205126000 转换为"2020-09-04 15:38:46"。 |
| endTime | Number | 违规视频结束时间点，单位为毫秒。您可以自行格式化为可视化时间，如：1599205126000 转换为"2020-09-04 15:38:46"。 |
| type | Number | 1：图片。2：视频。 |
| url | String | 证据信息。 |
| uid | Number | 此违规信息对应的用户 ID。 |
| - frontPics | Array of JSON | 关联信息-命中前截图信息。 |
| url | String | 截图地址。 |
| - labels | Array of JSON | 分类信息详细数据。 |
| label | Number | 分类信息。 100：色情，110：性感，200：广告，210：二维码，260：广告法，300：暴恐，400：违禁，500：涉政，800：恶心类，900：其他，1020：黑屏，1030：挂机，1100：涉价值观。 |
| - subLabels | Array of JSON | 细分类信息，可能包含多个，可能为空。 |
| - details | Array of JSON | htiInfos：命中详细信息。 |
| hitInfos | String | 针对命中 sublabel 的补充说明。 |
| - imageTagInfo | Array of JSON | 命中标签详细信息，对于返回的 hintInfo 的解释说明，可能为空。 |
| tagName | String | hinInfo 中可返回的图片中包含的可识别内容。 |
| tagGroup | String | tagName 对应的分组名称，用于对 tageName 的解释。 |
| - hitLocationInfos | Array of JSON | 命中详情位置信息，当前人脸、logo、关键词支持返回位置信息。 |
| hitInfo | String | 命中详情。 |
| x1 | Number | 位置信息，对应目标矩形左上角横坐标相对坐标。 |
| y1 | Number | 位置信息，对应目标矩形左上角纵坐标相对坐标。 |
| x2 | Number | 位置信息，对应目标矩形右下角横坐标相对坐标。 |
| y2 | Number | 位置信息，对应目标矩形右下角纵坐标相对坐标。 |
| subLabel | Number | 细分类，详细编码请参考《网易易盾文档》对应表。 |
| rate | Number | 置信度分数，0-1 之间取值，1 为置信度最高，0 为置信度最低。 |
| level | Number | 级别信息。
|
| rate | Number | 分数。 |
| - audio | JSON | 语音证据信息。 |
| action | Number | 检测结果。
|
| asrStatus | Number | 音频翻译结果。
|
| asrResult | Number | 音频翻译检测失败原因。
|
| uid | Number | 此违规信息对应的用户 ID。 |
| startTime | Number | 违规音频开始时间点，单位毫秒。 |
| endTime | Number | 违规音频结束时间点，单位毫秒。 |
| content | String | 违规内容。 |
| url | String | 需要开启返回直播语音片段播放地址，请联系 网易易盾技术支持，如未开启则不返回 url |
| - frontSegment | Array of JSON | 关联证据信息，异常/嫌疑断句命中时返回，命中断句前 20s 的证据信息，包含前 20s 的音频语音识别内容及对应 url，通过时数据为空。 |
| content | String | 命中断句前 20s 的语音识别内容。 |
| url | String | 命中断句前 20s 的音频 url，可解析进行回放。 |
| - segments | Array of JSON | 分类信息详细数据。 |
| label | Number | 分类信息。
|
| level | Number | 分类级别。
|
| - subLabels | Array of JSON | 细分类信息，可能包含多个。 |
| - details | JSON | 命中线索信息。 |
| subLabel | String | 二级细分类，详细编码请参考《网易易盾文档》对应表。 |
电视墙人审证据信息
reviewEvidences 数据结构：
| 参数名称 | 类型 | 描述 |
|---|---|---|
| action | Number | 审核操作。1：忽略，2：警告，3：断流，4：提示，10：机器检测结束。 |
| actionTime | Number | 操作时间，UNIX_TIME 时间戳，单位为毫秒。 |
| label | Number | 违规类型。其中，0 表示不违规。 100：色情，111：淫秽表演，112：偶然走光，113：服装暴露，114：床上直播，115：音乐内容低俗，116：言论低俗涉黄，117：违规服装，118：上装暴露，119：下装暴露，120：低俗连麦，涉黄 200：广告，210：二维码，211：商业推广，212：提及竞品，213：字幕推广，300：暴恐，311：恐怖主义，312：暴力血腥，400：违禁，411：危险表演，412：涉毒/赌/传销，413：违禁服装，500：涉政，511：影响政府形象，512：邪教迷信，513：涉军事，514：涉宗教，800：不文明，811：赤膊，812：性感，821：涉酒，822：涉烟，823：纹身，824：未成年，825：危险驾驶，826：传播负面情绪，1000：其他，1020：黑屏，1022：画质差，1023：无营养，1024：盗播版权内容，1025：无音乐设备，1026：与音乐无关，1030：挂机，1050：自定义。 |
| detail | String | 违规详细说明。 |
| warnCount | Number | 警告次数。 |
| - evidence | Array of JSON | 人审操作 action 时返回前 5 张机器截图，用于还原场景。 |
| snapshot | String | 证据截图 url。 |
| - frontAudioSegment | Array of JSON | 人审操作 action 时返回前 20s 的音频断句信息，用于还原场景。 |
| url | String | 音频断句 url。 |
| content | String | 音频断句语音识别结果。 |
JSON 示例
视频截图证据信息
JSON{
"data": {
"dataId": "370435748723511885531",
"callback": "",
"channelName": "bq032604",
"evidences": {
"video": {
"evidence": {
"uid": 2222,
"beginTime": 1616764739975,
"endTime": 1616764739975,
"type": 1,
"url": "https://****.jpg"
},
"labels": [{
"subLabels": [{
"subLabel": 20001,
"rate": 1
}],
"level": 1,
"rate": 1,
"label": 200
}]
}
},
"censorSource": 2,
"channelId": 43677571680222,
"taskId": "668335fe7adb4d9f88a",
"status": 101
},
"eventType": 400
}
音频断句证据信息
JSON{
"data": {
"dataId": "370435748723511885531616758864450038930",
"callback": "",
"channelName": "bq032604",
"evidences": {
"audio": {
"uid": 1111,
"action": 2,
"startTime": 1616764308692,
"endTime": 1616764309532,
"asrStatus": 2,
"content": "控告广告",
"segments": [
{
"subLabels": [
{
"subLabel": "200009",
"details": {
"evidence": "广告"
}
}
],
"level": 2,
"label": 200
}
]
}
},
"censorSource": 2,
"channelId": 43677571680222,
"taskId": "668335fe7adb4d9f88ab35fb7b1e4b65",
"status": 101
},
"eventType": 400
}
401 云端录制安全通审核抄送
针对云端录制文件进行安全通审核时，如果检测到违规信息，会触发此抄送。
字段说明
eventType 为 401，data 中封装的字段说明如下：
| 参数名称 | 类型 | 说明 |
|---|---|---|
| result |
Number |
检测结果。1：正常。2：异常。3：疑似。 |
| vid | Long | 视频文件标识。 |
| - censorLabels | json | 在智能审核系统自定义的标签分类信息。 |
| code | Number | 人工审核时，在智能系统配置自定义便签之后，生成的一个唯一标签 ID。 |
| checkstatus | Number | 检测状态。0：检测中。1：检测成功。2：检测失败。 |
| dataId | String | 网易云信为您自动生成的数据唯一标识，如果您对检测结果有任何疑问，请根据 dataId 咨询技术支持。 |
| checkTime | Number | 机器审核完成时间，单位为毫秒。13 位 UNIX 时间戳格式。 |
| channelName | Number | 进行内容审核的音视频房间名称。 |
| censorTime | Number | 人工审核完成时间，单位为毫秒。13 位 UNIX 时间戳格式。如果没有人审流程，此字段为网易云信收到云端录制文件的时间。 |
| - evidences | JSON | 机审证据信息。 |
| - audio | Array of JSON | 语音证据信息。 |
| censorLabels |
json 数据 |
在智能审核系统自定义的标签分类信息。 |
| asrResult | Number | 音频翻译检测失败原因。1：文件下载失败。2：音频流不存在。3：解析失败。4：文件格式错误 |
| callback | String | 网易云信会在该字段中为您封装审核标识，标记该审核任务是云端录制安全通类型。 |
| action | Number | 检测结果，0：通过，1：嫌疑，2：不通过。 |
| suggestReason | Number | 违规信息的建议分类，您也可以在 labels 中查看详细分类。100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，700：灌水，900：其他，1100：涉价值观。 |
| asrStatus | Number | 音频翻译结果。2：检测中。3：检测完成。4：检测失败。 |
| taskId | String | 云端录制安全通审核 ID，是其唯一标识。 |
| - segments | JSON | 音频数据所在断句详细信息。 |
| hintList |
Array of JSON |
线索详细信息 |
| level | Nubmber | 分类级别，0：通过，1：嫌疑，2：不通过 |
| startTime | Number | 最近开始时间点，单位秒 |
| endTime | Number | 最近开始时间点，单位秒 |
| label | Number | 分类信息，100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，900：其他，1100：涉价值观 |
| content | String | 音频数据所在断句语音识别原文内容，支持返回异常数据所在断句内容或全部原文内容 |
| - labels | JSON | 音频数据所在断句语音识别原文内容，支持返回异常数据所在断句内容或全部原文内容。 |
| label |
Number |
分类信息，100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，1100：涉价值观 |
| level | Number | 分类级别，0：通过，1：嫌疑，2：不通过 |
| - subLabels | Array of JSON | 细分类信息，可能包含多个，可能为空 |
| - details | json 对象 | 其他信息 |
| hitType | Number | 命中检测器类型：10：用户名单 11:IP 名单 12:设备名单 30:敏感词 110:IP 地区限制 130:声纹检测 |
| - hint | Array of JSON | 线索信息，用于定位文本中有问题的部分，辅助人工审核 |
| value | String | 命中的敏感词或者声纹检测的分值 |
| - segments | Array of JSON | 命中敏感词或者声纹检测的音频时间点 |
| startTime | Number | 最近开始时间点，单位毫秒 |
| endTime | Number | 最近结束时间点，单位毫秒 |
| subLabel | Array of JSON | 细分类，详细编码请参考下方对应细分类编码《网易易盾文档》对应表 |
| - video | Array of JSON | 视频证据信息。 |
| level |
Number |
视频级别信息，分为 0：正常，1：不确定，2：确定，其中不确定的建议人工复审。 |
| suggestReason | Number | 违规信息的建议分类，您也可以在 labels 中查看详细分类。100：色情，200：广告，260：广告法，300：暴恐，400：违禁，500：涉政，600：谩骂，700：灌水，900：其他，1100：涉价值观。 |
| - evidences | Array of JSON | 证据信息。 |
| beginTime |
Number |
证据开始相对时间，单位为毫秒，调用方获取后可自行格式化为可视化时间，如：149000 转换为"00:02:29" |
| endTime | Number | 证据结束相对时间，单位为毫秒，调用方获取后可自行格式化为可视化时间，如：149000 转换为"00:02:29" |
| type | Number | 1：图片，2：视频 |
| url | String | 证据信息 |
| - labels | json 对象数组 | 证据结果数组 |
| label |
Number |
分类信息，100：色情，110：性感。200：广告，210：二维码，260：广告法，300：暴恐，400：违禁，500：涉政，800：恶心类，900：其他，1020：黑屏，1030：挂机，1100：涉价值观 |
| - subLabels | Array of JSON | 细分类信息,可能包含多个，可能为空 |
| subLabel | Number | 细分类，详细编码请参考下方对应细分类编码《网易易盾文档》对照表 |
| rate | Number | 置信度分数，0-1 之间取值，1 为置信度最高，0 为置信度最低 |
| - details | Array of JSON | htiInfos:命中详细信息 |
| hitInfos | String | 针对命中 sublabel 的补充说明 |
| - imageTagInfo | Array of JSON | 命中标签详细信息，对于返回的 hintInfo 的解释说明，可能为空 |
| tagName | String | hinInfo 中可返回的图片中包含的可识别内容 |
| tagGroup | String | tagName 对应的分组名称，用于对 tageName 的解释 |
| - hitLocationInfos | Array of JSON | 命中详情位置信息，当前人脸、logo、关键词支持位置信息返回 |
| hitInfo | String | 命中详情 |
| x1 | Number | 位置信息，对应目标矩形左上角横坐标相对坐标 |
| y1 | Number | 位置信息，对应目标矩形左上角纵坐标相对坐标 |
| x2 | Number | 位置信息，对应目标矩形右下角横坐标相对坐标 |
| y2 | Number | 位置信息，对应目标矩形右下角纵坐标相对坐标 |
| level | Number | 级别信息，分为 1：不确定，2：确定 |
| rate | Number | 分数 |
| taskId | String | 云端录制安全通审核 ID，是其唯一标识。 |
| status | Number | 视频处理状态码，定义为：0：检测成功，110：请求重复，120：参数错误，130：解析错误，140：数据类型错误。 |
| reviewEvidences | JSON | 人审证据信息。 |
| censorSource | Number | 审核方式。0：易盾人审。1：客户人审。2：易盾机审。 |
| taskId | String | 云端录制安全通审核 ID，是其唯一标识。 |
| channelId | Number | 进行内容审核的音视频房间 ID。 |
| cid | Number | 进行内容审核的音视频房间 ID。 |
JSON 示例
JSON{
"data": {
"result": 2,
"vid": 3049646,
"censorLabels": [],
"checkStatus": 1,
"dataId": "3049646",
"checkTime": 1617010860147,
"channelName": "bq032902",
"censorTime": 1617010809008,
"evidences": {
"audio": {
"censorLabels": [],
"asrResult": 0,
"callback": "{\"antiTrashSource\":\"ILIVE\"}",
"action": 2,
"suggestReason": 200,
"asrStatus": 3,
"taskId": "14def3c4d5364045b577c527abc7bbf8",
"segments": [{
"hintList": ["广告"],
"level": 2,
"startTime": 60,
"label": 200,
"endTime": 77,
"content": "广告广告广告。"
}],
"labels": [{
"subLabels": [{
"subLabel": "200009",
"details": {
"hitType": 30,
"hint": [{
"value": "广告",
"segments": [{
"startTime": 60,
"endTime": 78
}]
}]
}
}],
"level": 2,
"label": 200
}]
},
"video": {
"level": 2,
"suggestReason": 100,
"evidences": [{
"beginTime": 80000,
"endTime": 80000,
"type": 1,
"url": "***",
"labels": [{
"subLabels": [{
"subLabel": 100080,
"rate": 1.0,
"details": {
"hitInfos": ["色情" , "网易云信测试色情资源"],
"hitLocationInfos": [{
"y1": 0.24303482,
"y2": 0.2818408,
"x1": 0.13307813,
"x2": 0.25598437,
"hitInfo": "网易云信测试色情资源"
}]
}
}],
"rate": 1.0,
"level": 2,
"label": 100
}]
}],
"taskId": "14def3c4d5364045b577c527abc7bbf8",
"status": 0
}
},
"censorSource": 2,
"taskId": "14def3c4d53",
"channelId": "43685858815712",
"cid": "43685858815712"
},
"eventType": 401
}
此文档是否对你有帮助？
