内容审核

    简介

    平台能力描述

    内容审核平台提供了针对图像、文本、语音、短视频的自定义审核规则配置功能,用户可以在平台上自助选择审核维度、审核标签,审核松紧度、自定义图像、文本黑白名单、自定义审核敏感人物,然后调用接口,即可按照勾选的维度、松紧度进行审核。

    应用场景

    • IM社交音频内容审核:在社交软件中有大量音频内容,内容审核平台-语音可以对音频内容的合规性进行审核,包括色情、暴恐、政治敏感等审核维度
    • 直播/短视频音频审核:针对直播、短视频中的音频内容进行审核,直播用户可以对直播音频进行切分后传入音频段URL进行审核

    文档索引

    内容审核平台-图像

    • 简介:介绍图像审核包含的能力、应用场景和平台使用流程
    • 配置图像审核策略:介绍了图像审核的默认策略配置、自定义策略的创建、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义图像黑白名单、自定义人脸库及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对图像进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义
    • 组合服务接口说明:如果您是使用图像审核组合服务接口的老用户建议您迁移至本平台以继续使用

    内容审核平台-文本

    • 简介:介绍文本审核包含的能力、应用场景和平台使用流程
    • 配置文本审核策略:介绍了文本审核的默认策略配置、自定义策略的创建、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义文本黑白名单及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对文本进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义

    内容审核平台-语音

    • 简介:介绍语音审核包含的能力、应用场景和平台使用流程
    • 配置语音审核策略:介绍了语音审核的默认策略配置、自定义策略的创建、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义语音(文本)黑白名单及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对音频进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义

    内容审核平台-短视频

    • 简介:介绍短视频审核包含的能力、平台使用流程
    • 配置短视频审核策略:介绍了短视频审核的默认策略配置、自定义策略的创建、抽帧策略配置、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义视频帧黑白名单、自定义人脸库及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对短视频进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义

    内容审核平台-语音接口能力介绍

    您可以在内容审核平台中对以下项目进行配置,后期调用接口时即可按照您的配置启用以下一项或多项能力 注:语音审核能力包含娇喘声识别和语音内容识别,语音内容识别是先通过语音识别将音频内容转换为文字,再过文本审核,所以您在下方配置的都是识别为文本后的文本审核规则

    • 娇喘声识别: 对音频中包含的娇喘声进行检测识别 (当然这里的娇喘声是指女性娇喘声,如果您有对男性娇喘声的需求请提交合作咨询向我们反馈)
    • 百度官方违禁词库:包含百度海量历史数据,提供对敏感事件、违规词语及监管要求封禁词语的识别审核能力,同时于2020年1月开始包含对新冠疫情谣言的识别审核能力
    • 文本色情:对文本(语音识别后的文本)中的色情行为描述、色情资源链接、低俗交友、污秽文爱等内容进行识别
    • 暴恐违禁:对暴力行为、恐怖描述、赌博、毒品、枪支弹药等违禁内容进行识别
    • 政治敏感:对文本(语音识别后的文本)中的敏感事件、涉政人物、散布谣言、反动宣传等内容进行识别
    • 恶意推广:对文本(语音识别后的文本)中带有售卖意向的软文广告,微信、QQ等个人联系方式等违规内容及变体进行识别
    • 低俗辱骂:对文本(语音识别后的文本)中的侮辱谩骂、人身攻击、消极宣泄等内容进行识别
    • 低质灌水:对网络社区常见的乱码、水帖、刷屏等无意义的灌水信息进行识别

    内容审核平台-语音使用流程

    • 确认默认配置是否符合您需求,如果符合请学习新手指南完成应用创建后调用接口
    • 如果默认配置不符合您需求,请先阅读《配置语音审核策略》章节了解基础的审核规则配置,如果您有自定义添加文本(语音识别后的文本)黑白名单、期望在敏感时期自动收紧线上策略(多策略自动调度切换)的需求,请阅读完《配置语音审核策略》章节后阅读《高级功能》章节,然后按文档中的引导在内容审核平台中完成对应规则的配置后调用接口

    附:内容审核平台-语音默认策略

    内容审核平台-语音接口配置有默认审核策略,您可以直接按默认策略调用接口,默认策略勾选审核维度及标签如下:

    • 娇喘声识别
    • 百度官方违禁词库
    • 文本色情
    • 暴恐违禁
    • 政治敏感
    • 恶意推广(默认违规标签包含:联系方式、软文推广)
    • 低俗辱骂
    上一篇
    文本审核API参考
    下一篇
    配置语音审核策略