内容审核平台

    简介

    平台能力描述

    内容审核平台提供了针对图像、文本、语音、短视频的自定义审核规则配置功能,用户可以在平台上自助选择审核维度、审核标签,审核松紧度、自定义图像、文本黑白名单、自定义审核敏感人物,然后调用接口,即可按照勾选的维度、松紧度进行审核。

    应用场景

    • 用户评论过滤:对网站用户的评论信息进行检测,审核出涉及色情、暴恐、政治敏感、恶意推广等内容,保证良好的用户体验
    • 注册信息筛查:对用户的注册信息进行筛查,避免黑产通过用户名实现违规信息的推广
    • 文章内容审核:对UGC文章内容进行多个维度的审核,避免因内容违规导致的APP下架等损失

    文档索引

    内容审核平台-图像

    • 简介:介绍图像审核包含的能力、应用场景和平台使用流程
    • 配置图像审核策略:介绍了图像审核的默认策略配置、自定义策略的创建、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义图像黑白名单、自定义人脸库及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对图像进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义
    • 组合服务接口说明:如果您是使用图像审核组合服务接口的老用户建议您迁移至本平台以继续使用

    内容审核平台-文本

    • 简介:介绍文本审核包含的能力、应用场景和平台使用流程
    • 配置文本审核策略:介绍了文本审核的默认策略配置、自定义策略的创建、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义文本黑白名单及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对文本进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义

    内容审核平台-短视频

    • 简介:介绍短视频审核包含的能力、平台使用流程
    • 配置短视频审核策略:介绍了短视频审核的默认策略配置、自定义策略的创建、抽帧策略配置、审核维度配置、审核标签配置、审核松紧度配置
    • 高级功能:介绍了如何自定义视频帧黑白名单、自定义人脸库及如何使用多策略自动调度切换实现诸如敏感时期审核策略变紧等功能
    • 请求说明:介绍了您应该如何调用接口使用您配置的策略或默认策略对短视频进行审核
    • 响应参数说明:介绍了当您成功调用时,百度返回给您的json串中各个字段的含义
    • 错误码:介绍了当您调用失败时,百度返回给您的错误码的含义

    内容审核平台-文本接口能力介绍

    您可以在内容审核平台中对以下项目进行配置,后期调用接口时即可按照您的配置启用以下一项或多项能力

    • 百度官方违禁词库:包含百度海量历史数据,提供对敏感事件、违规词语及监管要求封禁词语的识别审核能力,同时于2020年1月开始包含对新冠疫情谣言的识别审核能力
    • 文本色情:对文本中的色情行为描述、色情资源链接、低俗交友、污秽文爱等内容进行识别
    • 暴恐违禁:对暴力行为、恐怖描述、赌博、毒品、枪支弹药等违禁内容进行识别
    • 政治敏感:对文本中的敏感事件、涉政人物、散布谣言、反动宣传等内容进行识别
    • 恶意推广:对文本中带有售卖意向的软文广告,微信、QQ等个人联系方式等违规内容及变体进行识别
    • 低俗辱骂:对文本中的侮辱谩骂、人身攻击、消极宣泄等内容进行识别
    • 低质灌水:对网络社区常见的乱码、水帖、刷屏等无意义的灌水信息进行识别
    • 广告法审核:对广告法中要求的不能出现的违规词进行检测

    内容审核平台-文本使用流程

    • 确认默认配置是否符合您需求,如果符合请学习新手指南完成应用创建后调用接口
    • 如果默认配置不符合您需求,请先阅读《配置文本审核策略》章节了解基础的审核规则配置,如果您有自定义添加政治敏感人物、自定义图像黑白名单、期望在敏感时期自动收紧线上策略(多策略自动调度切换)的需求,请阅读完《配置图像审核策略》章节后阅读《高级功能》章节,然后按文档中的引导在内容审核平台中完成对应规则的配置后调用接口

    附:内容审核平台-文本默认策略

    内容审核平台-文本接口配置有默认审核策略,您可以直接按默认策略调用接口,默认策略勾选审核维度及标签如下:

    • 百度官方违禁词库
    • 文本色情
    • 暴恐违禁
    • 政治敏感
    • 恶意推广(默认违规标签包含:联系方式、软文推广)
    • 低俗辱骂
    • 广告法审核
    上一篇
    图像审核API参考
    下一篇
    配置文本审核策略