快速入门
所有文档

          内容审核平台

          快速入门

          机器审核图文开发案例

          作为公司内容安全负责人的小宋管理着近200人的人工审核团队,这给小宋带来了较大的压力:压力一方面来自审核人员流动大、培训成本高,并且公司每年为这200人的团队薪酬投入近3000万;一方面来自于审核人员水平参差不齐,不是每个人都能按照审核标准严格执行。 小宋认为只有通过机器+人工的审核方式才能提高人员效率,提升审核质量,同时可以把一部分审核人员转去做其他更有价值的工作,通过将市面上多家厂商的能力互相比较,小宋选择了百度的内容审核服务,切实提升了审核质量和效率,降低了公司的运营成本,下面让我们一起来和小宋看一下如何接入百度内容审核服务吧。 下面看看如何基于百度AI开发平台的内容审核平台实现对图片和文本内容审核

          实现步骤

          只需三步1小时内即可完成内容审核接口的调用。 先点击此处注册百度账户进入 如下图 的页面快速的建立一个百度账号吧。

          Step1:成为百度AI开放平台的开发者

          要调用百度AI开放平台的内容审核能力先要成为百度AI开放平台的开发者,首先让我们花5分钟来注册百度AI开放平台的开发者,并新建一个内容审核应用。

          先点击此处注册百度账户进入 如下图 的页面快速的建立一个百度账号吧。

          1.png

          我们有账号之后登录,并且点击此处创建一个应用如下图

          2.png

          然后就能看到创建完的应用和 API KEY 以及 Secret KEY

          3.png

          有定制审核需求的话,可以进入内容审核平台创建自定义策略

          4.png

          Step2:准备数据

          内容审核主要针对的是用户的图片以及文本进行审核,让我们准备几张图片以及一些文本,看看通过内容审核平台是否能够代替人工做图片和文本的审核:

          合规图片:

          5.jpeg

          不合规图片(包含广告):

          6.jpeg

          合规文本:

            
            我们要热爱祖国热爱党
            

          不合规文本(低俗):

            我要爆粗口啦,百度AI真他妈好用

          Step3: 编写一个示例程序

          第一步API KEY 以及 Secret KEY,以及第二步的数据,我们就可以写一个示例代码调用百度AI开放平台的内容审核能力

          准备开发环境

          我们选择用python来快速搭建一个原型,关于如何安装python。可以参考下表列出的不同操作系统的安装方法进行安装。

          Python的官方下载地址:下载python

          7.png

          Windows 快速测试包

          Windows平台的用户如果对上述的python安装感到困难,可以下载我们的一键测试包,下载地址:Windows测试包

          解压zip文件后,双击run.bat即可测试。

          编写代码

          新建一个 main.py

          粘贴以下内容,不要忘记替换你的 API_KEY 以及 SECRET_KEY

          # coding=utf-8
          
          import sys
          import json
          import base64
          
          
          # 保证兼容python2以及python3
          IS_PY3 = sys.version_info.major == 3
          if IS_PY3:
              from urllib.request import urlopen
              from urllib.request import Request
              from urllib.error import URLError
              from urllib.parse import urlencode
              from urllib.parse import quote_plus
          else:
              import urllib2
              from urllib import quote_plus
              from urllib2 import urlopen
              from urllib2 import Request
              from urllib2 import URLError
              from urllib import urlencode
          
          # 防止https证书校验不正确
          import ssl
          ssl._create_default_https_context = ssl._create_unverified_context
          
          API_KEY = 'eQnGqPdFTTctqkjHvdUEzmrC'
          
          SECRET_KEY = 'HDBuwWT4pfSBGyLkTEAYhwoQkoDGrWU2'
          
          
          IMAGE_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/img_censor/v2/user_defined"
          
          TEXT_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/text_censor/v2/user_defined";
          
          """  TOKEN start """
          TOKEN_URL = 'https://aip.baidubce.com/oauth/2.0/token'
          
          
          """
              获取token
          """
          def fetch_token():
              params = {'grant_type': 'client_credentials',
                        'client_id': API_KEY,
                        'client_secret': SECRET_KEY}
              post_data = urlencode(params)
              if (IS_PY3):
                  post_data = post_data.encode('utf-8')
              req = Request(TOKEN_URL, post_data)
              try:
                  f = urlopen(req, timeout=5)
                  result_str = f.read()
              except URLError as err:
                  print(err)
              if (IS_PY3):
                  result_str = result_str.decode()
          
          
              result = json.loads(result_str)
          
              if ('access_token' in result.keys() and 'scope' in result.keys()):
                  if not 'brain_all_scope' in result['scope'].split(' '):
                      print ('please ensure has check the  ability')
                      exit()
                  return result['access_token']
              else:
                  print ('please overwrite the correct API_KEY and SECRET_KEY')
                  exit()
          
          """
              读取文件
          """
          def read_file(image_path):
              f = None
              try:
                  f = open(image_path, 'rb')
                  return f.read()
              except:
                  print('read image file fail')
                  return None
              finally:
                  if f:
                      f.close()
          
          
          """
              调用远程服务
          """
          def request(url, data):
              req = Request(url, data.encode('utf-8'))
              has_error = False
              try:
                  f = urlopen(req)
                  result_str = f.read()
                  if (IS_PY3):
                      result_str = result_str.decode()
                  return result_str
              except  URLError as err:
                  print(err)
          
          if __name__ == '__main__':
          
              # 获取access token
              token = fetch_token()
          
              # 拼接图像审核url
              image_url = IMAGE_CENSOR + "?access_token=" + token
          
              # 拼接文本审核url
              text_url = TEXT_CENSOR + "?access_token=" + token
          
          
              file_content = read_file('./image_normal.jpg')
              result = request(image_url, urlencode({'image': base64.b64encode(file_content)}))
              print("----- 正常图调用结果 -----")
              print(result)
          
              file_content = read_file('./image_advertise.jpeg')
              result = request(image_url, urlencode({'image': base64.b64encode(file_content)}))
              print("----- 广告图调用结果 -----")
              print(result)
          
              text = "我们要热爱祖国热爱党"
              result = request(text_url, urlencode({'text': text}))
              print("----- 正常文本调用结果 -----")
              print(result)
          
              text = "我要爆粗口啦:百度AI真他妈好用"
              result = request(text_url, urlencode({'text': text}))
              print("----- 粗俗文本调用结果 -----")
              print(result)
              

          运行代码

          在命令行中运行python main.py

          结果

          若代码正确运行,命令行界面上会显示出运行结果:

           ----- 正常图调用结果 -----
          {"conclusion":"合规","log_id":15589290206915234,"conclusionType":1}
          ----- 广告图调用结果 -----
          {"conclusion":"不合规","log_id":15589290221307686,"data":[{"msg":"存在水印码内容","probability":0.86516607,"type":5}],"conclusionType":2}
          ----- 正常文本调用结果 -----
          {"conclusion":"合规","log_id":15589290234750607,"conclusionType":1}
          ----- 粗俗文本调用结果 -----
          {"conclusion":"疑似","log_id":15589290237990632,"data":[{"msg":"疑似存在文本色情不合规","conclusion":"疑似","hits":[{"probability":0.802,"datasetName":"百度默认文本反作弊库","words":[]}],"subType":2,"conclusionType":3,"type":12}],"conclusionType":3}

          可以看到结果中返回了内容审核服务对于图片以及文本的审核结果,包括了概率以及不合规的类型,具体字段的含义都在内容审核REST API文档 中有这详细的释义。

          总结

          小宋带领团队使用了百度内容审核平台实现对所有图片的全量初步审核,配合人工复审对疑似图片和违规图片进行二次确认,又高效又准确,降低了平台违规的风险

          了解更多

          示例源代码

          您可以在我们的官方github上下载示例源码

          https://github.com/Baidu-AIP/QuickStart/tree/master/CONTENT_CENSOR

          产品特色

          ● 天级别更新监管要求

          基于百度海量违规样本库、政策法规和监管单位的审核要求,经由风控专家解读后实时更新审核策略,让审核能力与时俱进。

          ● 百万量级公众人物库

          依托于百度百科海量优质数据,公众人物库升级至百万量级,支持国内外各种歌星、影星、体育明星、政要等,全方位提升审核效率,规避业务风险。

          ● 更全面精细的审核能力

          提供色情、暴恐、政治敏感、广告、恶心、图文审核等多个维度的审核能力,各审核维度下标签丰富,色情识别包含16类细分标签,包括一般色情、卡通色情、SM、亲密行为、卡通正常、儿童裸露、自然男性裸露、艺术品色情等;暴恐识别包含暴恐人物、暴恐旗帜、警察部队等12类细分标签;广告支持水印、二维码、条形码识别;图文审核支持6类文本违禁类型。一站式满足用户所有审核需求。

          ● 更灵活自由的审核配置

          审核平台支持用户上传自定义图片、文本黑白库,敏感人脸自助入库等功能;同时用户可以自由选择审核维度和审核细粒度标签,并可以自行调整审核模型的松紧度,实现贴合业务需求的审核能力。

          更多参考

          参见内容审核REST API文档

          上一篇
          购买指南
          下一篇
          API参考