接口说明

更新时间：2024-10-16

服务接口介绍

大模型内容安全标准服务提供用户输入内容分析接口与底座大模型输出内容分析接口，端到端的保障大模型内容安全。如有单独使用代答服务的需求，您也可以基于可代答的风险范围，单独调用代答接口。

接口	描述
输入内容分析接口	该接口用于检测用户输入文本内容安全性，并针对高风险内容返回拒答提示，针对中低风险内容提供安全代答服务。
输入代答大模型接口	该接口可单独使用，为用户输入的中低风险文本内容提供安全代答服务，代答范围包含涉黄、违法犯罪、不良价值观、一般性政治相关问题。如需单独使用，可联系产研同学开通配置。
输出内容分析接口	该接口用于对底座大模型生成文本内容进行内容安全检测，由于大模型内容安全方案为输入安全+输出安全的多层构建方式，单独调用该接口效果无法保障，因此建议配合“输入内容分析接口”使用。
多模态审核接口	该接口用于检测大模型多模态场景如文生图、图生文、图文生图等场景，含文本、图片、视频、文档等内容是否安全