结构化输出
更新时间:2025-04-11
介绍
JSON 是世界上应用程序交换数据最广泛使用的格式之一。
结构化输出是一项功能,可确保模型始终生成符合您提供的JSON模式的响应,因此用户不必担心模型省略必需的键或产生无效的枚举值。
结构化输出的一些好处包括:
- 可靠的类型安全:无需验证或重试格式错误的响应
- 明确拒绝:基于安全的模型拒绝现在可以通过编程检测
- 更简单的提示:不需要用强烈的措辞来提示,就能实现一致的格式
支持模型范围
- ERNIE 4.5
- ERNIE 4.0 Turbo
- ERNIE 3.5
如何支持
通过response_format字段来控制响应内容的生成。
字段 | 数据类型 | 描述 |
---|---|---|
type | string | 指定响应内容的格式,可选值: json_object:以json格式返回,可能出现不满足效果情况; text:以文本格式返回,默认为text; json_schema:以json_scheam规定的格式返回 |
json_schema | object | json_schema格式,请参考JSON Schema描述;当type为json_schema时,该参数必填 |
示例
{
"model": "ernie-3.5-8k",
"messages": [
{
"role": "user",
"content": "今天上海天气"
}
],
"response_format": {
"type": "text" //可替换成json_object、json_schema
}
}
可以看到当format设置不同时,返回content格式有所变化。
- 未开启response_format
由于天气信息实时更新,我无法直接提供今天上海的精确天气情况。\n\n为了获取最新的上海天气信息,我建议您查看天气预报应用、访问气象局的官方网站或使用其他可靠的天气信息来源。这些平台通常会提供实时的气温、湿度、风速、降水概率等详细天气数据,以及未来几天的天气预测。\n\n希望这些建议对您有所帮助!
- 开启response_format
"{\n \"上海今天天气\": \"由于我无法实时获取天气信息,因此无法提供上海今天的确切天气情况。\"\n}\n\n为了获取上海今天的实时天气,我建议您查看手机上的天气应用、访问气象局的官方网站或使用其他可靠的天气信息来源。这些渠道通常会提供最新的天气状况、温度、湿度、风速等详细信息。"