文心千帆探索--Python基本对话模型调用的实践
大模型开发/互助问答
- 社区上线
- 开箱评测
2023.10.061051看过
1.前言
众多AI大模型不断涌现,一时不知如何挑选,畏惧尝试又期盼适配自身产品。
算法、算力、数据等参数常用于评判的标准。放眼大部分产品,平台所具备的算力、服务企业的能力以及技术的丰富度,文心千帆即为首选,有着文心一言的优质大模型以及主流的第三方开源大模型(预测服务、Prompt工程),庞大的客户量,运维已久的数据量。
技术丰富、一站式服务、生态化建设等成就文心千帆的可视化AI平台,每一次的更新迭代可以说都带来诸多亮点,这一次带来了两大亮点:
· 第三方大模型:支持更多主流的开源大模型,目前达到33个(此次迭代新增Llama2模型,后续融入更多开源大模型)。
· prompt模板库:帮助开发者更好的调用,称得上国内最多最全的模板库。
通过文心千帆服务体验申请的官网地址申请公测权限,填写基本信息之后,工作人员会在三小时内进行审核。
众多AI大模型不断涌现,一时不知如何挑选,畏惧尝试又期盼适配自身产品。
算法、算力、数据等参数常用于评判的标准。放眼大部分产品,平台所具备的算力、服务企业的能力以及技术的丰富度,文心千帆即为首选,有着文心一言的优质大模型以及主流的第三方开源大模型(预测服务、Prompt工程),庞大的客户量,运维已久的数据量。
技术丰富、一站式服务、生态化建设等成就文心千帆的可视化AI平台,每一次的更新迭代可以说都带来诸多亮点,这一次带来了两大亮点:
· 第三方大模型:支持更多主流的开源大模型,目前达到33个(此次迭代新增Llama2模型,后续融入更多开源大模型)。
· prompt模板库:帮助开发者更好的调用,称得上国内最多最全的模板库。
通过文心千帆服务体验申请的官网地址申请公测权限,填写基本信息之后,工作人员会在三小时内进行审核。
2.文心大模型API Python使用1-基本对话模型调用
文心大模型api使用方法和openai类似的,首先要需要用在百度云上注册一个千帆应用,获得应用的key和secret:
百度智能云千帆大模型平台
然后就能直接调用api了,基本的模式如下:
首先用应用的key和secret生成一个access token, token的有效期是1个月
文心大模型api使用方法和openai类似的,首先要需要用在百度云上注册一个千帆应用,获得应用的key和secret:
百度智能云千帆大模型平台
然后就能直接调用api了,基本的模式如下:
首先用应用的key和secret生成一个access token, token的有效期是1个月
填充API Key与Secret Key
import requests
import json
import json
client_id = "Hg********"
client_secret = "oC5********"
client_secret = "oC5********"
def main():
url = f"https://aip.baidubce.com/oauth/2.0/token?client_id={client_id}&client_secret={client_secret}&grant_type=client_credentials"
payload = json.dumps("")
headers = {
'Content-Type': 'application/json',
'Accept': 'application/json'
}
url = f"https://aip.baidubce.com/oauth/2.0/token?client_id={client_id}&client_secret={client_secret}&grant_type=client_credentials"
payload = json.dumps("")
headers = {
'Content-Type': 'application/json',
'Accept': 'application/json'
}
response = requests.request("POST", url, headers=headers, data=payload)return response.json().get("access_token")
if name == 'main':
access_token = main()
print(access_token)
然后使用这个token调用服务即可:
import requests
import json
access_token = main()
print(access_token)
然后使用这个token调用服务即可:
import requests
import json
access_token = "24.c0c5af84492f5126**************"
def main():
url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + access_token
payload = json.dumps({
"messages": [
{
"role": "user",
"content": "xxx是资本家吗"
},
],
"temperature": 0.75,
})
headers = {
'Content-Type': 'application/json'
}
url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + access_token
payload = json.dumps({
"messages": [
{
"role": "user",
"content": "xxx是资本家吗"
},
],
"temperature": 0.75,
})
headers = {
'Content-Type': 'application/json'
}
response = requests.request("POST", url, headers=headers, data=payload)print(response.text)
if name == 'main':
main()
其他参数可见:
ERNIE-Bot - 千帆大模型平台 | 百度智能云文档
基本和openai也是一样的,包括多轮对话,必须为奇数个成员,成员中message的role必须依次为user、assistant但没有openai中的system。
3.总结
文心千帆一站式大模型定制服务在AI应用领域中提供了丰富的功能和优势。这对于开发者来说,有很大的吸引力。整体一番体验下来,可视化界面组件分类清晰,大部分功能都增加上注释,方便零门槛的AI开发者。同时,丰富的技术支持、完整的服务内容和强大的生态建设让文心千帆这个平台非常有吸引力,值得选择。
main()
其他参数可见:
ERNIE-Bot - 千帆大模型平台 | 百度智能云文档
基本和openai也是一样的,包括多轮对话,必须为奇数个成员,成员中message的role必须依次为user、assistant但没有openai中的system。
3.总结
文心千帆一站式大模型定制服务在AI应用领域中提供了丰富的功能和优势。这对于开发者来说,有很大的吸引力。整体一番体验下来,可视化界面组件分类清晰,大部分功能都增加上注释,方便零门槛的AI开发者。同时,丰富的技术支持、完整的服务内容和强大的生态建设让文心千帆这个平台非常有吸引力,值得选择。
评论