调用对话Chat
更新时间:2024-07-09
本文介绍了如何通过千帆提供的命令行CLI工具,使用ERNIE-Lite模型调用对话Chat实现单轮对话功能。
实现效果
例如,希望了解北京相关的介绍,选择使用ERNIE-Lite-8K-0922模型版本API进行对话。即
- 用户发起提问:介绍下北京
- 使用默认模型ERNIE-Lite-8K-0922调用后,返回相关介绍,如“北京,简称“京”,古称燕京、北平,是中华人民共和国首都、直辖市、国家中心城市、超大城市”等。
步骤简介
步骤一,安装千帆Python SDK。如果已安装,可跳过此步骤。
步骤二,配置鉴权。如果已配置鉴权环境变量,可跳过此步骤。
步骤三,查看CLI帮助及文档。
步骤四,调用相关命令。如调用对话Chat。
步骤一,安装千帆Python SDK
注意:如果已安装Python SDK,可跳过此步骤。
安装千帆 Python SDK,命令如下。
pip install qianfan
步骤二,设置鉴权环境变量
注意:如果已设置鉴权环境变量,可跳过此步骤。
# 使用安全认证AK/SK鉴权;替换下列示例中参数,安全认证Access Key替换your-access-key,Secret Key替换your-secret-key
export QIANFAN_ACCESS_KEY=your-access-key
export QIANFAN_SECRET_KEY=your-secret-key
步骤三,查看CLI帮助及文档
查看对话Chat相关命令,可以通过以下任一方法查看。
- 方式一:通过文档查看,查看对话Chat相关文档,详见https://github.com/baidubce/bce-qianfan-sdk/blob/main/docs/cli.md#chat-对话。
- 方式二:通过命令行查看。
# 使用qianfan --help查询支持的全部命令
qianfan --help
# 使用 qianfan chat -h 查询chat相关命令
qianfan chat -h
通过命令行查看,如下图所示。
步骤四,调用对话Chat命令
# 输入对话Chat相关命令
qianfan chat
#Hint: Press enter to submit your message, and use '/exit' to end the conversation.
#Hint: If you want to submit multiple lines, use the '--multi-line' option.
# 输入文本,例如介绍下北京
# Enter your message:
介绍下北京
# 指定模型ERNIE-Lite-8K-0922,model参数值对应ERNIE-Bot-turbo
#Model response (Model ERNIE-Bot-turbo):
北京,简称“京”,古称燕京、北平,是中华人民共和国首都、直辖市、国家中心城市、超大城市,国务院批复确定的中国政治中心、文化中心、国际交往中心、
科技创新中心,中国历史文化名城和古都之一。
#北京的历史建筑和现代建筑交相辉映,既有悠久的历史传承,也有现代化的都市风貌。北京是全球拥有世界文化遗产最多的城市,包括长城、故宫、天坛、颐和
园等众多名胜古迹。同时,北京也是中国的文化、经济和政治中心。
#北京的环境质量、交通状况、空气质量等方面都有很大的改善。近年来,北京成功举办了多项国际活动,如奥运会、世界杯等,这些活动极大地提升了北京的国
际影响力。
#总的来说,北京是一个充满活力和魅力的城市,既有深厚的历史文化底蕴,也有现代化的都市风貌。同时,北京也在不断努力改善城市环境,为市民和游客提供
更好的生活和旅游体验。
#First token latentcy: 0.68s, Total latency: 3.26s.
#Input token: 3, Output token: 204, Total token: 207.
# 如果希望结束对话,可以输入/exit
#Enter your message:
/exit
实现效果如下图所示。
注意:如果结束对话,输入/exit。