调用续写Completions
更新时间:2024-09-24
本文介绍了如何通过命令行CLI工具,使用CodeLlama-7b-Instruct调用续写Completions能力。
实现效果
例如,希望根据文本进行续写,使用模型CodeLlama-7b-Instruct 实现此功能。
步骤简介
步骤一,安装Python SDK。如果已安装,可跳过此步骤。
步骤二,配置鉴权。如果已配置鉴权环境变量,可跳过此步骤。
步骤三,查看CLI帮助及文档。
步骤四,调用相关命令。如调用续写Completions。
步骤一,安装Python SDK
注意:如果已安装Python SDK,可跳过此步骤。
安装Python SDK,命令如下。
pip install qianfan
步骤二,设置鉴权环境变量
注意:如果已设置鉴权环境变量,可跳过此步骤。
# 使用安全认证AK/SK鉴权;替换下列示例中参数,安全认证Access Key替换your-access-key,Secret Key替换your-secret-key
export QIANFAN_ACCESS_KEY=your-access-key
export QIANFAN_SECRET_KEY=your-secret-key
步骤三,查看CLI帮助及文档
查看续写Completions相关命令,可以通过以下任一方法查看。
- 方式一:通过文档查看,查看续写补全文档,详见https://github.com/baidubce/bce-qianfan-sdk/blob/main/docs/cli.md#completion-补全。
- 方式二:通过命令行CLI工具查看帮助。
# 使用qianfan --help查询支持的全部命令
qianfan --help
# 使用 qianfan completion -h 查询chat相关命令
qianfan completion -h
如下图所示。
步骤四,调用completion命令
qianfan completion --model CodeLlama-7B-Instruct "hi"
# Hello! I'm happy to help you with any questions you have. Could you please provide more information or clarify your
# question so I can better understand what you're asking?
如下图所示。