调用续写Completions

更新时间：2024-10-21

本文介绍了如何通过命令行CLI工具，使用CodeLlama-7b-Instruct调用续写Completions能力。

实现效果

例如，希望根据文本进行续写，使用模型CodeLlama-7b-Instruct 实现此功能。

步骤简介

步骤一，安装Python SDK。如果已安装，可跳过此步骤。

步骤二，配置鉴权。如果已配置鉴权环境变量，可跳过此步骤。

步骤三，查看CLI帮助及文档。

步骤四，调用相关命令。如调用续写Completions。

步骤一，安装Python SDK

注意：如果已安装Python SDK，可跳过此步骤。

安装Python SDK，命令如下。

Bash

pip install qianfan

步骤二，设置鉴权环境变量

注意：如果已设置鉴权环境变量，可跳过此步骤。

Bash

# 使用安全认证AK/SK鉴权；替换下列示例中参数，安全认证Access Key替换your-access-key，Secret Key替换your-secret-key
export QIANFAN_ACCESS_KEY=your-access-key
export QIANFAN_SECRET_KEY=your-secret-key

步骤三，查看CLI帮助及文档

查看续写Completions相关命令，可以通过以下任一方法查看。

方式一：通过文档查看，查看续写补全文档，详见https://github.com/baidubce/bce-qianfan-sdk/blob/main/docs/cli.md#completion-补全。
方式二：通过命令行CLI工具查看帮助。

Bash

# 使用qianfan --help查询支持的全部命令
qianfan --help

# 使用 qianfan completion -h 查询chat相关命令
qianfan completion -h

如下图所示。

步骤四，调用completion命令

Bash

qianfan completion --model CodeLlama-7B-Instruct "hi"                              

# Hello! I'm happy to help you with any questions you have. Could you please provide more information or clarify your 
# question so I can better understand what you're asking?

如下图所示。