logo

千帆大模型插件应用的使用

前言

官方介绍:插件应用(Plugin)是大语言模型(LLM)的应用构建工具,帮助用户快速构建LLM应用或将LLM应用到自建程序中。开发者可以通过LLM API 以及内置的模块等快速的启动LLM应用的创建工作。千帆平台插件应用可以结合平台运行的模型服务共同输出高质量的服务信息。当前的大语言模型生成建立在定量化的数据集中,当然数据量可以进行不断的扩充增冗,但是信息的时效性还是不可避免的有延迟。插件应用完美匹配到语言模型插口,作为LLM的新“五官”,不断感触或全新、或个性化或太特定范围内的未包含在训练数据中的信息,解锁更大量更可能的用例。
总之插件就是使大模型在某一个领域有更加细腻的回答。

创建插件应用

在千帆大模型平台的控制台页面左侧选择插件编排
然后点击配置插件应用服务
选择场景并输入名称然后确定
选择添加的应用并添加插件然后上线这样一个插件应用就创建好了
具体的流程如下图

使用

插件应用的使用方法和普通应用基本相同只需要将API选一下就可以
以上就是本篇文章全部内容。
评论
用户头像