第三方服务集成步骤指引
第三方服务集成
第三方LLM及智能体集成配置
LLM 支持内置和第三方大模型,同时支持百度千帆智能体、阿里百炼应用、 腾讯混元智能体、扣子等。
默认设置
llm、llm_url不传则使用服务端默认LLM配置
接入第三方LLM服务配置:
一. 使用兼容OPENAI 协议的接入:
{"llm":"OPENAI", "llm_url":"","llm_cfg":"$MODEL", "llm_token": "$API-KEY"}
llm_url填入模型服务地址; llm_cfg填入模型名称, llm_token填入API-KEY
1.)百度千帆模型服务地址: https://qianfan.baidubce.com/v2/chat/completions
2.)阿里百炼模型服务地址: https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions
3.)腾讯混元模型服务地址: https://api.hunyuan.cloud.tencent.com/v1/chat/completions
4.)豆包模型服务地址: https://ark.cn-beijing.volces.com/api/v3/chat/completions
5.)豆包自定义应用地址: https://ark.cn-beijing.volces.com/api/v3/bots/chat/completions
6.)DeepSeek模型服务地址:https://api.deepseek.com/chat/completions
7.)使用客户自己的OPENAI 兼容的服务器接入: 主要配置类别OPENAI, 访问的模型地址, 访问的密钥, 以及具体的模型名称。
二. 百度AppBuilder接入:
{"llm":"LLMAppBuilder", "llm_cfg":"app_id[,conversation_id]", "llm_token": "$API-KEY"}
三. 阿里百炼应用接入:
{"llm":"LLMDashScopeApp","llm_url":"https://dashscope.aliyuncs.com/api/v1/apps/$YOUR_APPID/completion"
, "llm_cfg":"[session_id]", "llm_token": "$API-KEY"}
四. 腾讯元宝智能体接入:
{"llm":"LLMYuanbao", "llm_cfg":"assistant_id[,user_id]", "llm_token": "$API-KEY"}
五. 扣子接入:
{"llm":"LLMCoze", "llm_cfg":"bot_id[,user_id][,conversation_id]", "llm_token": "$API-KEY"}
六. Dify接入
{"llm":"LLMDify", "llm_url":"https://api.dify.ai/v1/chat-messages", "llm_cfg":"[user],[conversation_id]", "llm_token": "$API-KEY"}