logo
在社区内搜索
14

langchain调用ernie-bot-4示例代码

langchain版本要求>=0.0.318
1)chatmodel+llmchain 实现
  
  
from langchain.chat_models import ErnieBotChat
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
llm = ErnieBotChat(ernie_client_id="xxx",
ernie_client_secret="xxxxxx",
model_name='ERNIE-Bot-4',
temperature=0.01
)
template = """
你是一个翻译大师,请对用户的输入翻译为英文。
用户输入:
{input}
"""
prompt_template = PromptTemplate(input_variables=["input"], template=template)
chain = LLMChain(llm=llm, prompt=prompt_template)
ret = chain.run("我是谁")
print(ret)
2)chatmodel实现
  
  
from langchain.chat_models import ErnieBotChat
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
llm = ErnieBotChat(ernie_client_id="xxx",
ernie_client_secret="xxxxx",
model_name='ERNIE-Bot-4',
temperature=0.01
)
template = """
你是一个翻译大师,请对用户的输入翻译为英文。
用户输入:
{input}
"""
prompt_template = PromptTemplate(input_variables=["input"], template=template)
final_prompt = prompt_template.format(input='我是谁')
# print(final_prompt)
ret=llm.predict(final_prompt)
print(ret)
3)langchain+qianfan SDK实现
  
  
from langchain.llms import QianfanLLMEndpoint
import os
llm = QianfanLLMEndpoint(streaming=True,
model="ERNIE-Bot-4",
endpoint="completions_pro",
qianfan_ak="xxxx",
qianfan_sk="xxxxx")
res = llm("翻译:我是谁")
print(res)
评论
用户头像