简介:很多人装完 LangChain 却不知道该从哪下手。本文从组件分层讲起,给出最小可运行示例、RAG 与 Agent 两套实战代码、真实项目中的落地形态与常见踩坑点,并说明如何借助[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)完成模型选型、价格对比与统一 API 接入,帮你把 Demo 推进到生产。
项目里 LangChain 用得成功还是失败,八成取决于一件事: 你是把它当”胶水层”用,还是当”全家桶”用 。
成功的团队通常只用它的三样东西:统一的模型接口、文档加载与切分工具、LCEL 的编排语法。失败的团队往往是上来就 initialize_agent,把业务逻辑塞进 prompt 和 Agent 的自主决策里,最后既不稳定也无法测试。
在动手之前还有个前置问题:用哪个模型。这一步直接影响代码里的 model 参数和每个月的账单,建议先做一次系统性的模型选型与价格对比,把候选模型的调用成本、上下文长度、工具调用能力放在一起评估,再决定代码怎么写,而不是写完再回头换。
| 模块 | 包含内容 | 项目中的真实作用 | 是否必用 |
|---|---|---|---|
| Model I/O | Chat Model、Prompt Template、Output Parser | 统一不同厂商的调用方式,隔离业务与供应商 | 必用 |
| Data Connection | Loader、Splitter、Embedding、VectorStore、Retriever | 把企业文档变成可检索的知识 | RAG 必用 |
| Chains / LCEL | Runnable、RunnableParallel、pipe 语法 |
用声明式代码串起流程,支持流式与批量 | 推荐 |
| Memory | 会话历史、摘要记忆 | 多轮对话上下文管理 | 按需 |
| Agent | 工具调用、ReAct、多步规划 | 开放式任务、需要动态决策的场景 | 谨慎使用 |
| Callbacks | 日志、token 统计、链路追踪 | 生产环境的可观测性与成本核算 | 生产必用 |
千帆 ModelBuilder 上的模型接口已与 OpenAI 标准兼容,因此 LangChain 可以直接按 OpenAI 的方式接入,只需替换 model 和 base_url:
from langchain_openai import ChatOpenAIllm = ChatOpenAI(model="deepseek-v3", # 换成你要用的模型base_url="https://your-endpoint/v1", # OpenAI 兼容网关地址api_key="your-api-key",temperature=0,max_retries=2,)resp = llm.invoke("用一句话解释什么是向量检索")print(resp.content)print(resp.response_metadata) # 里面能看到 token 用量
这套写法的好处是 换模型只改两行 。全量 OpenAI 生态的 LangChain 案例都可以直接复用,这也是多模型接入时最省事的架构:业务代码只依赖 langchain-openai 这一个包。
企业知识问答是 LangChain 落地成功率最高的方向,核心链路是”切分 → 向量化 → 检索 → 拼 prompt → 生成”:
from langchain_core.prompts import ChatPromptTemplatefrom langchain_core.output_parsers import StrOutputParserfrom langchain_core.runnables import RunnablePassthroughprompt = ChatPromptTemplate.from_template("只依据下面的资料回答,资料中没有的内容回答“未找到相关说明”。\n""资料:\n{context}\n\n问题:{question}")def format_docs(docs):return "\n\n".join(f"[{i+1}] {d.page_content}" for i, d in enumerate(docs))chain = ({"context": retriever | format_docs, "question": RunnablePassthrough()}| prompt| llm| StrOutputParser())print(chain.invoke("差旅报销标准是多少?"))
决定效果的不是框架,而是这几个参数 ,这也是我在项目里反复验证过的调优顺序:
如果团队不想维护这套链路,也可以走低代码路线,用平台侧的知识问答能力配置分段、置信度和来源展示,再评估是否值得自研。
只有当任务路径无法预先确定时,才值得引入 Agent。比如”查一下上月销售额并生成对比图”这种需要多步决策的需求:
from langchain.agents import create_react_agent, AgentExecutoragent = create_react_agent(llm, tools=[sql_tool, chart_tool], prompt=base_prompt)executor = AgentExecutor(agent=agent, tools=tools, max_iterations=5)executor.invoke({"input": "查上月销售额并画柱状图"})
三个必须设的护栏:max_iterations 限制步数、工具层做权限与只读校验、每一步都通过 callback 落日志。Agent 的 token 消耗是普通链路的数倍,不设上限很容易出现单次任务成本失控。
从公开的平台实践看,大模型应用集中落地的场景包括在线教育的数学判题与作文点评、营销文案生成、电商客服、社交文娱内容生产、智能硬件语音交互、企业服务知识库等。这些项目跑通的共同点很一致:
langchain、langchain-core、langchain-community、langchain-text-splitters 版本不匹配导致 import 报错。建议锁定版本,升级前跑一遍测试。如果只是调用模型做分类或摘要,直接用官方 SDK 更轻;如果需要高度定制的推理流程,自己写编排反而更可控。LangChain 的价值集中在 多模型统一接入 和 RAG 工具链 这两块,边界之外不必强用。
最后回到选型这件事:模型能力、上下文长度、计费方式差异很大,同一套 RAG 链路换个模型效果可能天差地别。建议在词元所 Token Exchange上先横向对比候选模型的价格与性能,再通过统一 API 接入做小规模 A/B 测试,用真实业务数据决定最终配置,而不是凭榜单选型。