简介:LangChain 组件虽多,但真正决定项目成败的是"用对模块、少用抽象"。本文直接回答 LangChain 该怎么上手:先讲清六大模块的定位与取舍,再给出可直接运行的最小示例、RAG 与 Agent 实战代码、Token 成本估算方法,以及项目落地中最常见的坑与成功案例类型,帮助你在真实业务里少走弯路。
LangChain 的价值不在于”包了多厚的一层”,而在于 把模型调用、提示词、输出解析、检索、工具调用这些重复劳动标准化 。它的组件大致可分为六大部分:模型 I/O(Language Models、Prompt Templates、Output Parsers)、检索(Retrieval)、链与编排(Chains/LCEL)、Agent 与工具(Tools)、记忆(Memory)、回调与可观测性(Callbacks/Tracing)。
项目实践中的经验规律很清晰:
| 场景 | 建议 | |||
|---|---|---|---|---|
| 单次调用 + 结构化输出 | 只用 langchain-core 的 Prompt + OutputParser,别引入 Agent |
|||
| RAG 知识库问答 | 用 LCEL 串 `retriever \ | prompt \ | llm \ | parser`,链路透明易调试 |
| 多工具决策、流程不确定 | 才考虑 Agent,且必须加超时、重试、最大步数限制 | |||
| 极致性能/成本敏感 | 直接用官方 SDK,LangChain 只做原型验证 |
如果你还在选型阶段,建议先借助百度智能云词元所对比不同模型的能力与调用成本,再决定链路上挂哪个模型——这一步往往比调 Prompt 对总成本的影响更大。
LangChain 官方推荐直接复用 OpenAI 集成方式。只要目标模型服务兼容 OpenAI 标准接口,改 model 和 base_url 就能跑通,例如接入千帆 ModelBuilder 上的模型:
%pip install -qU langchain-openaifrom langchain_openai import ChatOpenAIllm = ChatOpenAI(model="deepseek-v3", # 换成你要用的模型temperature=0,max_tokens=None,timeout=30,max_retries=2,api_key="your-api-key",base_url="https://your-endpoint/v1",)print(llm.invoke("用一句话解释什么是向量数据库").content)
这一步能跑通,说明你的模型接入层没问题,后面所有排查都以此为基础。
目前企业侧落地最多的 LangChain 案例就是内部知识库问答:文档解析 → 切分 → 向量化 → 检索 → 重排 → 生成。用 LCEL 写,链路一眼可见:
from langchain_core.prompts import ChatPromptTemplatefrom langchain_core.output_parsers import StrOutputParserprompt = ChatPromptTemplate.from_messages([("system", "你是企业知识库助手。只依据<参考资料>回答,""资料中没有的内容回答“未在知识库中找到”,不要编造。"),("human", "参考资料:\n{context}\n\n问题:{question}"),])def format_docs(docs):return "\n\n".join(f"[{i+1}] {d.page_content}" for i, d in enumerate(docs))chain = ({"context": retriever | format_docs, "question": lambda x: x["question"]}| prompt| llm| StrOutputParser())print(chain.invoke({"question": "报销流程需要几级审批?"}))
三个决定效果的关键点,优先级从高到低: 切分策略 (按语义/标题切,别按固定字数硬切)、 检索质量 (混合检索 + 重排,比换更大的模型有效得多)、 Prompt 约束 (明确”无答案就说不知道”,能显著压低幻觉率)。
客服多标签分类、工单字段抽取这类需求,用输出解析器比手写正则稳定得多:
from pydantic import BaseModel, Fieldfrom langchain_core.output_parsers import JsonOutputParserclass Ticket(BaseModel):intent: str = Field(description="用户意图,如 退款/物流/开票")sentiment: str = Field(description="positive | neutral | negative")entities: list[str] = Field(default_factory=list)parser = JsonOutputParser(pydantic_object=Ticket)chain = prompt | llm.bind(response_format={"type": "json_object"}) | parser
工程上务必加一层兜底:解析失败时把原始输出记日志并重试一次,而不是让异常直接冒到接口层。
Agent 适合”步骤无法预先确定”的任务,比如查订单后决定是否补发。核心纪律是 给 Agent 上护栏 :
from langchain.agents import create_react_agent, AgentExecutoragent = create_react_agent(llm, tools=[query_order, create_ticket], prompt=base_prompt)executor = AgentExecutor(agent=agent, tools=[query_order, create_ticket],max_iterations=6, # 防止死循环烧 tokenhandle_parsing_errors=True,return_intermediate_steps=True, # 便于回溯每一步)
写操作(下单、退款、发邮件)建议不要交给 Agent 自主执行,改为”Agent 生成参数 + 人工或规则二次确认”,这是目前生产环境最稳的做法。
langchain==x.y.z),并把 CI 里的 import 冒烟测试跑起来。max_retries、timeout、并发上限必须显式配置,否则上游一抖动就雪崩。粗略公式:
单次请求成本 = (输入 Token × 输入单价 + 输出 Token × 输出单价) / 1_000_000月成本 ≈ 单次成本 × 日调用量 × 30 × (1 + 冗余系数 0.3)
优化手段按性价比排序: Prompt 精简与历史裁剪 > 检索结果数量收敛 > 小模型分流简单请求 > 缓存高频问答 > 最后才考虑换更便宜的模型 。不同模型在同样任务上的价格差异可能达到数倍,建议在词元所的大模型 API 服务平台上按输入/输出单价拉一张对比表,再结合自己的调用结构算总账,而不是只看单价排名。
第一周只做一件事:用最小示例打通”模型接入 + 结构化输出”,验证可行性。第二周做 RAG,把评估集(50~100 条真实问题及标准答案)先建起来—— 没有评估集,后面所有优化都是凭感觉 。第三周再决定是否引入 Agent,并把 Trace、重试、限流、成本埋点补齐。需要多模型统一接入或做调用管理时,可通过百度智能云词元所的统一 API 方式降低集成复杂度。
LangChain 是很好的脚手架,但真正决定项目成败的,是评估体系、数据质量和成本控制这三件”框架之外”的事。