LangChain 核心架构：Runnable、模型与可组合链

上图：LangChain — LangChain 核心架构。

LangChain 的价值不只是把模型包起来，而是提供一套可组合的运行时接口。把 prompt、model、parser 看成同一条 Runnable 管道后，调用、批处理、流式输出和追踪都可以采用一致的方式。

核心心智模型

典型链路是 输入字典 → ChatPromptTemplate → ChatModel → StrOutputParser。每个节点有自己的契约，链只负责连接它们；这让模型替换和局部测试变得简单。

关键机制

组合操作符表达数据流，invoke 适合单次请求，batch 适合批量任务，stream 适合低首字节延迟。生产代码应在边界处做类型检查和超时控制，而不是把异常吞掉。

Python 示例

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是简洁的技术助手。"),
    ("human", "请用三点解释：{question}"),
])
model = ChatOpenAI(model="gpt-4o-mini", temperature=0)
chain = prompt | model | StrOutputParser()
answer = chain.invoke({"question": "什么是幂等性？"})

课程定位

这篇文章把白板上的模块拆成可以落地的工程边界：先定义输入和输出，再决定状态、失败策略与可观测性。示例使用 Python，重点是设计原则而不是绑定某个供应商版本；上线前请以当前依赖的官方文档为准。

工程实践

• 将业务规则放在应用层，不要藏进难以测试的提示词或路由函数。
• 为外部调用设置超时、重试上限和幂等键；重试不是错误处理的全部。
• 记录 request id、耗时、输入版本、模型/索引版本和结果状态，避免记录敏感原文。
• 用小规模固定数据集做回归测试，再用线上抽样监控质量与成本。

常见错误

• 只画 happy path，没有画超时、空结果、限流和回滚路径。
• 让一个函数同时负责解析、调用外部服务、拼接提示词和持久化。
• 用字符串约定代替类型契约，导致改动只能靠人工联调。

生产检查清单

• 输入、输出和错误响应均有明确 schema
• 外部依赖有 timeout、retry、rate limit 和 fallback
• 日志、指标、trace 能关联到同一次请求
• 关键路径有单元测试、集成测试和一组离线评测样本
• 密钥、用户内容和供应商响应按最小权限与隐私策略处理

练习建议

先实现白板中的最小闭环，再故意注入一个超时、一个空结果和一个格式错误，观察系统能否给出稳定且可诊断的结果。最后补一条指标，证明你的优化确实改善了质量或延迟。

动手练习

把 chain 拆成 render_prompt、call_model 和 parse_output 三个可替换阶段，并为 parser 写一个不依赖网络的测试。若将来更换模型，测试应只关心最终契约，而不是供应商响应的内部字段。

总结

当白板上的每个箭头都能对应到一个输入、输出和失败策略时，AI 功能才从 demo 变成可维护的系统。