Agent | 杨劲松 - Java后端 / AI应用开发工程师

LangChain Memory：设计可控的多轮对话状态

Fri, 21 Aug 2026 00:00:00 +0000

上图：LangChain — LangChain Memory。

多轮对话的难点不是把所有消息都塞回 prompt，而是决定哪些事实需要保留、保留多久、由谁负责删除。记忆应被视为显式数据，而不是模型的隐性能力。

核心心智模型

短期记忆服务当前会话，摘要记忆压缩较早内容，长期记忆保存经用户同意的偏好。三者都应带 conversation_id、租户隔离和过期策略。

关键机制

先计算 token 预算，再决定截断或摘要；写入长期记忆前做 PII 过滤和去重。读取记忆时标注来源和时间，避免旧事实覆盖新事实。

Python 示例

from dataclasses import dataclass
from datetime import datetime

@dataclass
class MemoryItem:
 conversation_id: str
 text: str
 source: str
 created_at: datetime

def build_context(history: list[MemoryItem], max_chars: int = 6000) -> str:
 selected, size = [], 0
 for item in reversed(history):
 if size + len(item.text) > max_chars: break
 selected.append(f"[{item.source}] {item.text}")
 size += len(item.text)
 return "\n".join(reversed(selected))

课程定位

这篇文章把白板上的模块拆成可以落地的工程边界：先定义输入和输出，再决定状态、失败策略与可观测性。示例使用 Python，重点是设计原则而不是绑定某个供应商版本；上线前请以当前依赖的官方文档为准。

工程实践

将业务规则放在应用层，不要藏进难以测试的提示词或路由函数。
为外部调用设置超时、重试上限和幂等键；重试不是错误处理的全部。
记录 request id、耗时、输入版本、模型/索引版本和结果状态，避免记录敏感原文。
用小规模固定数据集做回归测试，再用线上抽样监控质量与成本。

常见错误

只画 happy path，没有画超时、空结果、限流和回滚路径。
让一个函数同时负责解析、调用外部服务、拼接提示词和持久化。
用字符串约定代替类型契约，导致改动只能靠人工联调。

生产检查清单

输入、输出和错误响应均有明确 schema
外部依赖有 timeout、retry、rate limit 和 fallback
日志、指标、trace 能关联到同一次请求
关键路径有单元测试、集成测试和一组离线评测样本
密钥、用户内容和供应商响应按最小权限与隐私策略处理

练习建议

先实现白板中的最小闭环，再故意注入一个超时、一个空结果和一个格式错误，观察系统能否给出稳定且可诊断的结果。最后补一条指标，证明你的优化确实改善了质量或延迟。

动手练习

实现最近消息、会话摘要、用户偏好三级上下文，并记录每次摘要覆盖了哪些消息 id。删除会话时，验证缓存、向量库和审计副本是否都被清理。

总结

当白板上的每个箭头都能对应到一个输入、输出和失败策略时，AI 功能才从 demo 变成可维护的系统。

LangChain Tool Calling Agent：把决策与执行分开

Fri, 21 Aug 2026 00:00:00 +0000

上图：LangChain — LangChain Tool Calling Agent。

Agent 并不是让模型直接操作系统，而是让模型提出结构化的工具意图，由应用程序校验并执行。最重要的边界是：模型决定，应用执行。

核心心智模型

循环由 Think → Call → Observe 组成，但循环次数、工具白名单、参数校验和权限都由宿主应用控制。工具描述越清晰，模型越容易选对；描述不是安全策略的替代品。

关键机制

工具返回可机器读取的成功或失败结果；不要把异常堆栈直接暴露给模型或用户。对写操作要求显式确认，并为每次调用记录审计事件。

Python 示例

from langchain_core.tools import tool

@tool
def get_weather(city: str) -> dict:
 """Return current weather for an allowed city."""
 if city not in {"Shanghai", "Beijing"}:
 return {"ok": False, "error": "city_not_allowed"}
 return {"ok": True, "city": city, "celsius": 26}

llm_with_tools = model.bind_tools([get_weather])
message = llm_with_tools.invoke("上海今天适合跑步吗？")
if message.tool_calls:
 result = get_weather.invoke(message.tool_calls[0]["args"])

课程定位

工程实践

将业务规则放在应用层，不要藏进难以测试的提示词或路由函数。
为外部调用设置超时、重试上限和幂等键；重试不是错误处理的全部。
记录 request id、耗时、输入版本、模型/索引版本和结果状态，避免记录敏感原文。
用小规模固定数据集做回归测试，再用线上抽样监控质量与成本。

常见错误

只画 happy path，没有画超时、空结果、限流和回滚路径。
让一个函数同时负责解析、调用外部服务、拼接提示词和持久化。
用字符串约定代替类型契约，导致改动只能靠人工联调。

生产检查清单

输入、输出和错误响应均有明确 schema
外部依赖有 timeout、retry、rate limit 和 fallback
日志、指标、trace 能关联到同一次请求
关键路径有单元测试、集成测试和一组离线评测样本
密钥、用户内容和供应商响应按最小权限与隐私策略处理

练习建议

动手练习

增加一个只读搜索工具和一个有副作用的退款工具。让前者自动执行，让后者返回 requires_confirmation，并测试模型无法绕过确认步骤。

总结

当白板上的每个箭头都能对应到一个输入、输出和失败策略时，AI 功能才从 demo 变成可维护的系统。

使用LangChain构建AI智能体：工具集成与多轮对话

Fri, 10 Jul 2026 00:00:00 +0000

AI智能体正在改变我们构建智能应用的方式。与简单聊天机器人不同，智能体可以使用工具、保持上下文并做出决策。本指南介绍如何使用LangChain构建生产级智能体。

上图：LangChain Agent架构 — 用户输入 → 推理循环 → 工具调用 → 多轮对话

什么是AI智能体？

智能体结合了LLM、工具和推理能力：

用户输入 → 智能体（推理） → 工具选择 → 工具执行 → 响应

关键特征：

工具使用 - 可与外部系统交互
推理 - 决定使用哪些工具以及何时使用
记忆 - 跨交互保持上下文
自主性 - 可以链接多个操作

LangChain智能体框架

LangChain提供了强大的智能体构建框架：

from langchain.agents import create_openai_tools_agent
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate

# 初始化LLM
llm = ChatOpenAI(model="gpt-4", temperature=0)

# 定义提示词
prompt = ChatPromptTemplate.from_messages([
 ("system", "你是一个有工具访问权限的有用助手。"),
 ("human", "{input}"),
 ("placeholder", "{agent_scratchpad}")
])

# 创建智能体
agent = create_openai_tools_agent(llm, tools, prompt)

自定义工具开发

为你的用例构建特定工具：

from langchain_core.tools import tool
from typing import Optional

@tool
def search_knowledge_base(query: str) -> str:
 """搜索私有知识库获取信息。"""
 # 实现代码
 results = vector_store.similarity_search(query, k=3)
 return "\n".join([doc.page_content for doc in results])

@tool
def get_product_info(product_id: str) -> str:
 """通过ID获取详细产品信息。"""
 # 数据库查询
 product = db.get_product(product_id)
 return f"产品: {product.name}, 价格: {product.price}"

# 注册工具
tools = [search_knowledge_base, get_product_info]

工具最佳实践

清晰描述 - 帮助智能体理解何时使用每个工具
错误处理 - 优雅处理工具失败
输入验证 - 处理前验证输入
速率限制 - 防止外部API滥用

记忆管理

实现对话记忆以保持上下文：

from langchain.memory import ConversationBufferMemory
from langchain.chains import ConversationChain

# 初始化记忆
memory = ConversationBufferMemory(return_messages=True)

# 创建对话链
conversation = ConversationChain(
 llm=llm,
 memory=memory,
 verbose=True
)

# 在智能体中使用
agent = create_openai_tools_agent(
 llm, tools, prompt,
 memory=memory
)

记忆类型

类型	用途	权衡
缓冲	简单对话	有限上下文
摘要	长对话	信息丢失
向量	语义搜索	存储开销
实体	实体跟踪	复杂性

多轮对话

处理复杂对话流程：

from langchain.agents import AgentExecutor

# 创建智能体执行器
agent_executor = AgentExecutor(
 agent=agent,
 tools=tools,
 verbose=True,
 max_iterations=10, # 防止无限循环
 handle_parsing_errors=True
)

# 带上下文的对话
def chat(user_input: str, conversation_id: str):
 # 加载对话历史
 history = load_conversation_history(conversation_id)

 # 运行智能体
 result = agent_executor.invoke({
 "input": user_input,
 "chat_history": history
 })

 # 保存到历史
 save_conversation_history(conversation_id, user_input, result["output"])

 return result["output"]

生产部署

1. FastAPI集成

from fastapi import FastAPI, HTTPException
from pydantic import BaseModel

app = FastAPI()

class ChatRequest(BaseModel):
 message: str
 conversation_id: str

class ChatResponse(BaseModel):
 response: str
 conversation_id: str

@app.post("/chat", response_model=ChatResponse)
async def chat_endpoint(request: ChatRequest):
 try:
 response = chat(request.message, request.conversation_id)
 return ChatResponse(
 response=response,
 conversation_id=request.conversation_id
 )
 except Exception as e:
 raise HTTPException(status_code=500, detail=str(e))

2. 流式响应

from fastapi.responses import StreamingResponse

@app.post("/chat/stream")
async def chat_stream(request: ChatRequest):
 async def generate():
 async for event in agent_executor.astream_events(
 {"input": request.message},
 version="v1"
 ):
 if event["event"] == "on_chat_model_stream":
 content = event["data"]["chunk"].content
 if content:
 yield f"data: {content}\n\n"
 yield "data: [DONE]\n\n"

 return StreamingResponse(generate(), media_type="text/event-stream")

3. 错误处理

@app.middleware("http")
async def error_handler(request, call_next):
 try:
 response = await call_next(request)
 return response
 except Exception as e:
 logger.error(f"智能体错误: {e}")
 return JSONResponse(
 status_code=500,
 content={"error": "内部服务器错误"}
 )

实际案例：农业问答智能体

以下是我如何构建农业知识库智能体：

from langchain.agents import create_openai_tools_agent
from langchain.tools import Tool

# 定义农业工具
tools = [
 Tool(
 name="SearchKnowledgeBase",
 func=search_agricultural_knowledge,
 description="搜索私有农业手册获取作物病害、治疗和最佳实践"
 ),
 Tool(
 name="GeneralAgriculturalKnowledge",
 func=get_general_knowledge,
 description="当私有知识库没有答案时获取一般农业信息"
 )
]

# 强调私有数据优先的系统提示词
system_prompt = """你是一位农业专家助手。

重要提示：始终首先搜索私有知识库。仅在私有搜索没有返回相关结果时使用一般知识。

回答时：
1. 尽可能引用源文档
2. 具体说明作物名称、病害症状和治疗方法
3. 如果不确定，请说"建议咨询当地农业专家"
"""

总结

构建AI智能体需要：

工具设计 - 清晰、文档良好的工具
记忆管理 - 适合用例的记忆策略
错误处理 - 优雅的失败管理
用户体验 - 流式传输和清晰反馈

完整农业智能体代码可在上获取。

有问题？通过或邮件联系我！

Agent | 杨劲松 - Java后端 / AI应用开发工程师

LangChain Memory：设计可控的多轮对话状态

核心心智模型

关键机制

Python 示例

课程定位

工程实践

常见错误

生产检查清单

练习建议

动手练习

总结

LangChain Tool Calling Agent：把决策与执行分开

核心心智模型

关键机制

Python 示例

课程定位

工程实践

常见错误

生产检查清单

练习建议

动手练习

总结

使用LangChain构建AI智能体：工具集成与多轮对话

目录

什么是AI智能体？

LangChain智能体框架

自定义工具开发

工具最佳实践

记忆管理

记忆类型

多轮对话

生产部署

1. FastAPI集成

2. 流式响应

3. 错误处理

实际案例：农业问答智能体

总结