大多数 AI 应用一开始都是简单的 demo。用户提出一个问题。LLM 生成一个回答。所有人都印象深刻。然后现实来了。突然之间chatbot 变成了一个 workflow。这正是许多 AI 项目开始遇到困难的地方。周末 demo 与生产级 AI 系统之间的差异通常不在于模型而在于其背后的架构。LangChain 和 LangGraph 已成为构建现代 AI 应用最广泛使用的两个框架。它们共同提供了用于创建可靠、可扩展、可维护 AI 系统的构建块。如果你在 2026 年构建 AI agent那么在编写下一个 workflow 之前应该先理解这些概念。State 是每个 Agent 的基础为什么生产级 agent 需要共享 state而不是孤立的 prompt大多数初学者认为 AI agent 看起来像这样User Input ↓ LLM ↓ Response生产级 agent 完全不同。它们会在整个 workflow 中维护 state。考虑一个客户支持 agentfrom typing import TypedDict class SupportState(TypedDict): ticket_id: str customer_message: str customer_tier: str retrieved_articles: list sentiment_score: float draft_response: str escalation_required: bool final_response: str随着 workflow 推进不同的 node 会更新这个共享 state。{ ticket_id: TKT-9012, customer_message: My payment failed twice, customer_tier: Enterprise, retrieved_articles: [ Payment Retry Policy, Credit Card Validation ], sentiment_score: 0.91, draft_response: Please retry the payment..., escalation_required: False }没有 stateAgent 会丢失上下文Debugging 会变得困难多步骤 workflow 会变得脆弱有了 state每一步都能理解之前的操作Workflow 变得可预测复杂系统变得可管理把 state 理解为整个 workflow 的共享记忆。Node 本质上只是函数复杂 AI workflow 背后的简单构建块许多开发者认为 AI agent 由某种神奇的框架驱动。实际上大多数 node 只是函数。一个 retrieval nodedef retrieve_documents(state): docs vector_store.similarity_search( state[user_query], k5 ) return { retrieved_docs: docs }一个 reranking nodedef rerank_documents(state): reranked reranker.rank( querystate[user_query], docsstate[retrieved_docs] ) return { retrieved_docs: reranked[:3] }一个 generation nodedef generate_answer(state): response llm.invoke( state[retrieved_docs] ) return { draft_answer: response }组合在一起Retrieve ↓ Rerank ↓ Generate ↓ Validate每个 node 都专注做好一件事。力量来自 orchestration而不是复杂性。Chain vs Graph当线性 workflow 崩溃时以及为什么 graph 更具扩展性许多 LangChain 应用都是从 chain 开始的。Prompt ↓ LLM ↓ Parser ↓ ResponseChain 非常适合直线型 workflow。但当你需要以下能力时会怎样多个 agent条件决策人工审批Retry logic长时间运行的任务线性 chain 就开始难以支撑。Graph 能自然地处理这些场景。Router │ ┌────────┴────────┐ ▼ ▼ Research Agent Support Agent │ │ └────────┬────────┘ ▼ Final Response真实世界示例一个 ERP 迁移助手可能会分析需求生成测试用例验证覆盖率将问题路由给专家请求人工审批这个 workflow 天然是 graph-shaped而不是线性的。随着系统变得更加复杂graph 会变得必不可少。Routing 胜过巨型 Prompt专用 agent 如何胜过一体化 assistant最常见的 AI 错误之一是创建巨大的 prompt。You are a billing specialist, technical support engineer, sales representative, product expert, and compliance advisor...这很少能扩展。更好的解决方案是 routing。def classify_request(state): query state[user_query] if billing in query: return billing_agent if error in query: return technical_agent if pricing in query: return sales_agent return general_agentWorkflowUser Request │ ▼ Router │ ┌────┼────┐ ▼ ▼ ▼ Tech Billing Sales更小的 prompt 会带来更高准确率更低 token 成本更易维护更可预测的输出最好的 AI 系统通常是一组专家团队而不是一个巨型专家。Retrieval 不只是 Vector Search通过 retrieval、reranking 和 filtering 构建更好的 RAG 系统许多开发者认为 RAG 意味着Vector Search ↓ LLM ↓ Answer这适用于 demo。生产系统需要额外的层。Retrieve ↓ Rerank ↓ Filter ↓ Generate示例docs vector_store.search( query, k20 ) reranked_docs reranker.rank( query, docs ) top_docs reranked_docs[:5]为什么 reranking 很重要一个 vector database 可能检索出 20 篇相关文档。但其中可能只有 5 篇真正包含所需信息。Reranking 会显著提升回答质量。真实世界示例一个拥有 1000 万文档的公司知识库通常会使用Hybrid searchMetadata filteringRerankingContext compression这些都发生在 LLM 看到数据之前很久。优秀的 RAG 系统首先是 retrieval 系统其次才是 AI 系统。Structured Outputs 防止代价高昂的失败为什么生产系统永远不应该解析自由格式文本每个 AI 工程师都遇到过这种情况PromptReturn valid JSON.Response{ priority: high category: billing }缺少逗号。Parser 崩溃。Workflow 失败。相反使用 structured outputs。from pydantic import BaseModel class TicketClassification(BaseModel): category: str severity: str assigned_team: str confidence_score: float生成经过验证的输出result llm.with_structured_output( TicketClassification ).invoke(ticket_text)输出{ category: Payment, severity: High, assigned_team: Billing, confidence_score: 0.94 }Structured outputs 会显著提高可靠性。如果另一个系统会消费 AI 输出那么 schema 应该是强制性的。Streaming 改善用户体验让 AI 系统在体感上快得多用户讨厌等待。考虑以下两种体验。体验 A等待 15 秒。没有任何事情发生。体验 B回答立即开始出现。两者可能需要相同的总时间。用户几乎总是更喜欢体验 B。Streaming 能实现这种体验。for chunk in model.stream(prompt): print(chunk)对于更大的 workflowyield Analyzing requirements... yield Retrieving documents... yield Generating response... yield Validating results... yield final_response真实世界示例想象一下生成数百个迁移测试用例。显示进度更新会显著提升用户满意度。感知性能往往比实际性能更重要。Memory 不只是对话历史Chatbot 与真正 agent 的区别大多数开发者会把 memory 与聊天历史联系起来。messages [...]真正的 agent 需要 operational memory。考虑一个 coding agent。{ repository: payments-api, modified_files: [ payment.service.ts, retry.handler.ts ], failed_tests: [ payment_retry.spec.ts ], last_fix_attempt: ..., pull_request_url: ... }Agent 会记住之前的决策工具输出失败的执行检索到的文档Repository state这会让后续决策更好。Memory 将孤立的交互转化为智能 workflow。Checkpointing 支持长时间运行的 Workflow生产级 agent 如何从失败和中断中恢复真实系统会失败。模型会 timeout。API 会不可用。人类需要时间审查结果。没有 checkpointingFailure ↓ Restart Workflow有了 checkpointingFailure ↓ Resume Workflow示例from langgraph.checkpoint.memory import MemorySaver checkpointer MemorySaver() graph workflow.compile( checkpointercheckpointer )稍后恢复graph.invoke( input_data, config{ thread_id: loan-123 } )真实世界示例考虑一个贷款审批 workflowDocument Collection ↓ Checkpoint ↓ Risk Assessment ↓ Checkpoint ↓ Human Approval ↓ Final Decision这个 workflow 可能跨越数小时或数天。Checkpointing 可以防止进度丢失。Human-in-the-Loop 是 AI 真正的未来为什么最好的 AI 系统是与人类协作而不是取代人类关于 AI agent 最大的误解之一是它们应该完全自主运行。现实中大多数企业系统都需要人工监督。示例def approval_node(state): if state[risk_score] 0.8: return human_review return auto_approveWorkflowAI Analysis ↓ Risk Assessment ↓ Human Review ↓ Continue Workflow真实世界示例人工审查常见于贷款审批法律合同分析ERP 迁移验证医疗保健建议财务审计最成功的 AI 系统不会取代人类。它们帮助人类更快地做出更好的决策。汇总起来一个生产级 AI workflow 通常看起来像这样User Request │ ▼ Routing Node │ ┌────┴─────┐ ▼ ▼ Research Support Agent Agent │ ▼ Retrieve Documents │ ▼ Rerank Results │ ▼ Generate Draft │ ▼ Structured Output │ ▼ Checkpoint │ ▼ Human Approval │ ▼ Final Response注意缺少了什么。没有一个试图解决所有问题的巨型 prompt。相反系统由协同工作的专用组件构建而成。这就是现代 AI engineering 背后的核心思想。最后的想法在构建 AI 系统的过程中我学到的最大经验是可靠的 AI 应用很少取决于模型。它们取决于 workflow design。State.Nodes.Graphs.Routing.Retrieval.Structured outputs.Memory.Checkpointing.Human review.这些概念对 AI 系统的提升远远超过无休止地调 prompt。模型会持续演进。良好的架构会持续重要。如果你在 2026 年构建 AI agent请先从掌握这些概念开始。这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容
