构建智能体挑战重重三大架构层破局四问评估助力生产部署如今企业中几乎任何持有信用卡的人都能在一个下午内构建出智能体工具触手可得部署也十分轻松。然而真正困难的是达成预期效果。高德纳Gartner预测到2027年超过40%的智能体AI项目将被取消。同时欧盟《人工智能法案》第14条关于高风险AI系统需人工监督的要求将于2026年8月2日生效。智能体AI能否投入生产关键因素并非模型、框架或用例而是智能体背后的基础设施这也是构建智能体的人以往从未考虑过的部分。企业为保持竞争力竞相部署智能体AI这往往导致压力测试被忽视。每个智能体项目都应由三位高管从不同角度进行审查。首席信息安全官CISO关注是否存在风险暴露首席财务官CFO关心是否超支首席AI官则在意是否实现了价值。作为专注于AI治理的产品负责人在客户环境中发现了一种普遍模式。有三个架构层可以回答上述三位高管的问题分别是身份验证、可观测性和成本优化。接下来将详细介绍每个架构层并为下一次生产推进提供四个问题的诊断建议。为何AI试点项目会停滞不前智能体并非只是更快的聊天机器人它能串联起数十个步骤调用外部工具在不同会话中保持状态并触发现实世界的行动。大多数智能体继承了部署者的凭证以机器速度运行却对每一步操作的后果缺乏理解。这种不匹配并非人类能力不足而是时间跨度的差异。工程师可能需要数小时来评估数据库的变更而智能体在人们审查第一个变更之前就已经触发了上百个变更。传统的审计日志只能记录请求和响应无法捕捉到这种模式。一旦出现问题损失的不仅仅是事件本身还可能导致数月的部署停滞。风险委员会会暂停试点项目原本期望的生产力提升也无法实现但财务部门仍需支付API费用。这三个架构层将决定部署能否突破这种困境每一层都对应着构建智能体的人从未问过的问题。第一层非人类参与者的身份验证从身份验证开始。常见的失败情况是拥有广泛API访问权限的产品经理创建了一个智能体该智能体继承了所有凭证并以机器速度在未被盘点的系统中运行。这种情况的规模远超大多数团队的想象。行业身份与访问管理IAM研究表明非人类身份与人类账户的比例超过100:12026年的一些调查显示这一比例高达144:1。2026年5月的《身份差距报告》发现三分之二的非人类身份未被发现和管理。智能体正从依赖“所有者”权限的人类身份转变为独立的主体。它们有明确的目的经过加密验证且每次只执行一项任务。谷歌基于SPIFFE构建的智能体身份就是一个早期的例子。在生产环境中身份验证应具备三个特性。首先为每个智能体任务颁发单独的凭证其次令牌的有效期以分钟到小时计算而非数周最后权限范围应缩小到任务所需的特定工具和数据类别任务完成后凭证自动撤销。如果一个静态凭证可用于50个不同任务且有效期长达一周那这并非真正的智能体AI而是增加了额外步骤的服务账户。第二层满足三位高管需求的可观测性身份验证控制着智能体的操作权限而可观测性则展示了智能体的实际行为。通过一个监测层提供三种视角。安全视角传统日志记录请求和响应假设每个日志事件对应一次人类操作。但智能体的工作单元是一系列步骤如选择工具、调用工具、读取结果、决定下一步等。在生产环境中应将每一步操作记录为可独立查询的审计对象以便了解调用了哪些工具、访问了哪些数据、应用了什么策略以及智能体做出下一步决策的依据。这也是欧盟《人工智能法案》第14条对生产环境监督的要求。业务成果视角审计对象可以回答CISO的问题但首席AI官关注的是智能体是否达成了部署目标还是在无关任务上浪费计算资源。一个智能体可能进行了200次工具调用生成了清晰的审计日志但却没有产生任何实际成果。它可能陷入了某个子目标的循环中。因此需要根据声明的业务目的观察每一步操作包括任务完成率、子目标一致性和进度标记就像对非人类工作者进行项目管理一样。成本视角同样的逐步骤监测可以生成成本数据包括每一步的令牌数量、每次调用的模型、每轮对话的上下文大小以及下游工具调用的成本。如果没有这些数据后续的成本优化将无从下手。在安全日志和账单上忙碌的智能体和高效的智能体可能看起来一样但只有当三个视角基于同一监测层时才能发现它们的差异。第三层成本优化成本优化是架构的回报所在。高德纳2026年3月的分析显示智能体工作负载的每个任务的令牌成本是标准聊天机器人的5到30倍。FinOps基金会2026年的《FinOps现状报告》发现73%的组织超出了最初的AI预算预测。有三种常见的失败模式导致成本超支。使用错误的模型智能体通常默认使用最强大的模型但对于一些任务较小的模型也能达到相同的质量如转录总结、JSON格式化、工单分类等。ICLR2025会议上的RouteLLM论文表明智能路由可以在不影响常规工作质量的前提下将大型语言模型LLM的推理成本降低40%到80%。因此应将模型选择从开发者层面提升到策略层面。陷入循环如果无人监控智能体可能会无限制地消耗资源。2026年一个广为人知的事件中一个LangChain多智能体系统陷入无限循环长达11天产生了47,000美元的API费用。通过设置每会话令牌上限、检测循环的断路器标记与先前调用高度相似的工具调用以及每日硬性上限可以在产生高额费用之前避免这种情况。在部署中采用了三层成本结构来捕捉大部分失控情况每日50美元的软警报、每日100美元的硬性切断强制切换到更便宜的模型以及每月1,000美元的上限需要经理批准。重复支付相同的上下文智能体的每一步操作都会重新发送累积的系统提示和对话历史。到第20步时智能体已经为相同的上下文支付了20次费用。Vantage2026年对智能体编码会话的分析发现重新发送的上下文约占智能体平均账单的62%是智能体工作负载中最大的优化目标。有三种方法可以解决这个问题在阶段边界进行锚定总结、使用滑动上下文窗口以及在网关使用供应商原生的提示缓存。尽管Anthropic对缓存输入的收费约为基础费用的10%Gemini为10%到25%OpenAI为50%但大多数智能体仍然完全忽略了缓存。控制智能体成本意味着要了解每个调用、每个模型、每个令牌的归属以及业务目的并据此采取行动。没有业务归属的令牌计数只能告诉你消耗了多少资源却无法说明资源的使用方向。部署速度的回报这三个架构层对应着三位高管的问题。身份验证限制了智能体的操作权限可观测性展示了其实际行为成本优化则控制了其资源消耗。有人认为治理会减慢部署速度但这只有在治理作为审批环节被添加到缺乏可观测性和按任务身份验证的智能体上时才成立。如果从一开始就将治理融入架构这种观点就是错误的。正确的治理仍然需要付出一定成本如按任务颁发凭证会增加每次工具调用的工作量可观测性基础设施会增加计算资源消耗。但关键在于这种成本是否低于不进行治理的代价。这三个架构层相互关联。没有可观测性的身份验证只是理论上的没有成本控制的可观测性只是描述性的而没有底层的身份验证成本控制就会缺乏上下文只能被动应对。当三者结合时可以在数周内完成治理审查而不是数月。根据经验拥有这种基础设施的组织在竞争对手完成一次治理审查的时间内可以将六个工作流投入生产。智能体AI的真正投资回报率ROI并非单个工作流的运行速度而是团队在一年内能够安全地将多少工作流投入生产。下一次试点前的四个问题在将任何智能体推向生产之前可以用以下四个问题进行评估身份验证对于生产中的每个智能体能否明确其当前使用的按任务凭证以及单个令牌的最大权限范围可观测性对于任何智能体会话能否从同一监测层生成三种视角的数据包括每一步的审计对象、任务完成率与无关任务的比例以及按模型和上下文大小细分的每一步成本成本优化平台是否能自动根据模型进行路由、限制失控循环并避免每一步都重新发送相同的上下文部署速度在当前环境中一个新的智能体工作流从获批试点到投入生产需要多长时间如果答案是数月那么上述架构可能存在不足。高德纳的40%预测可能就与下一次试点相关。
