原生集成减轻开发者负担分析师认为将重排序功能直接嵌入数据库将减少开发者的操作负担从而提高生产力。Moor Insights Strategy 首席分析师 Mike Leone 表示原生重排序减少了开发者通常要做的工作直接影响是代码量略有减少长期好处是无需构建重试逻辑、错误处理以及因使用独立重排序服务而带来的版本管理问题。在演示中这种编排工作并不明显但应用上线后这可是实实在在的负担。同样HyperFRAME Research 的 AI 技术栈实践负责人 Stephanie Walter 指出这一新功能将使开发者减少花在整合基础设施上的时间而将更多时间用于改进应用程序的性能。工程负担的减轻也将对负责管理 AI 基础设施的企业 IT 领导者主要是 CIO产生积极影响。Walter 表示对 CIO 而言原生重排序很有价值因为它简化了 AI 技术栈。每增加一项 AI 服务就意味着要多一个需要管理、保障安全、监控和付费的地方。她还补充道虽然将重排序功能靠近数据并不能消除所有架构复杂性但它减少了一个可能导致检索质量、数据新鲜度和操作控制出现问题的交接环节。HFS Research 高管研究负责人 Ashish Chaturvedi 表示对 CIO 来说其价值更具战略性。他说随着企业对 AI 的采用规模扩大大多数企业都将不准确视为 AI 的首要风险。他指出更好的检索是 赢得信任的基础设施因为企业不太可能将更大的决策权交给 AI 代理除非他们能信任这些系统检索和推理的信息质量。大规模降低企业 AI 成本分析师进一步指出除了简化开发和操作原生重排序还能帮助 CIO 降低大规模扩展 AI 的运营成本这仍是企业面临的一大挑战。Walter 认为检索优化正成为控制 AI 支出最实用的手段之一因为减少不相关的上下文可以降低令牌token消耗。Chaturvedi 也表示道理很简单你发送给模型的每一段内容它都需要在昂贵的 GPU 计算资源上进行读取和推理成本会随着输入量的增加而上升。在内容到达模型之前剔除不相关的段落就不用为那些无关紧要的上下文支付前沿模型的处理费用。他还补充道随着企业采用更大、更昂贵的模型填充无关上下文的成本会迅速增加。在智能代理时代情况会更糟因为糟糕的检索不仅会产生一个错误答案还会引发错误步骤、重试以及在整个流程中消耗新的令牌。潜在的权衡尽管原生重排序在生产力、集成和成本方面有诸多好处但分析师警告称它也存在一些潜在的权衡。Leone 表示原生重排序目前对企业 AI 技术栈的简化日后可能会导致供应商锁定增加后期更换平台的成本。Info - Tech Research Group 咨询研究员 Igor Ikonnikov 指出了另一个局限性他认为原生重排序的价值取决于 MongoDB 是否是企业的主要数据存储库。他补充说对于数据分散在多个存储库中的企业可能仍需要跨系统编排或集中式检索优化而不能仅仅依赖数据库的原生功能。CIO 应综合评估检索技术分析师表示这些权衡也凸显了 CIO 不应仅依据检索准确性来评估检索技术的原因。Walter 指出CIO 应根据平台在平衡检索准确性与操作简便性、管理、延迟和数据新鲜度方面的能力来进行评估。同样Chaturvedi 提醒 CIO 应更多地评估总体拥有成本包括维护检索质量所需的工程工作量、令牌消耗以及架构引入的操作故障点数量。向集成式 AI 平台的更广泛转变CIO 评估 AI 基础设施产品方式的更广泛转变也在影响数据仓库和数据库供应商对其平台的改进。在过去几个月里EnterpriseDBEDB、pgEdge 和 Databricks 都推出了新架构旨在将 AI、事务处理和分析功能整合到各自的数据平台中减少数据移动以及企业需要集成和管理的系统数量。Leone 表示这一转变是行业的一次重大调整。此前企业在第一轮生成式 AI 部署中整合了多个专业服务导致操作复杂经常延缓生产部署。Chaturvedi 指出企业 AI 正从 需要组装 的模式转向集成式平台这种平台将核心 AI 功能打包在一起因为企业希望减少与多供应商 AI 技术栈相关的集成成本。
