当AI Agent从实验室的炫酷Demo走向企业级生产环境，真正的拦路虎并非大模型本身，而是那些为人类工作节奏设计的“老古董”基础设施。在2026年VB Transform大会上，来自LinkedIn、沃尔玛和Zendesk的三位基础设施负责人用亲身经历揭示了一个残酷真相：AI办公的规模化瓶颈，100%出在系统架构上。
瓶颈真相：从“为人类设计”到“为Agent设计”的鸿沟
LinkedIn人工智能平台与基础设施高级总监Animesh Singh、沃尔玛企业技术服务与战略高级副总裁Desiree Gosby、Zendesk应用AI副总裁Sami Ghoche，三位来自不同行业的领导者，在同一个问题上给出了惊人一致的回答——当Agent从试点走向生产时，所有卡点都不是模型问题。
Gosby直言不讳地总结：“我们要确保工程本身不再成为我们想做的事情的瓶颈。”这句话背后，是整个行业对AI基础设施重构的集体觉醒。
传统企业基础设施的底层逻辑是为人类操作设计的：我们点击按钮、等待响应、手动编排流程。但Agent的运行速度是毫秒级的，它们需要的是实时决策、自动调度和零等待的资源分配。这种“人类速度”与“机器速度”之间的裂缝，正是所有工程创新的发生地。
以LinkedIn为例，他们首先撞上的墙是Kubernetes。这个容器编排系统默认按需启动容器，整个过程需要几秒钟——对人类来说完全可以接受，但对Agent来说简直是“龟速”。Singh团队不得不从“按需分配”迁移到“预置资源池”，让Agent之间实时交换工作负载。
三大企业的“破墙”实战：从编排到治理的全面升级
LinkedIn：用“确定性代码”驯服Agent幻觉
当LinkedIn允许Agent自主编排流程时，一个更棘手的问题浮出水面：他们设计了一个五点评分系统来评估Agent输出，但幻觉依然顽固出现。Singh发现这是结构性问题——用一个LLM去评估另一个LLM的输出，本质上共享着相同的失败模式。
解决方案颇具颠覆性：他们构建了自己的控制流，将LLM推向“叶子节点”而非让它们主导编排循环。现在，约80%的工作流是脚本化的确定性代码，LLM只负责需要推理的部分。每一步的证据都会被写入磁盘，系统才会继续下一步。这种“AI Agent技术”的混合架构，既保留了AI的灵活性，又用确定性代码保证了可靠性。
沃尔玛：当“公民开发者”引发Agent洪流
沃尔玛的瓶颈来自“成功”。他们直接将Agent工具交到员工手中，结果内部迅速引爆，所谓的“公民开发者”开始自行构建Agent来解决原本需要正式工程路线图的问题。好处是真正的创新，坏处是重复——数十个功能重叠的Agent互相干扰，毫无协调。
沃尔玛没有选择收回工具，而是构建了治理体系：自动发现重复Agent、推广最佳版本、让优化后的Agent快速进入生产流程，而工程部门不再成为瓶颈。这种“自下而上创新+自上而下治理”的模式，为企业数字化转型提供了新思路。
Zendesk：20亿条对话的“数据诅咒”
Zendesk在2026年3月收购了Forethought，Ghoche因此加入团队。他面对着Zendesk仓库中“公开数字”的200亿条客户对话。直觉告诉人们：把这些历史数据扔给一个大上下文窗口的大语言模型，让它自动生成企业需要的Agent。但Ghoche坦言：“你根本做不到。”
真正的解决方案是投资底层数据管道和所有相关数据基础设施。他建议企业不要试图用LLM直接处理海量历史数据，而是先构建健壮的数据工程体系。这一经验与AI投资中的“数据优先”原则不谋而合。
开源与闭源：企业如何选择“归属权”
在开源策略上，三位领导者出奇一致：能自己掌控的就自己掌控，只在前沿实验室仍有明显优势的区域依赖外部。
Ghoche认为，大多数企业都希望尽可能拥有自己的模型和基础设施，这种逻辑驱动着Zendesk的策略。唯一的例外是前沿推理工作——实验室仍领先，但他指出，这部分用例在企业AI应用中的占比正在快速缩小。
LinkedIn的答案是构建两个独立子系统：一个是“AI网关”，无论模型提供商是谁，所有对外调用都通过统一接口；另一个是“记忆子系统”，独立于任何模型提供商持有上下文。Singh说：“每个对外调用，无论是在公共云还是本地数据中心，都遵循相同的语义和API调用，我们可以快速切换不同提供商。”
沃尔玛则构建了自己的内部网关，支持三种工作负载类型：完全确定性工作流、面向开放式任务的规划与推理工作流，以及两者的混合。合规性高的工作保持确定性；治理、安全和评估通过网关运行，无论另一端是哪个模型。Gosby表示，选择前沿模型还是开源模型取决于哪种对特定工作负载最有效，而非固定政策。这种“AI赛道”中灵活切换的思路，值得所有企业借鉴。
现代化改造三步走：评估、赋权、独立
三位领导者各自给出了基于实战教训的建议，恰好构成一个完整的改造路线图。
第一步：先把评估做好。 Ghoche将其称为所有用例的共同基础——无论是内部还是面向客户。“评估会迫使你分解问题，一旦你拥有了一套健壮的评估体系，就能更快推进。”他建议企业不要急着上Agent，先花时间建立可靠的评估指标。
第二步：从第一天起就拥有自己的Agent工具。 Gosby的建议是尽早将AI工具直接交到员工手中，同时搭配监控基础设施。“它将释放巨大的创新潜力。”她强调，治理不能成为扼杀创新的借口，而是要让创新有序进行。
第三步：为模型独立和上下文独立而构建。 Singh的箴言是：“为独立性而构建——无论是今天的先锋模型还是明天的开源模型。把上下文保留在企业内部，这样当你明天更换模型或工具时，可以重复使用它。”
这三点与AI工具导航中的最佳实践高度契合，也呼应了AI工具箱中关于架构设计的核心原则。
未来展望：AI办公基础设施的“新常态”
在AI办公真正成为主流之前，企业必须经历一场基础设施的“范式转换”。从LinkedIn的预置资源池到沃尔玛的治理体系，再到Zendesk的数据管道，一个清晰的方向已经浮现：基础设施必须从“被动响应”转向“主动适配”。
Ghoche预测，随着企业AI用例的爆炸式增长，前沿推理的占比将继续缩小，大部分工作将落在“可用AI”的范畴。这意味着企业需要更通用的基础设施，而非为每个模型定制化搭建。
Singh则强调“上下文持久化”的重要性——Agent之间的对话历史、决策依据、用户偏好，这些上下文应该存储在企业自己的系统中，而不是绑定在某个模型服务商那里。这不仅是技术选择，更是战略自主权。
对于正在规划AI投资的企业，这是一条明确的信号：不要被模型竞赛迷了眼，真正决定成败的是你能否构建一个“Agent友好”的底层架构。就像AI画图工具需要强大的GPU集群一样，AI Agent需要的是为毫秒级响应设计的“神经中枢”。
终极建议：没有“银弹”，只有系统工程
三位领导者反复强调一个核心观点：AI Agent的规模化没有捷径，它是一场系统工程。
首先，认识到“幻觉”不仅是模型问题，更是架构问题。当Agent自主编排时，缺乏人类监督的循环会放大错误。LinkedIn用确定性代码包围LLM的做法，本质上是在“Agent循环”中嵌入“人类保障”。
其次，接受“重复”是创新的副产品。沃尔玛的经验表明，与其试图控制公民开发者，不如建立高效的治理机制来筛选和整合。
最后，拥抱“数据优先”的AI赛道。Zendesk的教训是，没有干净、可访问的数据管道，再强大的模型也无能为力。企业应该像投资模型一样投资数据基础设施。
对于正在探索AI办公的公司，不妨从抠图这类轻量级AI工具开始，逐步建立对AI基础设施的理解。毕竟，从“为人类设计”到“为Agent设计”的转变，需要整个组织对技术栈的重新思考。
就像Singh所说：“构建独立性，保持上下文，让Agent成为你的伙伴而非取代者。”这或许就是AI办公时代最务实的生存法则。