当企业大规模部署AI代理时,一个根本性问题浮现:如何在不失去控制权的前提下享受智能红利?最新科技动态显示,在刚刚落幕的VB Transform 2026大会上,加拿大AI创业公司Cohere的产品工程副总裁Rachad Alao给出了一个系统性的答案——企业AI主权的核心不是简单的开源模型或私有化部署,而是对从底层硬件到上层治理的“全栈代理控制”。这一观点迅速引发了与会者的共鸣,也揭示了当前AI赛道上最紧迫的议题之一:如何在追求效率的同时守住数据主权和供应商独立性。
一、企业AI主权:不止于数据,而是全栈掌控
Alao在大会的炉边对话中开门见山地指出,主权(sovereignty)对于运营关键任务系统的组织——如银行、医院和政府——意味着必须对数据驻留位置和AI系统的运行方式拥有“极其严密的控制”。他曾在Google和Meta领导负责任AI及信任安全团队,这段经历让他深刻理解:把模型下载到本地防火墙后面,远远不够。
真正的AI主权要求企业控制整个代理栈,这包括:GPU和私有云基础设施、请求路由的治理系统、连接器、搜索工具以及作用于企业数据的代理框架。每一个环节都是数据流经的节点,任何一个环节失控都可能泄露敏感信息或导致合规风险。
“你想对整个堆栈拥有控制权,”Alao强调。这一观点与当前AI Agent技术的发展趋势高度吻合——随着代理系统从简单的问答机器人演进为能够自主推理、调用工具、搜索内部系统的复杂实体,控制面必须延伸到每一个组件。值得注意的是,这种全栈控制并不排斥云服务,但要求企业能够在公有云、私有云和本地部署之间灵活切换,且不被任何单一供应商锁定。
在AI赛道的激烈竞争中,Cohere独树一帜地强调“主权优先”的产品哲学。不同于那些要求客户将数据上传到云端、依赖封闭生态的厂商,Cohere的治理层允许客户将流量路由到合适的模型,从而“打破客户普遍担心的供应商锁定”。这种设计理念背后,是对企业级客户深层需求的洞察:他们需要的不仅仅是技术能力,更是对业务连续性和数据主权的绝对掌控。
二、代理工作负载激增:token成本下降反而推高总消耗
针对“更小、更便宜的本地模型是否会让大规模前沿模型失去价值”的质疑,Alao给出了一个反直觉的回应:token价格虽然在快速下降,但企业的总消耗量正在以更快的速度攀升。原因在于,企业正在从简单的聊天机器人转向能够推理、调用工具、搜索内部系统、执行多步骤操作的复杂代理系统。
“你的token利用率将呈指数级增长,因为你正在处理越来越复杂的代理用例,”Alao说。这些工作流需要大量的处理、思考和工具交互才能完成目标。这意味着,即便单位token成本降低,总成本仍可能上升,尤其是当企业不加区分地为所有任务使用最大的前沿模型时。
这一发现对AI投资决策具有重要启示。盲目追求“大模型”可能导致投入产出比失衡,而合理的模型路由策略则能显著优化成本。Alao以一家加拿大银行为例:该银行将高度受监管的工作负载部署在Cohere的本地模型上,而将需要更高智能但敏感性较低的任务通过Cohere的North平台发送到更大的前沿模型。这种“智能分流”模式,正是企业数字化转型中值得借鉴的方法。
有趣的是,Alao还对比了Cohere与竞争对手的收费模式。“如果你的整个收费方式是基于token消耗,那么你自然会想最大化token消耗,”他说。而Cohere则反其道而行之,帮助企业在私有且安全的环境下解决最难的问题,同时减少不必要的模型使用。这种“用正确的模型做正确的事”的理念,在当下AI投资热潮中显得尤为务实。
三、模型路由:智能分配任务,告别“一刀切”
模型路由是Alao在演讲中反复提及的核心技术。他建议企业不要将所有请求都发送给最大的前沿模型,而是根据任务所需的智能程度、数据敏感性和监管要求来分配工作负载。这种精细化的路由策略不仅能够降低成本,还能提高整体系统的可靠性和合规性。
“模型路由可以变得非常有用,”Alao说。在Cohere的架构中,治理层扮演着“交通警察”的角色,自动判断每个请求应该由哪个模型处理。例如,一个简单的内部知识问答可能由本地部署的小模型完成,而一个涉及复杂代码生成的请求则可能被路由到云端的前沿模型。这种灵活性使得企业能够在保持控制权的同时,充分利用各种模型的优势。
对于初创企业来说,模型路由也意味着更低的入门门槛。他们可以先使用AI工具导航中的开源小模型快速验证业务,再根据需求逐步引入更强大的模型,而无需一开始就承担高昂的API成本。这一策略与当前AI赛道中“轻量化部署”的潮流不谋而合。
值得注意的是,模型路由不仅仅是一个技术问题,更是一个商业策略问题。当企业能够自主选择模型供应商时,他们就在谈判桌上拥有了更多筹码。Alao指出,Cohere的治理层设计就是为了打破供应商锁定,让客户“拥有更多控制权”。这种开放态度正是企业级AI市场最稀缺的素质之一。
四、小型模型崛起:80%用例更高效更经济
当被问及Cohere最近发布的开源模型North Mini Code如何与专有编码模型竞争时,Alao坦率承认,在最具挑战性的任务上,更大的前沿模型可能表现略好。但这一优势并不足以证明无差别使用大模型的合理性。
“对于80%的用例来说,这个小模型更高效、更便宜,”Alao说。North Mini Code仅需单个Nvidia H100 GPU即可运行,专为代理软件工程场景设计,涵盖终端操作、代码审查和工具使用。它的发布表明,在特定领域,小模型完全能够胜任大多数任务,而且成本仅为大模型的一个零头。
这一趋势对AI投资方向产生了深远影响。过去几年,业界目光几乎全部集中在“越大越好”的参数量竞赛上,但Cohere的例子证明,通过精心设计的模型架构(如混合专家模型),可以在保持性能的同时大幅降低算力需求。其Command A+模型拥有2180亿总参数,但每次推理仅激活250亿参数,四比特压缩版本更进一步降低了私有部署的硬件门槛。
“用正确的模型做正确的事”这句话,同样适用于AI画图、文生图等创意工具。对于大多数日常设计需求,轻量级的生成模型已经足够,无需每次都调用最庞大的图像生成模型。这种按需匹配的思路,正在重塑整个AI赛道的成本结构。
五、多模态搜索:成为代理工作流的核心组件
Cohere在嵌入和搜索领域有着长期积累,Alao认为,搜索技术正在从“检索文本并插入模型上下文窗口”的简单模式,进化到多模态搜索的新阶段。今天,最先进的搜索已经超越了文本模态,涵盖文档、图像、视频等多种信息形式,并成为代理工作流中不可或缺的组成部分。
“搜索正在成为代理工作流的一个集成组件,”Alao解释道。在代理系统中,模型会像使用其他工具一样,自主决定何时以及如何使用检索功能。这意味着,未来的AI代理不仅能够回答问题,还能主动搜索企业内部的数据库、知识库甚至外部互联网,整合多模态信息后再给出答案。
这种演进对于抠图、背景去除等图像处理工具同样适用——当用户上传一张图片并询问“这张图片的背景是什么”时,代理系统可以自动调用图像识别、抠图工具和文本检索,实现端到端的智能处理。类似的,AI诗词生成或藏头诗创作也可以作为代理工作流中的一个功能模块,被动态调用。
在AI投资评估中,搜索能力正成为衡量代理系统成熟度的重要指标。一个能够无缝融合多模态搜索的代理,其商业价值远高于仅能处理文本的机器人。Cohere在这一领域的布局,显示了其对企业级AI系统性需求的深刻理解。
六、打破供应商锁定:治理层是主权关键
最后,Alao回到了企业AI主权的核心挑战:如何摆脱对特定云服务商的依赖?他给出的答案是构建一个强大的治理层。这个治理层不仅负责路由流量,还负责监控合规性、审计日志、数据脱敏和权限控制,确保企业可以随时更换底层模型而无需重构整个系统。
“如果你对主权感兴趣,你就希望对自己的数据有更多控制权,”Alao说。Cohere的治理层让客户能够将流量路由到合适的模型,“打破许多客户担心的供应商锁定”。这种设计理念,与大模型训练领域的开放生态趋势相呼应——越来越多的企业开始要求模型供应商提供可移植的、兼容多种运行环境的解决方案。
对于正在规划AI投资的企业来说,这一观点具有强烈的现实指导意义。在技术选型时,不仅要考虑模型本身的性能,更要评估其与现有IT基础设施的兼容性、数据迁移的便捷性以及与未来可能替换的模型之间的互操作性。一个锁死供应商的合同,可能在短期内带来便利,但长期来看会削弱企业的议价能力和应变能力。
Alao的演讲为整个行业提供了一面镜子:当AI代理变得越来越强大,企业的控制权反而成为最稀缺的资源。那些能够平衡智能与主权、效率与安全的方案,将在未来的AI赛道中赢得真正的信任。而AI工具导航和AI工具箱等资源,正是帮助企业在纷繁复杂的技术选型中保持清醒的实用工具。
总而言之,VB Transform 2026上的这场对话,不仅展现了Cohere作为加拿大AI新锐的技术雄心,更揭示了企业级AI市场从“模型竞赛”向“主权竞赛”过渡的深层逻辑。在AI投资持续升温的当下,理解“全栈代理控制”的含义,或许比追逐最新的参数数字更有价值。