在刚刚落幕的VB Transform 2026大会上，企业AI领域的讨论焦点从“要不要用AI”转向了“如何安全可控地用AI”。作为这一科技趋势的核心议题，加拿大企业AI初创公司Cohere的产品工程副总裁Rachad Alao与VentureBeat主编展开了一场深度对话，揭示了企业构建Agent系统时不应忽视的关键：AI主权。这不仅是技术选择，更是一场关于数据控制、基础设施自主权以及供应商锁定风险的博弈。
企业AI主权：从模型下载到全栈掌控
Alao曾领导Google和Meta的可信AI与安全工程团队，他对主权有着独特的理解。在他看来，主权绝不仅仅是下载一个开源模型或在企业防火墙后运行应用那么简单。当涉及到银行、医院和政府等关键任务系统时，企业必须对数据存放位置和AI运行方式拥有“非常严格的控制权”。
这种控制权从底层的GPU和私有云基础设施，一直延伸到上层治理系统——后者负责在多个模型之间路由请求，并管理那些作用于企业数据的连接器、搜索工具和Agent框架。简而言之，你需要掌控“整个堆栈”。许多企业误以为只要把模型部署在本地就能高枕无忧，但Alao指出，真正的主权是能随时更换供应商、能把数据留在自己信任的司法管辖区内、能决定哪部分AI任务使用哪个模型。
这种全栈掌控的理念与当前企业数字化转型的需求高度吻合。当企业开始将AI嵌入核心业务流程时，任何环节的失控都可能带来合规风险或商业损失。Alao强调，主权不是一次性的技术决策，而是一种持续的能力——包括对模型行为的审计、对数据流动的监控，以及对AI决策过程的干预。
值得注意的是，这一科技趋势正在重塑企业级AI的市场格局。传统的云捆绑服务虽然方便，但往往让企业陷入供应商锁定。Cohere的策略是提供可拆解的组件：从模型到治理层，企业可以按需组合，并在必要时替换某个部分。这恰恰是当前AI投资领域最受关注的差异化方向——投资者越来越看重那些能帮助企业“解绑”的解决方案。在激烈的AI赛道上，这种灵活性或许比单纯的模型性能更具战略价值。
Agent工作负载的算力悖论：token价格降了，用量却暴涨
一个常见的经济学论点是：既然推理token的价格持续下降，企业为何还要费力优化本地部署？Alao给出了一个反直觉的答案：即便单价下降，总消耗量却在以更快的速度攀升。原因很简单——企业正在从简单的聊天机器人转向复杂的Agent系统。
今天的Agent不仅仅是回答问题，它要推理问题、调用工具、搜索内部系统、执行多步骤操作后才能给出答案。Alao描述道：“你的token利用率正在指数级增长，因为你处理的是越来越复杂的Agent用例。”这些工作流需要大量的“处理、思考、工具交互”才能完成任务。可以想象，一个需要反复查询数据库、调用API、生成中间结果的Agent，一次对话消耗的token可能是传统聊天机器人的十倍甚至百倍。
这种“价降量升”的悖论，直接影响了企业AI投资的回报模型。如果按token消耗计费，供应商自然希望最大化用量，但这对企业客户未必有利。Alao指出了Cohere的不同做法：“我们不以token利用率为主要计费方式。”相反，Cohere致力于帮企业用最低的模型调用次数解决最困难的问题，同时确保数据安全。他的处方简单直接：“为当前任务选择最合适的模型”——而不是动辄调用最大最好的模型。
这就引出了模型路由的价值。当企业能够根据任务所需智能水平以及附带的监管负担来分配工作负载时，整体效率将大幅提升。例如，一个加拿大银行在高度监管的业务中使用Cohere的本地模型，而将需要更高智能但敏感度较低的任务路由到Cohere的North平台上的大型前沿模型。这种动态路由既能控制成本，又能满足合规要求。在AI工具导航中，类似的路由策略正成为企业级AI平台的标准配置。
模型路由：让合适的模型干合适的活
“模型路由可以变得超级有用。”Alao在问答环节中进一步阐释了Cohere的这一核心理念。传统做法是将所有请求一股脑地喂给最大的模型，但这既浪费算力，又可能因为过度泛化而引入不必要的风险。模型路由的本质是把“一刀切”变成“精耕细作”。
具体来说，路由决策基于多个维度：任务的复杂度（简单问答 vs. 多步推理）、数据敏感度（公开信息 vs. 客户隐私）、响应要求（实时 vs. 批处理）、以及预算约束。Cohere的治理层允许客户自主定义路由规则，甚至可以在不同模型之间进行A/B测试，以找到最优配置。这实际上是一种AI赛道的“精细化运营”能力，能够显著降低企业的总拥有成本。
Alao举了一个例子：对于80%的企业用例，较小、较便宜的模型不仅足够用，而且效果更好、成本更低。这不是说大模型没有价值，而是不要为了5%的性能提升付出500%的成本。这背后的逻辑其实与大模型训练的投入产出比有关——训练一个大模型动辄数亿美元，但推理时绝大多数场景其实不需要动用全部参数。模型路由正是平衡性能与效率的关键工具。
对于正在评估AI投资的企业来说，模型路由能力应该成为供应商选择的重要标准。如果某个平台只能提供“全部用大模型”或“只能用小模型”的极端方案，那它很可能无法适应企业未来的动态需求。而像Cohere这样内建路由能力的平台，则能让企业在不同阶段灵活切换，避免被单一技术路线锁定。
小模型大作为：80%企业用例的性价比之选
当被问及Cohere最近发布的开源模型North Mini Code如何与专有编程模型竞争时，Alao坦然承认：在最难的编程任务上，大型前沿模型可能表现稍好。但这一优势并不构成处处使用大模型的理由。
“对于他们需要的80%的用例，这个小模型要有效得多，也便宜得多。”Alao评价道。North Mini Code仅需单张Nvidia H100 GPU即可运行，专为Agent式软件工程设计，包括终端操作、代码审查和工具使用。这意味着即使是中小企业，也能以极低成本获得高质量的AI编程辅助。
与此同时，Cohere还发布了Command A+——一个2180亿参数的混合专家模型，但每次生成只激活250亿参数。它的4-bit压缩版本进一步降低了私有部署所需的硬件门槛，而Apache 2.0许可证则赋予企业广泛的修改和运营自由。这种“大参数、小激活”的设计理念，本质上也是一种路由思维：只在必要时启用全部能力，其余时间保持轻量化。
这种小模型策略深深契合当前的科技趋势：企业不再盲目追求“更大”，而是追求“更合适”。在AI画图领域也有类似现象——很多创意团队发现，针对特定画风的轻量模型比通用超大模型出图更快、风格更稳定。同样，文生图工具中也出现了大量专为漫画、图标、电商图片定制的小模型。这些案例进一步佐证了Alao的观点：AI赛道的下一个增长点不是更大，而是更专、更便宜、更好用。
搜索进化论：多模态检索成为Agent的“第五肢体”
Cohere在嵌入和企业搜索领域耕耘已久。Alao认为，搜索早已不再是简单的“检索文本并插入上下文窗口”。今天，最先进的技术是多模态搜索——不仅查文字，还要查图片、图表、甚至视频片段。
“搜索正在成为Agent工作流的组成部分。”Alao强调，模型会自主决定何时以及如何使用检索，就像调用其他工具一样自然。这意味着Agent不仅要知道“什么”，还要知道“去哪里找”以及“如何呈现”。例如，一个售后Agent在回答客户问题时，可能需要自动搜索产品手册PDF、查看客服历史记录中的截图、甚至生成一张对比图表——这一切都通过统一的检索机制完成。
这种进化对企业的数据处理能力提出了更高要求。传统的数据库和文件系统往往只支持文本关键词匹配，而现代Agent需要的是语义理解+跨模态对齐。抠图工具可以快速提取图片中的主体，而背景去除技术则能让Agent在合成多模态答案时更灵活。这些看似基础的工具，在Agent工作流中其实扮演着“数据预处理”的关键角色。
Alao还指出，搜索与Agent的结合能有效打破供应商锁定。如果企业的数据全部锁在某家云服务商的向量数据库里，切换成本会极高。而Cohere的治理层允许客户将检索系统独立出来，甚至可以在不同搜索后端之间切换，从而保持对数据流的控制。这再次回到了主权的主题——不仅是模型主权，也是数据索引和检索的主权。
打破锁定：治理层如何重塑企业AI生态
最后一个关键议题是：如何让企业不再依赖捆绑式的AI云服务？Alao的回答很直接：数据控制和可移植性。
Cohere提供的治理层像一个“AI路由器”，让客户可以自由决定哪个请求去哪个模型。这种设计直接解决了供应商锁定问题——如果觉得某个模型不好，企业可以无缝切换到另一个，而无需重构整个系统。更重要的是，治理层还能强制执行合规策略，比如确保某些数据永远不会离开特定区域。
Alao透露，很多客户选择Cohere正是因为看到了这种解耦的能力。传统的云提供商往往鼓励客户使用全家桶——从计算到存储到AI模型全部绑定，换一个组件就要重写代码。而Cohere的开放架构让企业可以混合使用本地模型、公有云模型甚至是开源模型，实现了“不把所有鸡蛋放在一个篮子里”。
这一科技趋势对AI投资决策有直接影响。投资者正在寻找那些能够帮助企业“独立”的AI平台，而不是那些进一步加深依赖的解决方案。在AI赛道中，数据主权和模型可迁移性已经成为比基准分数更重要的竞争维度。对于企业CIO来说，在选择AI合作伙伴时，应该像评估SaaS退出策略一样评估AI的锁定风险。
总体来看，Cohere所倡导的“全栈掌控、精细路由、小模型优先、多模态搜索、治理层解耦”五重理念，正在勾勒出未来企业AI的新蓝图。这不仅是技术架构的升级，更是一场关于权力与控制权的博弈。企业只有掌握这些主动权，才能真正释放AI的生产力而不被其反噬。