Shopify如何用人工智能构建“模型无关”的弹性AI架构,企业AI投资新范式
图片来源:AI生成

在人工智能领域,模型的更迭速度远超大多数企业的想象。一个看似完美的模型可能因为供应商的突然调整而失效,或者因为版本升级而带来兼容性风险。Shopify通过构建一套“模型无关”的内部AI代理系统,彻底解决了这一痛点——当Claude Fable 5突然下线时,工程师们没有陷入恐慌,因为代理系统自动将流量切换到Claude Opus或GPT-5.5,整个切换过程无缝进行,不影响任何工作流。

这种前瞻性的架构思维,不仅让Shopify在AI投资中获得了极高的成本效率,更揭示了企业级人工智能落地的核心逻辑:不要押注单一模型,而要构建一个能够“包容”所有模型的弹性基础设施。

模型依赖陷阱:当AI独角兽的“万能钥匙”突然失效

过去两年,许多AI独角兽疯狂追逐“最佳模型”,将全部业务押注在某个超大规模语言模型上。但这种策略暗藏巨大风险——模型供应商可能随时调整定价、变更API,甚至直接下线某个版本。Shopify的工程副总裁Farhan Thawar在访谈中直言:“Fable看起来惊艳,我们当然用过它。但当模型来了又走,或者只是进行一次看似无害的更新,我们的代理系统能让我们跨不同供应商进行分发。”

这种“模型无关”的设计理念,核心在于一个自研的LLM代理层。Shopify将Token批量采购,所有用户通过代理连接模型。代理层提供统一的报告和自动故障转移功能:当某个提供商出现可用性问题时,用户会被“自动、无缝”地转移到另一个提供商。这相当于给AI应用装上了一个“智能保险丝”——任何单一模型的波动都不会影响整体服务。

对企业而言,这是一个重要的启示。许多公司在采购AI工具导航时只盯着功能,却忽略了供应商锁定带来的长期风险。想象一下,如果你的核心客服系统依赖某个特定的对话模型,而该模型突然涨价100%或者不再支持某些功能,整个业务可能陷入瘫痪。Shopify的做法建议企业在企业数字化转型的初期就将模型弹性作为基本要求。

Shopify如何用人工智能构建“模型无关”的弹性AI架构,企业AI投资新范式配图
图片来源:AI生成

蒸馏技术:用小模型撬动大价值的AI投资回报

“蒸馏”是Shopify AI架构的另一大支柱。简单来说,就是用一个大模型(教师模型)来训练一个小模型(学生模型),让学生模型在特定子任务上达到接近甚至超越教师模型的表现。Thawar表示,这些小型语言模型(SLM)在某些场景下比通用现成模型更有价值。

以Shopify的旗舰AI助手Sidekick为例,它为数百万商家执行大量专业化子任务,目的是“消除日常运营中的苦差事”。通过蒸馏技术,Sidekick背后的每一个子任务都可以得到一个高度优化的小模型。实测数据显示,蒸馏后的小模型在速度和成本上有时能实现2倍的提升,极端情况下甚至达到30倍的提升。

但Thawar强调:“这不只是成本和延迟的问题,虽然它们非常重要;核心是准确性。”工程师们将教师模型、训练数据、评估集和目标模型(例如将Opus 4.8蒸馏到Qwen 3.5)输入内部平台,整个流水线运行大约一天后返回评估报告,显示微调模型在速度、成本和精度上的实际表现。如果权衡结果令人满意,工程师可以立即部署——无需经过冗长的审批流程。

这种“快速实验、按需蒸馏”的模式,让Shopify在AI投资中拥有了极强的灵活性。对于一个AI独角兽来说,这意味着不必每个任务都调用昂贵的大模型。你可以把蒸馏看作一种“AI投资组合管理”——将资源精准分配在回报最高的地方。

内部平台Tangle:让AI流水线变得透明可控

蒸馏流水线的背后,是一个名为Tangle的内部平台。它允许任何人可视化正在运行的AI流水线。Thawar甚至透露了他的“终极梦想”:未来不再需要指定目标模型,用户只需提供教师模型、数据和评估集,让系统自己判断“基于长期学习,我该选择什么类型、什么尺寸的模型作为蒸馏目标”。

“也许我们会感到惊讶。可能最后得到的模型非常小,小到能在手机上运行。”Thawar说,“有时系统也可能回复:‘当前边界内没有更好的蒸馏方式。’”这种自适应的蒸馏理念,本质上是在构建一个自动化的大模型训练优化引擎。一旦实现,企业AI部署将进入“自我迭代”阶段——系统会不断寻找最佳的成本-精度平衡点。

对大多数企业而言,建立像Shopify这样的完整平台可能过于奢侈,但可以通过AI工具箱中的开源组件逐步搭建类似的能力。关键点在于:AI流水线不能是一个黑盒。你需要了解每个环节的成本、延迟和准确性,才能做出理性的投资决策。

从“AI反射式”到“AI杠杆式”:工作流中的智慧使用

Shopify的另一个重要哲学是推动工程师从“AI反射式”思维转向“AI杠杆式”思维。所谓“反射式”,是指遇到问题就本能地调用AI模型,而不加思考;而“杠杆式”则是仔细分析工作流中哪些环节最值得用AI放大效率。

为了实现这一转变,Shopify建立了一个使用仪表盘。Thawar的团队可以追踪不仅是Token消耗,还包括:谁在用最贵的Token?谁花更多时间在推理上?使用了什么类型的模型?以及使用者的专业级别和部门。当某个用户的一个模型跑了很长时间(例如10小时)并消耗大量Token时,系统会触发“断路器”,主动询问:“你确定要花这么多吗?”

有时候用户的回答是“当然需要”,但更多时候回应是:“哇,我不知道它在后台运行,完全忘了,我现在就停掉。”这种实时反馈机制有效地遏制了AI资源的浪费。

AI投资的角度看,这提供了一套极佳的预算控制方法论。很多企业在引入AI后,会发现成本失控——因为工程师们习惯于“有大模型就先用着”,而不考虑成本收益。通过仪表盘和断路器,Shopify实现了AI支出的透明化和可控化。

基础设施优先:AI独角兽的长期主义

Shopify的AI战略有一个鲜明特征:在构建功能之前先建设基础设施。Thawar直言:“我们总是先建更多的基础设施,而且会继续这么做。”这种“基础设施优先”的理念,使得Shopify的AI体系极具扩展性和韧性。

除了LLM代理和蒸馏流水线,Shopify还构建了一个名为River的内部AI Agent。它创建了跨公司的“信息基质”(substrate of information),让不同部门的数据能够被AI统一检索和分析。Thawar的个人代理OpenClaw甚至能从他的日历推断出他正在出差——这一时刻让他意识到,Agent的发展方向正在从单纯的对话工具变成真正的自主智能体。

这些实践对AI独角兽和企业决策者具有重要参考价值。当你考虑AI画图文生图等工具时,背后其实也需要类似的基础设施支持:如何统一管理多个图片生成模型?如何在不同供应商之间切换?如何监控生成成本和效果?Shopify的架构思维完全可以迁移到艺术签名AI诗词等垂直领域,让这些工具在统一的弹性架构下运行。

总体来看,Shopify的方法论可以被总结为:不要押注某个模型,而是投资于能够驾驭所有模型的“操作系统”。在未来几年,随着模型数量激增、迭代加速,这种“模型无关”的架构将成为企业人工智能的核心竞争力。而践行这一理念的企业,也将在AI独角兽的竞争中占据先机。