人工智能正在经历一场从云端到边缘的静默革命。当大多数人的目光还停留在GPT-4、Gemini等超大模型时，一批来自MIT的科学家正悄然改变游戏规则。本周，由前MIT计算机科学家创立的AI初创公司Liquid AI正式发布了LFM2.5-2.6B——一个专为智能体工作负载设计的轻量级开源模型。它的最大亮点不在于参数规模，而在于它能完全脱离GPU和云服务器，在智能手机、笔记本电脑甚至树莓派上本地运行。这意味着，企业可以在不依赖昂贵云计算资源的情况下，将AI Agent技术部署到最边缘的场景中。
从云端到边缘：人工智能模型的新战场
过去几年，大语言模型的竞赛几乎完全围绕着“更大、更强”展开。千亿甚至万亿参数模型成为行业标杆，但随之而来的是不断攀升的推理成本和难以逾越的部署门槛。Liquid AI正是在这一背景下，选择了一条截然不同的道路：让模型足够小、足够快，同时保持足够高的任务完成质量。
LFM2.5-2.6B拥有26亿参数，支持128K token的上下文窗口，并原生内置工具调用能力。这些技术指标如果放在两年前，或许只能算中规中矩。但真正让人工智能行业侧目的，是它惊人的运行效率。根据官方测试数据，该模型在Apple M5 Max芯片上可实现约每秒220个token的解码吞吐量，在AMD Ryzen AI Max+ 395上也能达到每秒113个token，而内存占用不足2.5GB。更令人惊讶的是，在智能手机上它也能达到每秒约30个token的速度——足以应对大多数实时交互场景。
Liquid AI的研究负责人Maxime Labonne在接受采访时直言：“我们不想和云端大模型竞争，而是要为那些无法使用云端模型的场景提供解决方案。”这种思路在当下的AI赛道中尤为珍贵。当大多数AI投资都涌向大模型训练和基础设施时，边缘AI的性价比优势正在被越来越多企业重新审视。
2.6B参数模型如何跑在树莓派上？
“最好的例子就是树莓派。”Labonne在采访中展示了多个demo，证明LFM2.5-2.6B在树莓派上运行得“非常快”。这一成果背后是LFM2架构的底层创新——整个模型从设计之初就围绕真实世界的CPU性能进行优化，而非针对GPU基准。这意味着，企业可以将AI图片生成、文档管理、日历自动化等高频任务直接部署在廉价硬件上，而不必担心延迟或隐私泄露。
在部署的另一端，Liquid AI也展示了该模型在数据中心场景下的能力：单张NVIDIA H100 GPU在持续并发负载下，可达到每秒近15000个输出token，单卡每日处理约13亿个token。虽然这些数据尚未经过第三方独立验证，但足以说明该模型在性能与成本之间找到了一个颇具吸引力的平衡点。
更值得关注的是，LFM2.5-2.6B的全程本地运行特性，使其成为医疗、金融、法律等受监管行业的理想选择。这些行业往往拥有大量敏感数据，不希望上传到云端进行分析。通过部署AI工具导航中的边缘模型，企业可以在完全合规的前提下享受人工智能带来的效率提升。
为智能体而生：训练范式大变革
Liquid AI对LFM2.5-2.6B的定位非常明确：它不是用来聊天的，而是用来执行任务的。传统的语言模型往往在对话能力上表现优异，但在工具调用、工作流自动化等场景中却力不从心。LFM2.5-2.6B的训练过程彻底颠覆了这一模式。
模型在预训练阶段使用了约34万亿个token，词汇量翻倍至128K以更好地支持非拉丁语系。随后，团队设计了一个四阶段的后训练流程：监督微调、教师专用化（针对指令遵循、数学、代码、工具使用等分别训练专家模型）、多领域同策略蒸馏（MOPD）将专家能力合并回单一学生模型，最后一步是智能体强化学习。
在最后阶段，模型被直接接入生产级的智能体框架——包括Hermes Agent和OpenClaw——在真实的生产力任务中训练，涉及研究、编码、文档管理、工具调用和工作流自动化。Labonne将这一流程称为“愉快的意外”：原本只针对智能体能力的优化，意外地提升了模型在所有维度的表现，包括数学、指令遵循，甚至代码能力。“我们在代码方面以前一直不好，但这次真的变得很好了。”
这种训练范式的变革，让LFM2.5-2.6B在AI赛道中找到了独特的生态位。它不需要与大模型比拼常识问答，而是专注于高吞吐、定义明确的智能体任务——工具调用、文档管理、日历自动化、后台常驻程序等。对于需要透明背景处理的图像编辑任务，或者需要古诗词生成的创意场景，这种轻量级模型同样能提供不错的辅助。
性能与成本的双重博弈：AI投资的新逻辑
对于企业而言，引入人工智能往往面临一个两难选择：要么使用云端大模型，承受高昂的API调用成本和网络延迟；要么自建推理基础设施，但GPU服务器和带宽投入同样不菲。LFM2.5-2.6B的出现，为AI投资提供了一种新的思路——用“电费”替代“算力租金”。
Labonne在采访中强调：“我们希望展示的是，你可以用更小的体积获得与大模型相当的质量，然后在那些根本无法部署大模型的设备上运行它。”这种“够用就好”的哲学，在今天的AI投资潮中显得尤为务实。当大多数风险资本还在追逐千亿参数模型时，边缘AI模型的商业化潜力正在被低估。
从成本角度看，在树莓派上运行一个智能体，除了硬件购置成本外，几乎只有电费。而如果采用云端大模型，单次API调用的费用看似不高，但乘以成千上万次调用后，成本将迅速攀升。更重要的是，本地模型的响应延迟可以控制在毫秒级，而云端模型受网络波动影响，往往不稳定。对于需要实时反馈的自动化任务——比如智能客服、工业质检、车载系统——这种差异是决定性的。
当然，LFM2.5-2.6B并非万能。它在复杂编码任务上仍不如大模型，但Liquid AI的定位非常清晰：“如果你需要的是稳定的、高吞吐的、可重复执行的智能体任务，那么我们的模型就是最佳选择。”这种精准的市场定位，有望在AI赛道中开辟出一片新的蓝海。
开源许可背后的法律陷阱
Liquid AI选择将LFM2.5-2.6B以开源权重形式发布，模型和基础检查点（Base版本）已上线Hugging Face，并获得了llama.cpp、MLX、vLLM等主流推理框架的即日支持。同时，团队还提供了开源微调框架LEAP，方便开发者针对特定场景进行定制。
但企业法务团队需要特别注意的是，LFM2.5-2.6B采用了自定义开源许可协议。这与上月Moonshot发布Kimi K3时的做法类似——并非完全开放的标准许可，而是带有一定限制条款。在部署之前，企业必须仔细审查许可协议中的商业使用条款、修改限制、以及是否涉及专利授权等问题。
对于计划将模型集成到自身产品中的开发团队，建议先使用AI工具箱中提供的测试环境进行功能验证，确认模型在目标硬件上的实际表现，同时与法律顾问沟通许可细节。否则，一旦产品规模化后才发现许可问题，可能会面临合规风险。
未来展望：AI赛道上的边缘革命
LFM2.5-2.6B的发布，或许预示着人工智能行业的下一个转折点。当大模型军备竞赛进入瓶颈期，边缘AI的性价比优势将吸引越来越多的企业重新思考部署策略。由Liquid AI的成果可以看出，这是一个值得关注的AI投资方向，因为其技术路线与市场需求的契合度极高。
从更宏观的视角看，这一趋势也与物联网、智能制造、车联网等领域的数字化转型浪潮高度吻合。在那些网络连接不稳定、延迟敏感、或数据隐私要求极高的场景中，本地运行的智能体将成为不可替代的解决方案。
或许在不久的将来，我们会看到更多像LFM2.5-2.6B这样的模型，它们不再追求参数规模的极致，而是专注于在有限资源下解决实际问题。对于企业决策者而言，与其在云端大模型的宣传攻势中迷失方向，不如静下心来评估：我的业务真的需要那个能写诗的千亿模型吗？还是一款在树莓派上就能稳定执行任务的智能体，更能解决我的实际痛点？
答案，可能比我们想象中更接近后者。