当企业争相将智能助手嵌入业务流程时，一个残酷的现实浮出水面：大多数AI项目在衡量投资回报时，往往忽略了“构建前测量”这一关键前提。在2026年VB Transform大会上，Zillow高级工程副总裁Toby Roberts与Glean联合创始人兼CEO Arvind Jain共同描绘了一幅更务实的AI落地图景——真正的智能助手不应是孤立的对话机器人，而是一个能跨越数月、连接多个业务环节的“上下文持续层”。这背后，是对数据、成本与权限的重构，也是对AI赛道中狂热投资的冷静降温。
从数据到上下文：智能助手面临的核心挑战
Zillow每年触及美国约80%的房地产交易，其客户旅程往往从电话咨询开始，经过贷款专员，再到房产经纪人，整个过程可能持续数月甚至数年。传统的单轮对话式智能助手根本无法承载这种跨场景的上下文传递。Roberts坦言：“我们很快意识到，需要一个持久的上下文层，无论客户和专业人士身处哪个环节，都能被识别并延续对话。”
有趣的是，数据的准备并非最大难题。Zillow率先采用了数据网格方法，建立了清晰的数据血缘和权限治理结构，确保每一条数据都有准确的归属和访问控制。但Roberts指出：“这些都不是最难的，最难的是构建一个能够记住客户所处阶段、并能在不同界面间无缝传递状态的系统。”
这个上下文层必须独立于任何单一聊天界面存在。Zillow选择自建该层，而非依赖外部AI Agent技术提供商的通用接口。Roberts解释，一旦观察真实交易流程而非单次对话，就会发现外部聊天界面无法覆盖多触点、长周期的复杂场景。这一洞察也直接影响了Zillow在AI工具导航上的选型策略——他们更倾向于与能提供企业级上下文集成的平台合作，而非单纯追求对话流畅度的Chatbot。
为什么Zillow选择自建架构而非依赖现成模型
面对通用大模型浪潮，Zillow选择了另一条路：自建AI架构并配合小规模、任务特定的微调模型。这一决策基于Zillow在Zestimate等产品上积累的20年机器学习经验。Roberts认为，单一通用模型在房地产这种高度垂直、数据敏感的领域，反而会因过度泛化而丢失精度。
Zillow的AI架构像一套“马具”，将不同模型、不同API接口统一调度，而非将所有请求直接路由到单一模型。内部，这套系统与Glean平台并行运行。Roberts透露，Zillow目前已有数千个Glean智能助手在生产环境中运行，每月执行数万次重复性任务，涵盖财务、法务、营销等多个部门。
Glean的核心价值在于“一次集成，处处复用”。其MCP网关将原本分散在各团队的自建连接工作集中化，避免每个部门都重复对接同一套系统。Jain强调：“如果财务、法务和营销各自为政，分别构建与Salesforce、Workday、DocuSign的连接，那将是巨大的隐性成本。”这种集中化策略不仅降低了维护负担，也为后续AI投资效果评估提供了统一基线。
Glean的集中化策略：如何用智能助手降低AI成本
成本控制是当前AI赛道中最受关注的话题之一。Jain指出，大多数企业低估了智能助手在运行时的“隐性消耗”——特别是上下文组装带来的token浪费。当大模型启动时，首先需要花大量时间从头构建上下文，这不仅拖慢响应速度，还显著增加成本。“Claude之所以慢，是因为它需要先花大量时间自己组装上下文，”Jain说。
Glean通过两个关键机制优化成本：模型路由和预计算上下文。模型路由将大多数简单任务分配给更小、更便宜的模型，而非默认使用前沿模型；预计算上下文则提前将常用知识结构化，避免智能助手每次请求都重复“燃烧token”。Jain估算，通过Glean路由，token消耗可以降低一半。
这种成本优化思路对AI投资回报率的影响是直接的。Roberts补充道，Zillow能够将代码交付量40%的提升归因于AI采用，其基础是多年前就建立的DORA指标基线，而非AI部署后的临时测量。“如果你在构建智能助手之后才开始测量，你永远无法区分哪些改进是AI带来的，哪些是组织流程优化带来的。”他说。
对于正在探索AI图片生成等工具的企业，这一原则同样适用——在引入任何AI能力前，先建立清晰的效率基线，才能准确评估AI投资的真实回报。
构建AI投资回报的测量基线：先于行动
Roberts的演讲中，最令人印象深刻的观点是“先测量，再构建”。Zillow在AI大规模部署前，已通过DORA指标（部署频率、变更前置时间、恢复时间、变更失败率）建立了工程效率基线。当AI助手全面应用于代码生成、测试自动化后，他们能够精确量化AI带来的提升——代码交付量提升40%，且变更失败率没有显著增加。
这一做法打破了企业常见的“先上AI，再找ROI”的逆向逻辑。许多公司在AI赛道中盲目投入，购入了大量大模型训练资源和智能助手订阅，却无法回答“AI到底帮我省了多少钱”这个基本问题。Roberts建议，企业应当在AI项目启动前至少运行3个月的基础指标监测，并确保这些指标与业务结果（如交易转化率、客户生命周期价值）挂钩。
此外，权限管理也是测量基线的重要组成部分。Zillow在部署上下文感知的智能助手时，并未完全依赖平台的权限继承机制。对于最敏感的数据类别（如个人身份信息、财务数据），他们叠加了硬性规则和定期合规检查。“即使你的上下文层知道用户是谁，也不意味着它应该自动获得所有数据，”Roberts强调。这种“权限冗余”设计，在金融、医疗等高度监管的行业尤为重要。
权限与合规：智能助手在企业部署中的暗礁
当智能助手试图跨越多个系统调用数据时，权限问题立刻成为雷区。Zillow的做法是“分层授权”：底层通过数据网格的权限框架实现细粒度访问控制，上层则通过企业数字化转型中的安全策略进行二次校验。例如，即使智能助手识别出客户身份，并具备查看贷款进度的权限，在涉及信用评分等敏感信息时，仍需触发额外的合规确认流程。
这种保守策略并非技术能力不足，而是对监管风险的高度敏感。Jain也指出，Glean平台在设计时就考虑了“权限感知”能力——每个agent在调用数据时，都会自动检查当前用户的访问权限，而不是依赖上下文中的身份信息直接放行。但即便如此，Zillow仍然选择在关键业务流上保留人工审核环节。
对于希望利用AI画图或文生图工具生成营销素材的企业，权限问题同样不容忽视。例如，智能助手生成的图片中如果包含客户肖像或品牌商标，需要确保授权链完整。不少企业在AI赛道中因忽视合规细节而遭遇诉讼，教训深刻。
模型路由与预计算上下文：AI投资优化的两大杠杆
最后，Jain和Roberts共同给出了企业优化AI投资的两大实操杠杆：模型路由和预计算上下文。
模型路由并非新概念，但在企业级部署中，其重要性被严重低估。许多团队默认将每个请求都发送给GPT-4或Claude这类前沿模型，而实际上80%的任务（如数据提取、格式转换、简单问答）完全可以用更小、更便宜的模型完成。Glean的MCP网关内置了智能路由策略，根据任务复杂度自动选择最经济的模型。Jain举例说：“一个简单的‘提取本周销售数据’请求，完全可以用Mixtral 8x7B完成，成本不到Claude的十分之一。”
预计算上下文则是更高级的优化手段。Glean将企业知识库、常见查询模式、用户偏好等信息预先处理成结构化的“上下文缓存”。当智能助手收到请求时，无需从零开始构建，而是直接加载缓存，大幅减少token消耗。Jain透露，对于高频场景，这种优化可使响应时间缩短60%，成本降低40%以上。
对于正在探索抠图或背景去除等AI工具的开发团队，类似思路同样适用——将常用图像处理模板预计算，避免每次请求都调用完整的大模型。总体而言，AI赛道中真正的赢家，不是拥有最强模型的公司，而是最懂得控制成本、优化上下文的企业。
正如Jain在会议最后总结的那样：“模型本身不足以在企业内部实现自动化。你必须将其与企业上下文连接起来。”而那个上下文，正是智能助手能否真正创造价值的关键。