在AI应用快速渗透企业核心业务的今天，一个尴尬的真相正在浮现：每个企业都制定了AI治理政策，但几乎没有人知道如何真正执行它。在Anthropic首席信息安全官组织的一场闭门圆桌会议上，Rubrik的AI业务总经理Dev Rishi抛出了一个简单问题——在座各位是否已经将AI治理和安全政策白纸黑字写下来？14位安全负责人全部举手。然而当他追问“你们实际上如何执行这些政策”时，全场响起了尴尬的笑声。Rishi在VB Transform 2026炉边谈话中回忆道：“这就像房间里公开的秘密——每个人都有一堆政策，却没有任何办法让它们落地。”这一矛盾正成为制约AI应用回报率的核心瓶颈，而Rubrik给出的解决方案是：让另一个AI来当裁判。
当AI代理进入“YOLO模式”：自由与风险的终极博弈
Rubrik的创始人兼CTO一直在推动让AI代理进入“YOLO模式”——这是硅谷流行的一个俚语，意为“你只活一次”（You Only Live Once），在AI语境中代表完全自主行动。这一做法来自一家公开上市的数据安全公司，其业务是备份全球最重要的数据——这种背景使得“YOLO模式”显得格外大胆。
传统上，AI代理的每一步操作都需要人类点击确认，但Rishi认为这种模式正在变成“安全剧场”。当Rubrik试点Claude Code和Cowork等AI编程助手时，要求所有命令必须运行在“询问模式”下，即员工发布命令时需承担个人责任。结果开发者们的反弹填满了一个长达120条消息的Slack线程。Rishi形容道：“开发者们基本上在抗议——这就像iTunes服务协议，我只会不停地点击‘同意、同意、同意’，根本没有办法读完所有内容。这变成了彻头彻尾的安全剧场。”
Rubrik自己的研究证实了这种困境：Rubrik Zero Labs调查了超过1600名IT和安全负责人，发现大约80%的受访者陷入同样的窘境——监控和批准AI代理行动所花费的时间，甚至超过了代理本身节省的时间。这份名为《代理状态》的4月报告揭示了一个反直觉的事实：当人类成为审批瓶颈时，AI应用的自治优势反而被抵消了。
Rubrik的应对方式是在自身体系内先做实验：移除代理工作流中的人工审批提示，让代理自主行动，但由第二个AI实时评判每一个动作是否符合政策。Rishi将自治性视为一个“已经解决的能力问题”和“尚未解决的判断问题”。他说：“如果你要求代理自主行动，它就会自主行动。真正的内部问题是：它应该这样做吗？”
安全审批：AI应用ROI的最大拦路虎
在加入Rubrik之前，Rishi是生成式AI基础设施初创公司Predibase的联合创始人兼CEO，直到Rubrik在2025年6月同意收购该公司。他曾在谷歌领导机器学习产品团队（后来成为Vertex AI），也是Kaggle的第一位产品经理。这种背景使他对AI应用的全链路痛点有深刻理解。
进入Rubrik的前三个半月，Rishi在客户群中安排了200场与IT和安全负责人的对话——他的客户覆盖了全球2000强企业。他一开始问的是开放式问题，涉及成本、延迟、性能和编排。结果出人意料：“相当一致地，我从所有对话中听到的是，所有这些都排在次要位置。主要挑战实际上是：如何从安全和风险的角度获得批准？我担心所有可能出错的事情。实际上，我觉得这是限制ROI的最大因素之一。”
这一发现与VentureBeat Pulse研究在Transform大会上展示的数据完全吻合：66%的企业已经允许或正在积极构建无需人工审核的生产部署，但只有5%完全信任用于做出决策的自动化评估。换句话说，企业愿意让AI自主，却不相信AI自己的判断。这种信任鸿沟直接导致AI投资的回报率被严重压缩。在AI赛道中，安全审批已经取代成本和性能，成为阻碍大规模部署的头号敌人。
Rishi指出，企业花在审批上的时间成本往往被低估。当每个代理动作都需要人类逐条确认时，效率损失呈指数级增长。更糟糕的是，这种“人工审核”本身充满了主观性和不一致性——同一个操作在不同时间、不同审批人那里可能得到完全不同的结论。这不仅是效率问题，更是风险管理问题。
SAGE：用AI法官替代人类审批的治理革命
Rubrik的解决方案名为SAGE（语义AI治理引擎，Semantic AI Governance Engine）。它不是一个简单的规则引擎，而是一个仲裁层，部署在Rubrik代理云中，能够实时观察AI代理的每一个动作，读取其背后的语义意图，然后根据用自然语言编写的政策裁定该动作是否允许。
Rishi说：“我们拿走了所谓‘人机协同’这个好主意，然后用‘AI in the loop’替代了它。”这一转变直接挑战了行业共识。安全负责人通常对非确定性系统（即AI输出不可预测的系统）感到不安，但Rishi认为，一个善于理解语言的模型，完全可以用来监管其他模型。SAGE就是这个信念的产物。
为什么传统的规则系统无法胜任？Rishi举了一个例子：一条内部规则规定“代理不得编辑Salesforce中的收入字段”。在传统工具中，这条规则根本无法执行，因为Salesforce并没有明确区分哪些字段属于“收入”。管理员只能退而求其次，手动批准每一个Salesforce操作。而SAGE通过读取意图，能够区分一个无害的查询和一个被禁止的编辑操作——它携带组织上下文，像一位真正的法官那样裁决。
这种“AI法官”的架构背后，是Rubrik对AI Agent技术的深刻理解。SAGE不是一个孤立的模型，而是一个基于参数高效微调（PEFT）的法官集合。Rubrik用共享的组织上下文对基础模型进行任务特定变体微调，形成多个专门法官：一个监控工具使用，一个监控数据访问，一个监控合规性……每个法官都专注于自己擅长的领域。
有趣的是，Rishi坦诚团队在解决这个问题时“带着很多天真和单纯”。他说：“我们是一群AI基础设施的人，却去解决安全工程师负责的问题。”但正是这种跨领域视角，让他们看到了用AI治理AI的可能性。
小模型大智慧：降低AI治理成本的秘密
任何AI治理方案如果带来高昂的额外成本，都将失去商业可行性。Rishi明确指出：“如果我告诉你，别担心，你会安全且受治理，但我会让你的成本和延迟翻倍，你肯定会让我滚出房间。”这正是SAGE设计的经济学逻辑。
SAGE运行在一个小型语言模型上，其成本和延迟都比前沿大模型低一个数量级。Rishi在大会上问观众：“过去一年有多少人担心过Token消耗？”一半的人举起了手。他开玩笑说：“我猜另一半只是懒得举手。”这个细节揭示了AI应用在落地时一个普遍但被忽视的痛点：成本敏感性。在AI投资决策中，安全治理不能成为成本倍增器。
小模型策略的核心在于“够用就好”。SAGE不需要具备生成创意文案或回答复杂问题的能力，它只需要准确判断代理动作是否违反政策。通过参数高效微调，Rubrik能够用较小的模型容量承载组织特有的政策语义，同时保持低延迟。这种“小而专”的路线与当前AI赛道中追求“大而全”的趋势形成了鲜明对比。
当然，小模型也有其局限性：它无法处理过于模糊或复杂的政策场景。Rubrik的内部政策中就有一条“代理应当尊重Rubrik的客户数据使用政策”，这是一份三页的法律文本。Rishi坦言：“我完全不知道如何把它写成一条规则。”对此，SAGE的做法不是强行编码规则，而是通过语义理解，将法律文本转化为可执行的判断边界。
从“人机协同”到“AI in the loop”：AI赛道的新变量
Rubrik的实践揭示了一个更大的行业趋势：AI应用正在从“人类辅助AI”转向“AI辅助AI”。传统的“人机协同”模式假设人类处于决策闭环中，但现实是，人类无法跟上AI代理的速度和规模。当AI代理的数量从几个增长到数千个时，人类审批者注定成为瓶颈。
“AI in the loop”的概念因此应运而生。它不是要完全取代人类，而是将人类从繁琐的逐条审批中解放出来，让人类专注于制定政策和处理异常情况。Rishi描述了一个典型场景：SAGE实时裁决操作，只有当遇到高风险或语义模糊的决策时，才将案例提交给人类管理员。这类似于自动驾驶中的分级控制——人类负责战略方向，AI负责战术执行。
这一转变对AI投资方向产生了深远影响。过去，企业AI投资主要集中在模型能力提升和算力基础设施建设上；现在，治理、安全和信任成为新的投资热点。Rubrik收购Predibase本身就是这一趋势的体现——一家数据安全公司收购AI基础设施公司，旨在构建原生AI治理能力。
对于普通用户而言，这一趋势也会悄然改变日常体验。例如，当你在使用AI画图工具生成图片时，背后的AI治理系统可能正在判断你的请求是否涉及版权问题或敏感内容。这种“AI法官”的存在，使得AI应用能够在保持开放性的同时，自动遵守规则。
企业AI投资的关键：如何信任非确定性系统
Rishi认为，目前企业AI投资面临的最大挑战不是技术，而是信任。他指出，66%的企业已经允许或正在构建零人工审核的生产部署，但只有5%完全信任自动化评估。这一数据意味着，绝大多数企业实际上是在“有风险地部署”，而不是“有信任地部署”。
这种信任缺失源于AI的非确定性本质。一个基于规则的确定性系统，输出是可预测的；而AI模型（尤其是大语言模型）的输出具有概率性，同样的输入可能得到不同的结果。安全负责人习惯了对确定性系统进行审计，而对非确定性系统缺乏有效的审计手段。
Rubrik的方法不是试图让AI变得确定，而是通过构建第二层判断系统来管理不确定性。SAGE作为“法官”，实际上是在不确定性之上叠加了一层确定性——它用组织政策作为参考系，将AI代理的“自由发挥”限制在预设的轨道内。
Rishi提出了一个反思性问题：“如果你要求代理自主行动，它会的。但真正的问题是：它应该这样做吗？”这个问题没有标准答案，它取决于企业对风险、效率和创新的权衡。在AI赛道，每家企业都需要找到自己的“信任阈值”。
从更宏观的视角看，Rubrik的案例表明，AI治理不是一座孤岛，而是与AI能力、成本、用户体验紧密交织的系统工程。那些能够率先建立“可信任自治”体系的企业，将在AI应用的红利中占据先机。而对于普通用户，也可以利用AI工具导航发现更多经过安全验证的AI应用，降低使用门槛。
最终，AI治理的未来可能不是“更严格的规则”，而是“更聪明的法官”。就像Rubrik正在做的那样，让AI成为AI的守护者。