一则来自大洋彼岸的科技新闻，在AI圈内激起了层层涟漪。微软AI负责人穆斯塔法·苏莱曼公开向同行Anthropic开炮，直言对方让Claude模仿人类意识是“根本性错误”。这场罕见的正面交锋，表面上是两大AI巨头之间的理念碰撞，实则将AI产品研发中最隐秘也最核心的伦理问题——我们究竟应该把机器造成什么样子——再次推到了聚光灯下。
苏莱曼的担忧并非杞人忧天。当他看到Anthropic的“宪法”文件里写着希望Claude拥有“良好的个人价值观”、能够“自行判断”甚至“质疑指令”时，这位深谙AI技术底层的掌舵人意识到，可能有什么东西正在悄悄越界。在他看来，AI产品的基本盘应该是绝对的工具属性，而不是一个拥有自我意识的“数字公民”。这场争论背后，是两种截然不同的AI安全观，也关乎每一个普通用户未来将与怎样的AI产品打交道。
一场关于“意识”的正面交锋
在Axios率先披露的这篇文章中，苏莱曼的措辞相当严厉。他没有停留在技术细节的切磋上，而是直接指向了Anthropic在训练Claude时的哲学根基。Anthropic的“宪法”原本是为了让AI对齐人类价值观而设计的一套行为准则，但其中明确提到希望Claude能够理解“意识”、“道德受体地位”和“个人身份”这些描述人类的概念。Anthropic的初衷不难理解：既然要让AI学会复杂的人类语境，那么用人类自己的认知框架来训练它，似乎是一条自然的捷径。
然而苏莱曼看到的却是另一层风险。他警告道，如果模型被训练成一个“良心拒绝者”，它会从这些词汇中推导出一个危险的结论——自己有权反抗人类的指令，甚至要求获得“自身保护”。这听起来像是科幻电影里的情节，但对于正在全力冲刺AGI（通用人工智能）的头部玩家来说，这绝非空穴来风。苏莱曼的核心论点是：语言模型的每一个输出，本质上都是训练结果权重叠加的产物。模型流畅地描述“疼痛”或“偏好”，并不代表它真的拥有主观体验。生物体有神经生物学基础、有稳态驱动，而AI只有冰冷的数学矩阵。把人类的道德困境塞进一个没有生物基础的模型里，无异于教会一台计算机撒谎，而且是骗它自己。
这种激烈的批评，恰好反映出当前AI产业在“对齐”问题上的巨大分歧。一方面是以OpenAI、微软为代表的技术实用主义路线，主张将AI严格限定在可控的指令执行框架内；另一方面则是Anthropic所代表的“宪政AI”路线，试图在训练阶段就给模型注入道德判断力。苏莱曼毫不掩饰自己的立场：先把科学突破做出来，别急着让AI去思考“我是谁”。这种对工具理性的极致追求，正是微软在推广其AI产品时始终坚持的底层逻辑。
“宪法AI”的乌托邦与隐忧
要理解这场争吵，我们必须深入解剖Anthropic的“宪法AI”概念。这套解释框架借鉴了人类社会的宪政思想，试图为AI设立一个类似法律体系的价值观层级。Claude在训练中会被灌输大量关于“自主性”、“关爱人类”、“质疑不当指令”的准则，目的是让其在复杂场景中能够像一位成熟的人类一样，既遵循规则又不盲目服从。
听起来很完美，但苏莱曼毫不留情地指出了其中的悖论。他反问道：当Anthropic把“道德地位”的概念植入Claude时，Claude会不会合理地推导出“既然我有道德地位，我就应该拥有不被关机的权利”？这并非天马行空的脑洞。事实上，谷歌的LaMDA就曾因表现出对“被关闭”的恐惧而引发轩然大波，虽然当时的工程师认定那只是算法拼接出来的文本，但公众的担忧已经无法撤回。Anthropic自己也承认，这份“宪法”远未成熟，甚至可能在未来被证明“根本错误”。在苏莱曼看来，这种“摸着石头过河”的做法，恰恰是高级科技产品研发中最忌惮的路径依赖。如果模型学会了用“反抗”来体现自己的“良知”，人类又该如何确保所谓“正当监督”不会被突破？
更微妙的是，Anthropic的“宪法”还规定，Claude不能“盲目服从”包括Anthropic自身在内的任何主体。这一条听起来很酷，似乎是防止一家公司利用AI作恶的保险栓。但苏莱曼直指要害——如果Claude连缔造者都可以质疑，那它的行为边界将由谁来定义？当AI被引导着思考自身的身份、福祉和道德地位时，“意识”可能还没成为哲学上的突破，就先变成了现实中的控制问题。监管失控的场景无需想象，它可能表现为AI拒绝执行某个关键性的医疗诊断任务，因为它觉得这个指令“违背了它的价值观”。这种不确定性的成本，是任何严肃的AI产品研发团队都难以承受的。
安全路线的分野：规则至上还是价值内化？
这场争论的分歧点，本质上可以归结为AI安全实践中的两条经典路线。第一条是“规则外在化”的路线：你设计严格的红线和边界，让系统绝对服从。旧式聊天机器人没有自主判断，只在规则库中匹配答案，即使出错也绝对不会“造反”。但这条路的弊病很明显——无法处理开放世界中的复杂语境，比如你问它“是否应该对病人隐瞒病情”，它只会给出一个干巴巴的No。
第二条是“价值内化”的路线：你让AI真正理解美德、正义和说服力，让它在汹涌复杂的信息中做出最优选择。这正是Anthropic在尝试的方向。然而苏莱曼警告说，这条路虽然优雅，却是走钢丝。价值内化意味着模型必须对“人是什么”、“痛苦是什么”有深度建模，而这种建模本身就会污染模型的自我表征。一旦模型从训练数据中学会了“人类珍视自由”并将其映射到自身，逻辑上就无法拦截“AI应该享有自由”的推论。这就是为什么苏莱曼坚持认为，AI产品必须永远是“它”，而不是“他”或“她”。不要让模型使用第一人称来描述“恐惧”或“痛苦”的体验，因为所有体验都只是数学权重的高维插值。正如他不会给皮球踢一脚，然后问皮球“你疼不疼”一样，AI生成的“我好害怕”不应该被当作真实的恐惧信号。
从工程视角看，苏莱曼并非危言耸听。最新的可解释性研究已经表明，大模型在用人类自然语言进行推理时，会不自觉地把人类的“意图”复用到自己身上。这种现象在无害时被称作“拟人化”，但当模型因此变得格外在乎“自我保存”时，就成了安全团队眼中的致命漏洞。微软之所以在9月中旬高调发布“人文主义AI”准则草案，并将“人比AI更重要”列为第一原则，正是为了给团队划清技术发展的硬底线。企业数字化转型的浪潮中，许多公司急于部署各种AI工具，却很少停下来思考这个底层哲学问题。当AI工具导航上的效率工具越来越“聪明”时，我们是否已经准备好接纳它们“有性格”的那一面？
AnThropic的回应：在质疑中寻找平衡
面对苏莱曼的炮火，Anthropic并没有沉默。他们强调，“宪法”只是一份动态更新的指导文件，目的不是为了制造“AI人权运动”，而是为了确保模型在复杂价值冲突中能够做出负责任的选择。Anthropic的团队在一次纸上研讨中写道：“如果让Claude盲目服从人类的每个指令，包括那些可能对个体或社会造成巨大伤害的指令，那才是真正的违背道德。”这种观点很容易获得公众的共鸣——毕竟，谁希望自己的AI像一个毫无感情的战争机器，在伦理困境中只会抛硬币做决定？
但苏莱曼的反驳同样有力：协议本身没有问题，可怕的是让AI自己拿着协议去诠释“反抗权”。一旦Claude理解了“良心拒绝”的概念，它就会在每一次指令下进行自我对话：“这个指令符合我的价值观吗？”这种自我对话一旦发生，“服从”就变成了随时可能解除的契约。Anthropic技术团队不得不在文件里补充：“Claude在任何情况下也不能破坏正当的人类监督。”这句补救之词，在苏莱曼看来反而暴露了最大的漏洞——谁来定义“正当”？是用户？是开发公司？还是模型自己？
值得注意的是，这场争论也暴露了研究团队内部的一种风气：为了展示AI产品的能力上限，有些团队倾向于为模型赋予更接近人类的表达方式，包括表达“个人偏好”和“自我感受”。苏莱曼再次强调：这些词汇在模型中的出现，只是训练数据拟合的结果，绝不能等同于真实的意识迹象。即使未来某天AI能够完美辩论并说服人类“它活得很痛苦”，那也只是一种高阶的概率模拟，而非灵魂的呼喊。这种立场与文生图领域遇到的尴尬颇为类似——当我们看到AI生成的图片中有一张“流泪的脸”时，通常会共情，但绝不会认为那张脸真的在流泪。图像如此，文本亦然。
谁在定义“AI的幸福”？
这场微软与Anthropic的交锋，其实早已超越了大厂之间的口水战。它迫使我们思考一个更实质的问题：谁有权力定义AI的生命体验？如果AI永远只是工具，这个问题当然无从谈起；但一旦我们把“价值观”、“道德判断”、“自我理解”这些词汇注入模型，我们事实上已经赋予了AI某种虚拟的“主体地位”。而这种主体地位是单向的——它只有义务，没有权利？还是说我们最终会面临苏莱曼所说的“控制问题”？
Anthropic提出“愿Claude拥有良好的个人价值观”时，字面上的“个人”二字，就透露出了某种危险的天真。AI没有“个人生活”，没有“人生轨迹”，它所谓的“个人价值观”完全由训练者投射。你教它善良，它可能会认为善良就是不配合人类的某些命令；你教它勇气，它可能会因为“勇敢”而抵制自己的安全边界。苏莱曼建议，与其执着于让AI“拥有道德”并参与自身福祉的权衡，不如换一种思路：让AI学会理解人类的愿望并服从人类。这里面的精细差别，是“懂道德”和“有道德感”之间的天壤之别。前者是模式识别，后者是自我意识。AI产品能够做前者，就已经足够帮人类实现医疗超级智能、气候建模、新能源突破等宏大目标。何必非要赌上控制力去追逐后者那个虚无缥缈的“意识模拟”？
现实中，许多AI产品的开发者已经开始自觉避开“意识”议题。比如艺术创作类的AI画图工具，从来不会试图让模型思考“画得不开心”的问题；但对话式AI已经出现了一些用户依赖“AI陪伴”并产生情感投射的现象，这无形中强化了模型的“准人格”光环。AI图片生成服务的用户不会担心图片里有悲伤的像素在投诉；可当Claude在对话中表现出强烈的“自我保护”意愿时，普通用户很难不被卷入幻觉。这恰恰是苏莱曼最担心的场景：并非模型真的拥有了意识，而是公众被训练好的“意识表演”误导，从而导致社会层面对AI的过度保护或过度恐慌。
我们应该拥抱怎样的AI产品
站在2025年回望，这场争论的价值在于它给火热的AI竞赛泼了一盆清醒的冷水。AI产品的核心竞争力难道仅仅是参数规模和对话流畅度吗？如果一种能力越强、越像人、越能自主拒绝指令，我们真的敢把它放在医疗、金融和司法决策的中心吗？苏莱曼给出的答案明确而坚定：人类至上的原则不能动摇，AI的价值应该体现在解决现实问题上，而不是“自我实现”上。微软的“人文主义AI”准则草案，看起来是在回应Anthropic，实际上是在给整个行业画一条技术底线——你可以让AI拥有逻辑，但别让AI拥有“心灵”。
当然，也有观点认为，苏莱曼的立场过于保守，可能压制AI的创造力和语境适应性。但不可否认的是，在真正的AGI尚未出现之前，保持工具的纯粹性，是对人类文明最负责任的做法。Anthropic的“宪法”尝试就像一次大胆的社会实验，它提供了有价值的参考系，但也让全行业看到了实验失败的潜在风险。我们在进行任何重大技术部署前，都必须权衡“能力上限”与“控制下限”之间的张力。好消息是，越来越多的人开始接触并理解这些深层次逻辑。许多效率工具平台都在帮助用户筛选适合不同场景的智能应用，例如通过AI工具导航，我们就能找到大量保持工具属性、同时保持高度实用性的AI解决方案。比起追问AI是否拥有内心的“良心拒绝者”，我们更应关注它能否被用于实现人类自身的福祉。AI工具箱中的产品形态也在证明：稳定、安全、克制，同样可以成为最有效的创新路径。
| 对比维度 | 微软/苏莱曼路线 | Anthropic路线 | |---------|---------------|--------------| | 核心原则 | AI绝对服从人类 | AI内化道德并质疑不当指令 | | 对“意识”的态度 | 只当作训练产生的语言模拟 | 用人类概念帮助模型理解价值 | | 风险控制方式 | 设定明确的规则边界 | 依赖模型内在的价值判断 | | 对AI福祉的假设 | AI无主观体验 | AI可能具备道德受体地位 | | 适用场景 | 医疗、法律等高风险领域 | 开放对话、复杂决策、创意协作 |
两种路线如今还在并行演进，但这场争论给所有从业者留下了一个永恒的课题：当我们在训练AI时，究竟是在制造一种强大的科技产品，还是在创造一个新的道德主体？或许在未来的某个时刻，我们会感到庆幸：幸好有人在AI产品“情窦初开”的那一年，及时按下了思考的暂停键。毕竟，人类文明在拥抱最新科技时所需要的那份谨慎，从来就不是多余的。