在人工智能飞速迭代的当下，围绕AI风险的舆论场似乎越来越像"科幻片现场"。然而，联合国下属AI科学专家组的一批顶尖科学家近日集体发声：与其将智能工具妖魔化为"终结者"，不如用严谨的科学态度和全球视野来审视其真实影响。
末日论调为何在AI圈"刷屏"？
过去几个月，所谓"AI即将毁灭全人类"的论调在硅谷和社交网络上愈演愈烈。曾在Anthropic和OpenAI工作过的雅各布·考克森公开宣称，这项技术"有可能在本十年结束之前毁灭全人类"；另有一位刚从谷歌DeepMind离职的工程师也发出类似警告，认为人类恐怕来不及避免被AI彻底消灭。这些言论借助算法推荐迅速扩散，让不少普通用户感到不安。
为什么这种极端论调会如此有市场？从心理学上讲，人类在面对未知时，往往倾向于用最坏的剧本填补认知空白。AI的"黑箱"属性、加速迭代的算力、以及科幻电影长期培养的"机器反叛"意象，都让"AI毁灭论"成为最容易传播的叙事。尤其是在最新科技浪潮中，大型语言模型和多模态系统的能力超出常人预期，恐惧被进一步放大。
但专家们指出，这种末日式恐慌恰恰偏离了科学精神。谷歌DeepMind高管若埃尔·巴拉尔直言："身为科研工作者，我们应当投入精力开展科学研究，厘清哪些内容已有定论、哪些尚且属于未知。一味渲染恐惧并无益处。"在她看来，公众把注意力集中在虚构的"灭世场景"上，反而会忽略那些已经出现且可被修正的问题，比如算法偏见、隐私侵蚀和信息操纵。
实际上，智能工具的每一次突破都会伴随社会焦虑，这不是新鲜事。从蒸汽机到核技术，人类一直在"恐惧"与"拥抱"之间摇摆。但真正的风险往往不是技术本身，而是我们如何管理和使用它。与其沉迷于末日预言，不如把精力转向如何设计更安全、更透明的系统，这恰恰是AI Agent技术发展的核心议题。
科学家反驳：恐惧不是生产力
在纽约联合国大会期间举办的一场边会上，诺贝尔和平奖得主、调查记者玛丽亚·雷萨直言，当前关于AI风险的讨论已经"走向两个极端"：要么渲染生存威胁，宣称一切都会毁灭，杀手机器人即将降临；要么干脆认为AI风险无足轻重。她说："但真相远比这更加微妙和复杂。我们不应当把这套讨论演变为意识形态之争，而当下这场争论恰恰正在滑向这个方向。"
这种两极化恰恰是科学家最不愿意看到的。国际AI科学专家组联合主席、被誉为"AI奠基人之一"的约书亚·本吉奥强调，高声疾呼和肆意渲染问题的后果是——"其他人同样可以用同样激烈的方式反方向发声"，最终导致公共讨论沦为情绪对撞，而真正需要关注的科学事实和风险分级却被淹没。
值得注意的的是，反对末日论并不等于否定风险。专家们真正反对的是"把所有问题都装进一个恐怖故事"。因为一旦公众对某个话题产生极端印象，就很难再回来理解细致入微的论证。而AI风险恰恰是一个需要分门别类讨论的议题：有些风险已经发生，有些风险是合理推演，有些风险则仍停留在哲学幻想。
科学界更愿意承认不确定性，而不是用确定性语气宣判末日。这种严谨态度，恰恰是智能工具研发者最需要的基本素养。事实上，从实际落地的角度看，AI带来的就业结构调整、生成内容造假、算法歧视等问题，远比"天网"来得现实且紧迫。若想寻找有效的治理工具，不妨从AI工具导航中看到更多应用层面的真实挑战——那里没有末日，但有无数需要打磨的细节。
话语转向：从"生存威胁"到"现实风险"
玛丽亚·雷萨提出的"话语转向"具有深刻意义。长期以来，AI风险讨论被锁定在两极：一边是高呼"人类灭亡"的硅谷末日派，另一边是觉得"一切尽在掌握"的乐观派。这两种声音都遮蔽了当下最值得关注的问题——AI在现实社会中造成的具体伤害。
例如，深度伪造技术已经开始干扰选举、损害个人名誉，而现有的法律和平台治理机制却难以快速响应。算法推荐系统加剧信息茧房，促成极端观点对立。自动驾驶事故的责任认定至今仍是一笔糊涂账。这些都是"科技产品"在真实使用场景中暴露出的风险，它们不酷、也不那么戏剧化，却直接影响每个人的生活。
为什么我们需要把讨论焦点从"生存威胁"移向"现实风险"？因为只有后者才是可干预、可治理、可评估的。生存威胁往往建立在超长期预测和极端假设上，很难用实证方法加以验证；而现实风险可以通过数据监测、案例审计和应用反馈来识别，并推动相应法规和行业标准的完善。
以AI画图工具为例——它既展现出惊人的创造力，让普通人也能轻松生成视觉作品；同时也引发关于版权、深度伪造和虚假信息传播的争议。如果只讨论"AI会不会毁灭人类"，我们会完全忽略这些正在发生的矛盾。真正的智能工具治理，应当像管理药物一样，既看到疗效，也追踪副作用，再根据数据调整监管策略，而不是在"万能神药"和"致命毒药"之间二选一。
科学边界：已知、未知与合理的推测
约书亚·本吉奥提出一个关键方法论：必须划清界限——分清哪些是科学家已经掌握的AI风险事实，哪些仅仅是基于现有证据做出的合理外推；而在后一块领域，专家群体本身尚且存在分歧。这个"已知-未知"框架，是摆脱末日论和乐观病的最有力武器。
目前，科学界对AI风险有哪些"已知"？至少包括：大型模型可能给出偏见性答案，可能在敏感领域产生幻觉，可能被用于生成诈骗信息，也可能在自动化决策中造成群体歧视。这些证据来自大量学术论文和公开测试，是有共识的。
而"未知"领域则很宽泛：超级智能是否会涌现自我意识？AI是否会在没有人类指令的情况下产生不可控行为？这些问题至今没有任何实验证据支持，只能算是合理外推或干脆是猜测。本吉奥指出，专家群体在这些衍生风险面前也存在严重分歧——有人高度警惕，有人觉得不足为虑。但无论哪种立场，都不应用"末日"或"天堂"的标签来包装。
更值得关注的是，当讨论跨越边境和意识形态时，这种划界工作变得更加困难。联合国设立国际AI科学专家组的目的，正是要建立一个相对客观、基于实证的对话平台，让各国科学家能够分享研究发现，共同评估风险等级。与此同时，业界也应当公开更多关于模型训练和安全评估的数据，否则外界只能靠臆测填补信息鸿沟。就像理解大模型训练的复杂过程一样，我们需要“打开黑箱”的勇气，而不是站在箱外夸夸其谈。
全球AI治理：联合国的角色与挑战
国际AI科学专家组设立于2025年，小组成员在2026年2月遴选完成。该小组的任务是深化科学界对人工智能的认知，同时为联合国层面的议事磋商提供参考意见。它的诞生本身，就象征着全球治理从“愿景”迈入“建制”阶段。
不过，全球AI治理面临的结构性阻力不容小觑。首先，技术发展的不平衡导致各国优先事项不同——发达国家更关注伦理和垄断，发展中国家更关心技术鸿沟和经济利益。其次，AI具有天然的跨域属性，数据可以瞬间穿越边境，而监管却依然以国家为单位，形成“火车头跑在前面、车尾还在站台”的错位。
联合国框架虽然拥有合法性，但缺乏强制力。专家组的报告至多作为建议，能否化为各国国内立法，仍取决于政治意志。正因如此，本吉奥强调需要“全球性的理性对话”，而不是把AI问题当成意识形态对立的筹码。雷萨也警告，如果讨论演变为“东西方之争”或“个人主义vs集体主义”的站队游戏，那么真正的受害者是科学精神和公共利益。
对于企业和产业而言，这意味着必须主动参与治理对话。一个明智的商业组织，应该将伦理评估纳入产品研发全流程，而不是等到丑闻爆发后再补救。企业数字化转型的成功案例已经证明，那些在数据合规、算法透明度方面投入较多的企业，长期来看反而更容易获得用户信任和可持续增长。智能工具的治理不是负担，而是打造高质量“科技产品”的必要环节。
智能工具的未来：理性与人文并重
回到最初的问题：我们应当如何看待AI？答案既不是顶礼膜拜，也不是转身逃离，而是以主人翁的心态去设计、使用和约束这些工具。智能工具不是天生带有神性或魔性的超自然存在，它是人类智慧的延伸，其价值完全取决于我们注入的意图和制度。
在日常生活和创意生产中，AI已经带来了实实在在的便利。比如抠图可以把繁琐的图片处理工作压缩到几秒钟，让设计师专注于更有创造性的决策；AI诗词能帮助文学爱好者快速试验不同格律，激发创作灵感。这些看似微小的应用，才是“最新科技”融入大众生活的真实形态。它们不惊悚，也不平庸，而是展示出智能工具作为“协作伙伴”的本质。
当然，我们不能因为眼前的便利就放弃警惕。理性的态度包含两方面：一方面，要持续投入基础研究和安全评估，探索AI能力的边界和可能出现的涌现行为；另一方面，要为每一种具体的科技产品划清责任主体——无论算法多么复杂，总要对人类社会负责。
联合国的专家们已经给出了方向：开展科学研究，厘清已知与未知，进行全球性理性对话。作为普通读者和用户，我们同样可以贡献一份力量，即保持求知欲和批判性思维。当有人高喊“AI即将毁灭人类”时，不妨追问一句：“证据是什么？”当有人鼓吹“AI无所不能”时，也不妨反问一句：“代价由谁承担？”
智能工具的未来不是由预言家书写，而是由工程师、用户、政策制定者和公民共同书写。在最新科技不断刷新认知的今天，我们更需要这种务实的、充满人文温度的对话空间。