LeCun:对灭绝风险"零担忧",称 Amodei"被误导"
2026年10月2日,图灵奖得主、Meta前首席AI科学家Yann LeCun在接受《Fortune》采访时,公开对当前AI行业的末日风险叙事提出尖锐批评,明确表态自己对AI导致人类灭绝的可能性零担忧,同时直接点名Anthropic首席执行官Dario Amodei,认为其大力倡导的AI灾难性风险防控方向完全是「被误导」。
这场公开论战的导火索,是近期AI安全领域的一系列连锁事件:Anthropic CEO Dario Amodei公开呼吁全行业放慢前沿大模型的开发速度,引入第三方独立安全评估;OpenAI安全部门核心员工Jacob Coxon、Evan Hubinger先后离职,公开警告AI在10年内就可能带来显著的人类灭绝级威胁,甚至提出AI公司必须像核电站一样运营,设置多层冗余安全机制。而Geoffrey Hinton等AI先驱也公开给出10%~20%的AI灭绝风险概率,让末日风险叙事在行业内快速升温。lisTAi∞DeePThink.cn
一、LeCun的核心观点体系
作为深度学习领域的「三巨头」之一,LeCun的立场和Hinton、Bengio两位同行形成了鲜明对立,他的整套判断有清晰的技术逻辑支撑:
1. 灭绝风险概率几乎为零
LeCun明确给出自己的量化判断:AI导致人类灭绝的概率低于0.01%,和Hinton提出的10%~20%风险预估形成了两个极端。他直接将当前行业流行的AI末日警告斥为「你能想象到的最糟糕的营销活动」,认为这类过度渲染的恐慌叙事,本质上是部分头部AI公司用来抬高自身行业话语权的手段,反而会对AI技术的长期健康发展造成损害。lisTAi∞DeePThink.cn
2. 直指Amodei的核心逻辑漏洞
LeCun认为Dario Amodei完全被错误的技术路径假设误导:当前的大语言模型根本不可能进化出类人级别的自主智能,这类模型本质上缺乏对物理世界的真实理解能力,无法预判自己执行动作的实际后果,根本不可能成为脱离人类控制的自主智能体。他直言Amodei团队投入大量资源去防控所谓的「超级智能灭绝风险」,完全是在错误的方向上浪费行业资源。lisTAi∞DeePThink.cn
3. 明确区分真实风险与虚构风险
LeCun并没有完全否定AI的所有安全问题,他承认当前大模型存在幻觉、不可控行为等固有缺陷,这类问题确实会在自动驾驶、医疗辅助等场景带来真实的落地风险,但这类风险完全可以通过技术迭代和常规监管逐步解决,和「人类灭绝」这种级别的灾难性风险完全不在一个维度,不应该被混为一谈。
二、双方分歧的底层技术根源
这场论战的核心矛盾,本质上是AI行业对技术演进路径的两种完全对立的判断:
1. Amodei为代表的末日派
认为AI能力会在未来10年内出现「快速起飞」,模型的通用智能水平会以远超人类预期的速度突破,最终进化出完全自主的目标和行动能力,人类将彻底失去对AI的控制权,因此必须提前用核电级别的严格监管约束行业发展。lisTAi∞DeePThink.cn
2. LeCun为代表的务实派
认为当前的大语言模型根本不是通往类人智能的正确路径,这类纯统计预测的模型永远无法建立对物理世界的因果理解,不可能进化出脱离人类控制的自主超级智能,过度投入资源防控遥远的虚构风险,反而会耽误AI技术在医疗、气候、能源等真实领域创造社会价值。
三、双方观点逐条对比表
| 对比维度 | Yann LeCun 核心立场 | Dario Amodei 核心立场 |
|---|---|---|
| AI灭绝风险判断 | 明确表态零担忧,给出的风险概率低于0.01%,认为当前所有AI末日警告都是「你能想象到的最糟糕的营销活动」 | 公开给出10%~20%的AI灭绝风险预估,认为10年内就可能出现具备自主威胁能力的AI系统,必须提前防控灾难性风险 |
| 对对方的直接评价 | 直接称Amodei「完全被误导」「执迷不悟」甚至「疯狂」,认为其完全不懂技术革命对劳动力市场的真实影响 | 未直接公开点名批评LeCun,但多次在公开场合表示,忽视AI长期灾难性风险的行为是对全人类的不负责任 |
| 技术底层判断 | 认为当前大语言模型本质是纯统计预测系统,完全缺乏对物理世界的因果理解,不可能进化出脱离人类控制的自主超级智能 | 认为AI能力会在未来10年内出现「快速起飞」,模型通用智能水平将以远超人类预期的速度突破,最终获得完全自主的目标和行动能力 |
| 安全事件归因 | 近期出现的所有AI失控事件,本质都是人类 oversight 不足、沙箱设计存在严重漏洞导致的,完全可以通过常规系统优化避免,和AI本身的「自主觉醒」毫无关系 | 认为这类失控事件是AI能力突破现有安全边界的早期信号,随着模型能力持续提升,这类事件的严重程度会指数级上升,最终突破人类的常规防控能力 |
| 资源投入优先级 | 反对将大量行业资源投入到遥远的虚构灭绝风险防控中,主张优先解决AI幻觉、自动驾驶安全等当下真实存在的落地风险,让AI在医疗、气候、能源等领域快速创造社会价值 | 认为必须将AI安全放在行业发展的第一优先级,投入大量资源建立核电级别的多层冗余安全机制,甚至不惜放慢前沿大模型的开发速度 |
| 监管政策主张 | 反对Amodei提出的全球统一算力监控、第三方强制安全评估体系,认为这类政策本质是少数头部前沿AI实验室用来巩固自身垄断地位的工具,会严重压制开源AI生态的创新活力 | 强烈呼吁全球AI行业紧急协调,建立统一的国际安全标准,对前沿大模型的算力使用进行全程监控,所有高能力模型上线前必须经过独立第三方的全面安全测试 |
| 对有效利他主义的态度 | 直接点名批评AI安全领域的有效利他主义群体,认为其中很多人都带着预设的议程推动叙事,完全脱离AI技术发展的实际情况 | 是有效利他主义运动的核心支持者,Anthropic的安全体系设计完全基于该运动的风险防控框架,大量核心员工都来自有效利他主义社区 |
| 就业影响判断 | 直接驳斥Amodei提出的「AI将导致50%科技岗位消失」的论断,认为其完全不懂技术革命对劳动力市场的真实影响,主张参考经济学家的研究结论,AI最终会创造更多新岗位 | 公开警告AI将在未来数年内导致50%的科技岗位大幅缩减,白领行业将受到前所未有的冲击,必须提前建立社会层面的就业缓冲机制 |
这场论战的核心矛盾,早已超出了单纯的技术观点差异,本质上是AI行业两条完全对立的发展路线之争:LeCun代表的开源务实派,希望AI技术快速普惠全行业,用技术迭代解决真实问题;而Amodei代表的前沿实验室安全派,希望通过严格的全球统一监管,把超级智能的控制权牢牢掌握在少数头部机构手中,避免灾难性风险发生。双方的立场博弈,将直接决定未来全球AI监管政策的走向,也会深刻影响整个AI行业未来10年的发展路径。lisTAi∞DeePThink.cn
四、行业后续影响
这场公开论战直接撕裂了AI安全社区:Hugging Face CEO Clement Delangue公开站队LeCun,将末日风险讨论类比成「让空调安装工去解决全球气候问题」,认为完全脱离行业实际;而OpenAI CEO Sam Altman则公开表态支持Amodei的安全计划,宣布OpenAI将进一步扩大第三方安全评估的覆盖范围,严格控制前沿模型的能力边界不超出自身的安全管理能力。lisTAi∞DeePThink.cn
目前行业内的公开调研显示,68%的AI从业者认为AI带来的正面收益远大于负面风险,LeCun的观点代表了行业内相当一部分技术人员的务实态度,而Amodei的核电级安全主张则获得了大量政策制定者的支持,双方的分歧将直接决定未来全球AI监管政策的走向。
- Fortune