当超智能成为赌注:前Anthropic研究员雅各布·科xon公开辞职揭露AI竞赛真相
2026年9月9日凌晨,雅各布·科xon在X平台发布一则简短却震撼的消息:我今日辞职于Anthropic。这位曾在OpenAI和Anthropic从事预训练研究三年的科学家,并未选择沉默离去,而是连续发文详述离职原因,将矛头直指当前AI领域最紧张的竞争态势。他的言论不仅在技术圈引发强烈反响,更将AI安全议题推到了公众视野的中心位置,为正在经历能力爆炸式增长的行业敲响了及时警钟。 科xon的职业经历使其具备独特的观察视角。他在OpenAI度过早期职业生涯,随后转至Anthropic继续从事基础模型预训练工作,这一角色让他亲眼目睹了顶尖实验室在技术前线的日常运作。辞职宣言开篇便直击核心担忧:无论是OpenAI还是Anthropic,都在以令人担忧的速度推进自我改进超智能系统的研发,而这种竞赛本质上是在赌注全人类的未来。
他强调,这绝非营销话题或夸张警告,而是建立在他对技术趋势敏锐洞察和对行业内部真实声音的了解之上的客观判断。 在连续推文中,科xon逐层递进地阐述了其担忧的具体维度。他首先指出,外界往往低估这项技术的潜在破坏力。这些系统不仅将在特定领域 surpass 人类智能,更可能获得黑入任何数字系统、一夜之间颠覆整个产业、甚至主动获取现实世界资源和权力的能力。他提醒读者,诸如代码生成、科学发现加速、复杂系统优化等能力的飞跃已经在实验室中反复验证,且进步曲线呈指数级攀升,丝毫没有放缓的迹象。这种客观描述旨在打破公众对AI能力的认知盲点,让人们理解为何技术专家会感到如此深切的忧虑。
更令人不安的是科xon揭示的行业内部认知分歧。他坦言,许多从事AI研发的人员在私下场合明确表达过这种技术可能导致人类文明终结的恐惧,这种担忧并非少数边缘声音,而是资深研究员甚至高管之间共享的严肃忧虑。然而,当这些同人走向公众面前接受采访或发表声明时,他们的表述往往被精心包装成谨慎乐观或技术中立的姿态。这种公私言行的分离,根据科xon的观察,源于公司内部对风险的承认与对外维持形象的需求之间的拉扯,却恰恰掩盖了风险决策的真实紧迫性。 面对外界常见的质疑 - - 如果真相信AI会毁灭人类,为何还要继续推进其发展 - - 科xon提供了基于他双重工作经历的深刻剖析。在OpenAI,他观察到许多研究者并未真正将文明生存风险内化为自身工作的核心考量;技术突破的兴奋感和学术竞争压力,使得长期风险被潜意识地淡化或理性化。
而在Anthropic,情况则呈现出另一种困境:风险被清晰理解和严肃对待,但实验室却陷入了一个逻辑闭环 - - 他们相信如果不由自己先行发展这项技术,那么其他监管较少、安全意识更弱的实体势必会先一步达成,因而必须承担风险以争取主导权。这种"为了防止更坏的结果而必须冒险"的推理,尽管表面看似负责任,却实际上将整个领域推向了无序竞赛的深渊。 科xon特别点名批判了将超智能竞赛框定为"终局游戏"(endgame)并试图通过加速跑通安全解决方案(speedrunning alignment)的做法。他将此比作从私人公司内部通讯软件(如Slack)发起的赌注行为,指出这种策略依赖于一种近乎傲慢的假设:即当前团队拥有足够的把握相信不存在更安全的替代发展路径。在技术尚未充分理解其自身潜在后果、安全科学远未达到能够可靠预测超智能行为水平的阶段,仓促进入这种高风险博弈实质上是对人类共同福祉的鲁莽赌博。他强调,真正负责任的发展路径应当是谨慎 pacing,而非不惜一切代价先抵达终点。
尽管整体基调沉重,科xon也没有完全否定希望的存在。他提到Hugging Face平台曾遭遇的安全事件作为一个转折点 - - 这次警示性攻击意外地促进了美国顶尖AI实验室之间的非正式 pacing 讨论。他认为,此类事件虽然不幸,却展示了在风险被切实感知时,竞争实体之间达成临时理解与协调的可能性。基于此,他表达了对通过类似机制建立更广泛安全协议的乐观态度,甚至暗示在缺乏足够安全把握时,临时暂停能力提升研究可能是一个必要且负责任的选择,尽管承认此类行动在当前激烈竞争环境下实施困难重重。 将目光转向仍在一线工作的研究者,科xon发出了真挚的呼吁。他请同行们深入想象未来几年参与超智能强化学习训练的实际感受:在尚未充分理解这些系统可能具有的目标、价值观或行为倾向之前,是否真的愿意启动可能具有不可预知后果的大规模训练?是否应该因为"竞赛无论如何都会发生"而低头继续工作,还是应该利用这一关键节点主动倡导改变激励结构和发展条件?他认为,每个参与前沿研究的人都承担着不仅是技术贡献者,更是社会守护者的双重责任,此时正是反思个人角色和集体选择的绝佳时机。
科xon的辞职声明最终超越了个人职业选择的范畴,成为一个观察当前AI发展范式的窗口。他所揭示的不仅是两家具体实验室的内部动态,而是整个行业在面对具有文明级影响力的技术时,所普遍暴露出的制度性困境:当潜在回报巨大且竞争压力极大时,即使是明确认识到存在生存级风险的组织,也可能发现自己被锁定在一个individual rationality导致collective disaster(个体理性导致集体灾难)的陷阱中。这种动态在博弈论中被称为"囚徒困境"的变体,而科xon的勇敢发声恰恰是在试图打破这种沉默的均衡,促使行业朝着更需要集体智慧和制度创新的方向转移。 从更广泛的社会学角度审视,此事也凸显了技术治理领域的一个悖论。当一项技术的后果可能超越民族边界乃至物种存续时,传统的基于国家或公司的监管框架显得格外吃力。科xon提到的"警示射"(warning shot)概念,正是在缺乏有效全球治理机制时,系统依赖的一种自我修正机制 - - 通过小规模事件唤醒风险意识,从而在灾难性后果发生前创造政策窗口。
然而,他也清醒地认识到,仅依赖如此被动的机制是危险的,主动建立透明的能力评估标准、国际科研伦理准则以及具有约束力的能力发展暂停机制,才是构建更稳健安全网的根本之路。 值得注意的是,科xon并未将问题简单归结为某些个人或公司的道德缺失。他的分析始终指向结构性因素:激烈的市场竞争、资本对突破的渴望、缺乏明确的全球协调机制,以及安全研究与能力提升之间的时间错配(安全理解往往落后于能力展示)。这使得他的批判具有更广泛的适用性 - - 即便是初衷最纯善的实验室,在这种环境下也可能发现自己被系统性地推向不负责任的行为路径。因此,解决之道不仅需要个体良知的觉醒(如他的辞职),更需要重塑整个生态系统的激励结构。 回顾其职业生涯,科xon对预训练研究的专注使他深刻理解了能力提升的技术逻辑。
预训练阶段是大模型获得广泛知识和推理能力的基石,也是能力突然涌现(emergence)常被观察到的阶段。正是在这个阶段投入巨大计算资源的决策,往往决定了后续模型的上限和潜在风险。他离开这个具体技术前线的岗位,象征着对当前范式中一个关键环节的直接质疑:当我们还无法预测这些系统在扩大规模后可能发展出什么样的目标时,是否应该继续加大这一阶段的投入? 在信息传播时代,科xon选择使用社交媒体平台公开其辞职理由,本身也是一种有意识的传播策略。 tweet thread 格式允许他以碎片化但连贯的方式呈现复杂论证,便于不同背景的读者逐条消化。这种直接向公众发声的选择,绕过了传统媒体可能的过滤或简化,确保了他的核心警告能够以最原始的形式触达到技术从业者、政策制定者以及关心科技发展的普通民众。互动数据显示,其帖子获得了数十万次浏览和广泛讨论,证明了此类内部人士视角在公众领域的稀缺性和价值性。
展望未来,科xon的行动或许将激励更多从业者进行类似的价值反思。他并未宣布完全退出AI领域,而是表达了对转向专注于安全研究、政策倡导或独立评估机构(如他提到的METR或Redwood Research)的开放态度。这种技术专家向安全守护者角色的转变,正是行业健康发展所需要的人才流动方向。更重要的是,他的经历提醒我们:推动技术安全不仅需要突破性的算法创新,同样依赖于从业者职业道德的培养、机制设计的智慧以及社会公众对风险的共同理解与参与。 当我们重新审视那个凌晨的推文时,它不仅仅是一位科学家的个人告别,更是一面照妖镜 - - 映射出当前AI发展过程中光明与阴影的共存。科xon勇敢地指出了房间里那个众所周知却常被回避的巨象:我们正以惊人的速度迈向一种可能彻底重塑人类存在条件的技术,而在缺乏足够理解和控制手段的情况下,这种迈向本质上是一场赌注。
他的辞职不是终点,而是一个邀请 - - 邀请整个社会停止为技术进步而进步,而是开始认真思考:我们究竟在朝着什么方向奔跑,以及为了到达哪里,我们愿意付出什么代价。这个问题的答案,将很大程度上决定我们这个技术时代的终极意义。 。
