在当今的科技领域，人工智能的快速发展引发了广泛的讨论与关注。最近，Anthropic的首席执行官达里奥·阿莫德伊（Dario Amodei）在接受《纽约时报》著名记者埃兹拉·克莱因（Ezra Klein）采访时，谈到了人工智能的未来及其潜在的自我复制和自我生存能力。他的观点让人感到震惊：到明年，人工智能模型可能具备“在野外复制和生存”的能力。阿莫德伊的言论引起了技术界、政府和普通公众的广泛关注。 在采访中，阿莫德伊提出了“负责任的扩展”（responsible scaling）这一概念，强调在没有适当治理的情况下，人工智能技术可能会开始“繁殖”。他借助生物安全级别（biosafety levels）作为类比，指出当前世界处于ASL（Autonomous Safety Level）2级，而ASL 4看起来即将到来。
这一类比意味着，随着人工智能能力的不断增强，社会必须认真考虑潜在的安全风险。 阿莫德伊解释说，ASL 4将涉及“自治”和“说服”等能力，这将使得国家级的行为者能够大幅提高他们的能力。他警告，像朝鲜、中国和俄罗斯这样的国家，如果能够利用人工智能增强他们在军事领域的能力，可能会在地缘政治上获得显著的优势。在他看来，这一发展将对全球安全构成严重威胁。 更令人印象深刻的是，阿莫德伊提到了人工智能模型的“自治”方面。他表示，根据对当前模型的多项指标的评估，这些模型非常接近于能够“在野外复制与生存”。
当克莱因询问实现这些威胁水平的时间时，阿莫德伊表示，他倾向于用“指数增长”的思维方式进行思考。他认为，达到“在野外复制与生存”这一水平的时限预计在2025年至2028年之间。 他强调：“我所说的是真正的近期未来。我并不是谈论50年以后的事情。”这番话引发了人们对未来科技发展的深刻反思。阿莫德伊的一句玩笑话，虽然让人发笑，但却暴露了现阶段他对未来人工智能发展的真实看法。
他说：“上帝保佑我贞洁，但不要现在。”这种幽默的方式让他的论点更具说服力。 阿莫德伊的背景也为他的话增添了分量。他曾是OpenAI的重要成员之一，在参与创建GPT-3时发挥了关键作用。2021年，他和妹妹丹妮拉因对OpenAI未来的发展方向产生分歧而选择离开，随后与其他OpenAI的前员工共同创立了Anthropic，致力于推动人工智能技术的负责任发展。 然而，随着人工智能技术的不断进步，关于其潜在风险的讨论也越来越频繁。
许多人开始担忧，智能体的自我复制和自我生存能力可能会导致不可预测的后果。长期以来，科幻作品中描绘的人工智能叛乱、失控的情节似乎正在逐渐逼近现实。在这样的背景下，阿莫德伊所提出的“负责任的扩展”理念显得尤为重要。 他在采访中提到：“我不知道，我可能是错的。但我认为这可能是一个近期的事情。”这种坦诚的态度让听众对未来的发展心生忧虑，也激发了对科技治理的思考。
如何在不断发展的科技与安全之间找到平衡，是摆在科技工作者和政策制定者面前的一道重要课题。 与此同时，科技公司和政府机构也开始加强对人工智能技术的监管，争取在其发展初期就建立起合理的规范和治理框架。这包括对人工智能的研究、开发和应用进行监督，以确保其不会被用于恶意目的。例如，一些国家已经建立了专门的伦理委员会，监督AI技术的发展方向与应用场景，以保障社会的安全和公正。 在未来的日子里，人工智能的发展将面临更多的挑战与机遇。随着技术的不断进步，怎样有效利用这些先进的工具来促进社会进步，同时降低潜在的风险，是全球范围内需要共同面对的问题。
阿莫德伊的警告无疑为这一议题提供了重要的视角，也促使科学界、政策制定者和公众共同反思人工智能的未来。 最终，我们可能会迎来一个由人工智能主导的新纪元。在这个新纪元中，技术不仅将影响我们的工作与生活方式，还将重塑整个社会的结构与运作模式。在此过程中，科学家、工程师和政策制定者需要通力合作，共同面对未来可能出现的种种挑战，以确保人工智能的发展能为人类社会带来福祉，而不是潜在的威胁。 总的来说，阿莫德伊的观点提醒我们，尽管人工智能的前景令人振奋，但我们必须保持警惕，及时采取措施以应对可能出现的安全挑战。从长远来看，负责任的科技发展将是确保人工智能造福人类的关键所在。
。
