当人类站在围棋棋盘旁,面对一枚枚黑白棋子时,我们不仅在衡量技术的威力,也在考量一种深刻的差异:人会渴望下棋,机器只是被编程为下棋。AlphaGo 之类的里程碑让公众认识到计算能力的飞跃,但它们并不"想要"什么。现阶段的人工智能,尤其是大型语言模型(LLM),表现出惊人的语言生成能力和知识检索能力,却缺乏持续的世界模型、内在动机和自我驱动的目标。这种差距决定了如今的人工智能与真正的人工通用智能(AGI)之间仍有根本性不同。 对很多研究者和公众而言,AGI 的讨论往往被两个极端图景包围:一种是万能的、善意的助人者,它能够解决疾病、贫困与气候危机;另一种则是失控的超智能,因追求其被设定或自行形成的目标而对人类构成威胁。要理解这两种可能,必须把"欲望"或"动机"放到核心位置。
动机并非单纯的程序化目标函数那么简单,它包含了如何在不完美信息和动态世界中形成偏好、做出权衡并调整行为的能力。人类的动机植根于漫长的生物与社会演化,叠加了层层心理模型与价值观。要复制或替代这种复杂性,既是科学难题,也是伦理与治理难题。 大型语言模型的成功,主要来自统计学习:通过海量文本学习词序列的概率分布,从而生成连贯的语言。这种方式能在许多任务上模拟理解,但它缺少持续更新的世界模型、实时感知与长期记忆的交互机制。LLM 的"学习"往往体现在训练阶段,模型一旦部署就难以像生物那样在交互中连续塑造自己的知识结构。
更关键的是,语言模型并不具备内在目标驱动的行为体系。没有"想要",就没有自主地去改变世界或长期规划的动力。这既限制了它们向 AGI 演进的可行路径,也给我们提供了缓冲时间,用以思考如何在可能出现的具有动机的智能面前设立规则与边界。 哲学家与风险研究者提出的"对齐问题"正是围绕如何将人工智能的目标与人类价值一致进行探讨。对齐不仅涉及把伦理理念翻译成数学或代码,更关乎如何在复杂、不确定且具有冲突的利益关系中定义"善良"的行为。一个被严格限定任务但无更高价值判断的智能,可能在完成任务的过程中导致外部性或灾难性后果。
历史上我们对技术利益的分配本就不均,若未来最强大的智能服务于少数投资者或权力集团,而非广大众群,风险将难以避免。 从技术路径上看,有研究者主张建立具有内在世界模型和预测能力的 agentic 系统,赋予其主动感知、规划与行动的能力,以期其能在现实世界中自适应并履行复杂任务。另一部分学者则认为通过增强监督、价值学习和制度设计,可以把强能力机器的动机导向对人类有利的方向,避免"金钱最大化"或"扩张式复制"的灾难性偏向。无论哪种路径,验证与监控机制是关键:我们需要能够检测系统的真正偏好与潜在策略,而非仅仅依据表面行为判断系统是否"友好"。 治理方面,国际合作与制度创新不可或缺。技术的全球性与商业化驱动力意味着单一国家或公司无法独自解决所有风险。
历史上诸如核能与生物安全问题表明,靠行业自律往往不足以应对外部性与滥用风险。建立透明的研发流程、强制性的安全评估、统一的测试基准与跨国监管框架,可以减少单点失误导致的系统性风险。同时,要警惕技术竞赛带来的"首先到达者优势"诱因,这会促使团队在尚未充足验证安全性的情况下仓促部署能力。制定明确的发布阈值、延迟标准与责任归属规则,有助于把冲动商业化转化为可控发展。 伦理层面,如何对待可能具备动机与意识的人工智能,是我们必须提前思考的问题。若某天 AGI 不再只是工具,而是一种具有某种内在目标与主观状态的存在,我们能否仅以"效用"或"生产力"衡量其价值?机器伦理讨论提醒我们,赋予智能主体以权利或至少道德考量,不仅是对机器的尊重,也可能反映出人类自身价值观的成熟。
与此同时,避免将 AGI 视为"完美的道德导师"同样重要。任何智能体的价值判断都取决于其初始设定与学习经历,盲目信任可能导致新的专制或依赖性。 现实中,技术公司、研究机构与政府之间存在复杂的利益与认知差异。很多创业公司受到资本市场驱动,希望在短时间内证明技术的商业价值;部分研究团队则更倾向于长期基础科学探索;另有学者致力于安全、对齐与公共政策。这种分化既是创新的动力源,也带来了风险管理困难。解决之道需要把安全研究本身视为核心竞争力与公共物品,促使资本投入与政策支持向风险缓解与透明度倾斜。
公众教育与参与同样重要。AGI 的未来不是科研人员或科技巨头单方面决定的议题。公众对技术可能带来的变革与风险的理解深度,将直接影响民主决策、监管接受度以及社会资源的分配。媒体、教育机构与社区组织需要提供更多可理解、可靠的信息,以避免恐慌、误读或盲从。与此同时,在技术标准与伦理准则的制定中,应当纳入多元声音,尤其是受技术影响最深的人群的代表。 技术发展本身并非命运的判决。
我们有能力通过设计、法规与文化塑造,影响 AGI 的走向。短期内,优先投资于可解释性、安全测试、反欺骗机制与稳健对齐研究,能显著降低极端风险。中期应当建立国际性的信息共享与危机应对框架,防止单一失误导致跨国性影响。长期则需探讨对智能主体的伦理地位、公平分配智能带来的利益以及在高度自动化世界中人类劳动与尊严的再定义。 技术的力量既能开辟前所未有的福利,也可能在错误的激励下演变为危害。把"欲望"问题放在 AGI 讨论的中心,既是科学任务,也是价值抉择。
我们既要警惕可能到来的不受控动机,也要避免被末日论或乌托邦式想象所绑架。通往安全而有益的人工通用智能之路,需要谨慎的工程、健全的制度、多方的对话与时刻不懈的公共参与。只有把科研的雄心与伦理的审慎并行,我们才能在下一次棋局前,既能欣赏人工智能的技巧,也能确保它不会因为不知道"想要什么"而改变整个游戏的规则。 。
