在2024年上海举办的世界人工智能大会(WAIC)上,尤尔根·施密德胡伯(Jürgen Schmidhuber)作为备受瞩目的嘉宾,再次引发了业界对其贡献的高度关注。作为生成式人工智能领域的奠基人之一,施密德胡伯不仅开创了长短期记忆网络(LSTM),为自然语言处理、语音识别等领域奠定了坚实基础,更早于1990年代提出了生成对抗网络(GAN)和自监督预训练的理念,这些技术如今构成了生成式人工智能的核心支柱。据统计,他1997年的LSTM论文成为20世纪被引用次数最多的人工智能论文,甚至可能是整个计算机科学领域引用量最高的经典文献。尽管如此,他却未能获得计算机界最高荣誉——图灵奖。这种现象引发了学界与业界的深刻反思。施密德胡伯本人对此并不纠结,他更关心的是科学的完整史实和学术诚信。
施密德胡伯指出,人工智能的发展绝非一人之功,而是文明的集体结晶。纵观人工智能的发展史,诸多基石性概念早在二十世纪中叶甚至更早便已出现。他提到,早在1914年,西班牙科学家托雷斯·奎韦多(Leonardo Torres y Quevedo)就设计了能下棋的自动机;高斯与勒让德早在十九世纪初提出的最小二乘法,实为线性神经网络的雏形;六十年代,乌克兰学者伊瓦赫年科等人建立了多层深度神经网络的理论架构。这些被长期忽视的贡献为后人提供了坚实基础。施密德胡伯的“奇迹之年”集中于1990至1991年之间,他先后提出了现代生成式AI的奠基概念。其核心包括革命性的生成对抗网络——即导演两个相互博弈的神经网络系统实现内容生成;自监督预训练技术,为下游任务提供有效的序列压缩和理解能力;以及基于快权重程序的线性变换器架构,这一设计比后来的Google变换器更高效且计算复杂度低。
施密德胡伯强调,他和他的学生赛普·霍赫赖特(Sepp Hochreiter)早在1997年便提出了LSTM网络,该结构具备处理长距离依赖问题的能力,一度是工业界应对长序列处理任务的主流选择。直到2017年前后的变换器网络兴起,因其易于并行化优势而取代了传统RNN和LSTM在大型语言模型中的主导地位。然而,施密德胡伯指出,传统循环神经网络在某些任务上理论上更强大,例如处理奇偶校验问题,变换器至今仍无法完美解决。此次采访中,施密德胡伯也谈及了其带领的团队近期开发的xLSTM——具有线性扩展能力的扩展型LSTM,展现出在理解文本语义和标注任务中优于变换器的潜力。施密德胡伯还谈到了自身在科研路径上的选择及对全球AI科研格局的观察。他曾在瑞士做科研多年,现任沙特阿拉伯国王阿卜杜拉科技大学(KAUST)AI倡议负责人,致力推动开放式基础研究与全球合作。
他对当今AI领域过于依赖资源密集型算力扩展持批判态度,认为真正的突破应着眼于效率、算法的创新及人类般的学习方式,而非单纯追求算力和数据规模的增长。施密德胡伯特别强调,人工智能的发展是跨时代的集体努力,单打独斗无法成就一番大业,人工智能之父的说法本身欠缺全面。各国科研实力不同,欧洲是AI技术和理论的发源地,但缺乏类似硅谷或中国巨头的产业支持,技术应用和大规模推广常被美中所超越。令人关注的是,施密德胡伯与被誉为“深度学习三巨头”的 Geoffrey Hinton、Yoshua Bengio 与 Yann LeCun 之间存在公开的知识产权和学术归属争议。他指责三人多次重复发表先前未经致谢的原创研究成果,破坏了学术诚信的底线。施密德胡伯认为,作为学术界权威的三位专家违背了ACM的职业道德规范,未能尊重原创作者的贡献,且对此未做纠正,甚至违背了科学自我修正的原则。
他大胆主张,一旦事实清楚,相关奖项应当予以撤销。这一立场引起巨大争议,也反映出现阶段人工智能领域对历史贡献认定的复杂与混沌。施密德胡伯本人则坦然面对争议,认为科学不以个人声誉为转移,真理如太阳照常升起。他表示,自己并不嫉妒其他科研者所获荣誉,但坚决要求公正对待所有先驱的学术成果。回顾自身经历,他相信自己有幸赶上人工智能计算资源持续变廉的时代波浪,从上世纪90年代的“未被完全利用的理论”到如今数十亿台智能设备上的广泛应用,是幸运的先驱。展望未来,施密德胡伯对AI能够在物理世界内达到真正的自我复制、自我改进,催生机器文明充满信心。
这一未来将涉及机器人和自动化设施的联合作业,实现自我造血且跨星际扩展,彻底改变人类文明的面貌。同时他强调,现时的AI威胁当下还是较弱的,真正值得警惕的是早已存在的核武器等传统巨大破坏力。透过此次专访,施密德胡伯传达了对人工智能科学探索的初心执着:科技创新需要遵循科学诚信,推动原创思想,激励新一代研究者。他鼓励学术界继续深耕基础理论,不断推动算法进步,敢于质疑现有观念,务实对待计算资源限制,专注于AI真正的长远进步。可以预见,施密德胡伯的学术遗产和独特视角将在后疫情时代人工智能浪潮中被重新审视,为全球AI发展提供历史脉络与启发,也将激励越来越多的科研群体前行在创新的沃土上。尤尔根·施密德胡伯,这位没有图灵奖的生成式AI先驱,成为了人工智能科学史上一位独树一帜的传奇人物。
。