近年来,人工智能(AI)技术的迅猛发展已经深刻改变了全球的经济、政治乃至文化格局。在这场变革的中心,人工通用智能(Artificial General Intelligence,简称AGI)作为一项能够媲美甚至超越人类智能的技术,被众多科技巨头和研究机构视为未来的终极目标。卡伦·郝,作为著名科技记者和畅销书《AI帝国》的作者,通过深入采访和独到观察,将当前的AI产业描绘成一个新兴的"帝国",并揭示了围绕AGI信仰的狂热与付出的沉重代价。 本文围绕卡伦·郝对AI帝国的独特见解展开,聚焦AGI布道者(evangelists)所营造的信仰体系,以及这种信仰对产业发展、社会影响和科技伦理带来的深远影响。 人工智能不仅是技术变革的产物,更是一种意识形态的体现。卡伦·郝将现代AI产业比喻为一个帝国,其核心并非单纯依靠技术实力,而是围绕AGI理想所建立的信仰体系,这种信仰驱动着整个行业的扩张,甚至不惜以违背自身宣扬的初衷为代价。
历史上的欧洲殖民帝国,往往以传播基督教和"救世"理念为旗帜,而当今的AI帝国则以"为全人类造福"的AGI愿景作为核心信条。OpenAI作为这一信仰的主要传播者,通过持续释放对未来AGI的期待和愿景,塑造了整个行业的价值观和发展方向。 卡伦·郝在采访中提及,许多AGI布道者的言辞中充满了几近宗教般的虔诚与热情,他们深信AGI的最终实现将带来人类文明前所未有的飞跃。然而,正是这种坚定的信仰,将产业的发展轨迹推向了速度优先,安全和效率放后的风险地带。OpenAI选择以极快的节奏推进技术迭代,投入大量算力和数据资源,试图抢占先机,而这也迫使整个行业不得不跟随其脚步,这种"赢家通吃"的局面导致了对科学探索和技术创新的扭曲,使得真正的算法突破和效率提升被搁置。 数十亿美元的巨额资金投入贯穿整个AI产业链。
OpenAI预计到2029年将耗资达1150亿美元,Meta今年预计投资720亿美元于AI基础设施建设,谷歌的资本开支也高达850亿美元,这些数字反映出AI帝国的巨大规模和资源消耗。然而,尽管投入庞大,AGI的核心承诺 - - 带来"宏大的人类福利"依然遥远,甚至伴随着诸多负面影响逐渐显现。 这些负面冲击包括因自动化带来的就业流失,财富更为集中的风险,以及人工智能生成的虚假信息和精神健康问题。同时,产业链下游的全球劳动者,特别是在肯尼亚和委内瑞拉等发展中国家,从事内容审核和数据标注的工作,常常面临低工资和暴露于令人不安内容的困境,体现了AI系统运行背后的道德隐患。卡伦·郝认为,将AI进步与现实的社会危害对立起来是一种错误的"假交易"。她指出,事实上,有许多基于AI的有益应用,比如谷歌DeepMind的AlphaFold - - 这项获得诺贝尔奖的成果能够精准预测蛋白质的三维结构,对医学和药物研发意义重大。
与消耗巨量算力的大型语言模型不同,AlphaFold采用了更精简的数据训练,减少了对环境的负担,且并未引发内容审核等社会问题。 另一重要话题是围绕AI技术竞赛的国际地缘政治竞争。硅谷曾以"跑赢中国"为目标,宣称AI能为世界带来自由化影响。但实际情况截然相反,中美之间的技术差距持续缩小,而硅谷的影响力却在某种程度上带来了更多的"非自由化"后果。卡伦·郝坦言,这场"竞赛"更多地塑造了美国以硅谷为核心的科技巨头的利益,而非真正普惠全球。 OpenAI的组织结构尤为复杂,部分非营利性质与商业利润驱动相混合,使得其衡量"造福人类"的标准变得模糊不清。
近日,OpenAI与微软达成合作协议,迈向上市的道路,更加引发业界对其使命与盈利目标冲突的担忧。两位前OpenAI安全研究人员向媒体透露,机构内部存在着商业利益逐渐取代安全和伦理标准的趋势。 卡伦·郝警示,过度沉迷于AGI信仰,将导致产业忽视现实警示,甚至让社会遭受广泛伤害仍我行我素。这种对理想的过分执着,可能掩盖技术缺陷和负面外部性的严重后果,形成一种"信仰的代价"。 与此同时,卡伦·郝呼吁,AI的发展不应被局限于单一的技术竞速轨道,算法创新和技术优化是实现可持续发展的关键。通过提升效率,降低对数据和计算资源的依赖,AI可以走向更加环保、安全且具有普遍社会价值的未来。
综上所述,卡伦·郝对AI帝国及AGI布道者的剖析,深刻揭示了当前AI产业的双重面貌:一方面是巨大的资源投入和技术突破潜力,另一方面是信仰驱动下的盲目扩张、社会成本以及技术伦理风险。未来,如何在保持创新活力的同时,审慎权衡技术进步与人类福祉,成为AI时代不可回避的重要课题。 只有跳出"速战速决"的霸权竞争框架,关注算法效率、降低环境和社会成本,人工智能技术才能真正成为推动全人类进步的有力工具,而非陷入信仰迷雾中的浮躁帝国。卡伦·郝的观察恰如一面镜子,提醒我们在追寻技术梦想的道路上,始终不要失去对现实的清醒认知和对未来的深刻思考。 。
