在过去的十五年中，人工智能领域取得了令人瞩目的进步，尤其是在最近五年，这些进展几乎改变了我们与技术互动的方式。无论是智能助手、自动驾驶汽车，还是生成式语言模型的兴起，我们都感受到了技术飞跃带来的深刻影响。尽管看似不断涌现出众多创新和突破，但一场有趣的讨论正在人工智能社区中流传：真正推动AI飞速发展的，并非所谓的“全新想法”，而是对新数据集的发掘与利用。理解这一观点，首先要回顾AI发展的几个关键阶段。人工智能的突破，往往并非凭空出现的革命性理念，而是建立在以前已有的理论基础上，并结合了规模空前的大规模数据集。例如，2012年的AlexNet深度神经网络技术极大推动了计算机视觉的发展，而这场变革的核心驱动力量是大型标注数据集ImageNet的广泛应用。
随后，2017年谷歌提出的Transformer架构彻底改写了自然语言处理的技术路线，这一突破使得训练模型可以利用互联网上几乎所有的文本资源，形成了规模巨大的语言数据集资源库。紧接着，以人为反馈强化学习（RLHF）的引入，使得模型能够吸收人类评价，并优化生成结果的质量，从而形成一个独特的人类标注与交互数据源。最新阶段的“推理能力”提升，则依赖于诸如计算器、编译器这类自动验证工具的数据，这类数据帮助模型在逻辑和数学能力上实现质的飞跃。对比这几个发展阶段，从深度神经网络到大规模语言模型，再到精细的人类反馈和工具辅助推理，我们会发现每个阶段的根本推动力均是新型数据源的利用，而非全新机器学习理论本身。事实上，多数支撑这些突破的算法理念，如监督学习和强化学习，早在上世纪便已被提出，只是此前缺乏足够庞大且有组织的训练数据进行验证和应用。这一现象引发了一个极具启发性的问题：如果理论方法已存在多年，那么未来的突破将从何而来？答案很可能在于寻找和开发新的数据来源。
人工智能领域的“新创意”，或许更准确的说法，应围绕如何从全新、质量更高、形式更丰富的数据当中汲取智慧。例如，视频作为一个多维度的、动态的媒体形式，蕴藏着巨大的潜在价值。YouTube等平台每日记录的海量视频数据远超文本数据，这不仅包括语言内容，更包含肢体动作、环境信息、甚至文化背景。人工智能模型如果能够有效理解和应用这类数据，可能让机器学习跨入一个全新的境界。当然，仅仅拥有数据并不足以产生飞跃性的进展。合理、创新的训练方法、算法优化和硬件提升依然是重要的补充因素。
比如，近年在模型训练过程中引入的高效内存利用技术FlashAttention，推理速度优化的投机解码(speculative decoding)，以及更优的优化算法Muon等，都极大推动了训练和推理的效率，降低了成本，让数据的价值最大化成为可能。但是，这些技术改进更多是在精细打磨“如何更好地利用已有数据”，而非开辟全新的算法路径。数据的重要性还体现在研究者对于实验数据的上限意识上。即使是架构方面的创新，如由部分团队开发的状态空间模型（SSM），与Transformer在同等数据支持下的表现相当，也显示了一个重要事实：任何模型架构的优势，都受到其训练数据集实际承载信息量的极限制约。换句话说，只要数据集固定，模型改进的空间有限，唯有扩充数据多样性和规模，才可能打破现有瓶颈。从哲学角度审视这个问题，也映射了《痛苦的一课》（The Bitter Lesson）这一人工智能发展理念的精髓，即“计算机更喜欢从大量数据中自动学习，而非依赖人类手工设计的规则和技巧”。
这提示科研人员，过度追求“新算法、新模型”的同时，更需聚焦如何有效利用新数据资源，以及通过创新的数据采集、标注和生成手段，获取前所未有的训练素材。围绕未来发展的推测，视频数据显然是当前研究者和企业瞩目的焦点领域。大规模视频学习不仅需要海量的计算资源，更需要模型具备理解时间动态和空间语义的能力，这将激发全新理论与实践的结合。而且，视频结合语言、视觉、声音等多模态信息，为AI提供了更为丰富的学习语境，促进其向类人理解迈进。此外，机器人等物理交互设备采集的传感器数据也被认为是潜在的宝库，这些数据带有真实环境下的反馈和效果，有助于建构可用于推理和决策的稳健模型。然而，未来突破不仅仅依赖于数据的广度，更取决于科研生态的开放性与协作性。
如今全球有无数探索者和组织，共享研究成果、公开数据资源，在ArXiv和各大国际会议中激烈交流，形成了一个递进式的知识共同体。这种开放环境有利于将更多的创新理念迅速转化为实践，推动数据积累和模型训练方式不断迭代升级。最后，回顾人工智能发展史，我们得出启示：尽管技术创新不可或缺，但真正让AI不断跨越和成长的，是对新数据的发现与整合。未来的关键，是将海量多样、真实互动的丰富数据转化为“可学习”的形式，辅以持续的技术改良，才能引领AI进入新的里程碑。因此，希望科研人员和爱好者从当前对“新想法”的执念中抽身，将目光更多投向数据的多元开采和质量提升，共同推动人工智能迈向更加智慧的明天。
