近年来,人工智能(AI)技术高速发展,尤其是以深度学习为代表的模型在图像识别、自然语言处理和自动决策等领域展现出令人瞩目的能力。然而,著名界面设计师与计算思考先驱Bret Victor对当前AI的发展趋势持谨慎乃至批判态度。他认为,当前深度学习主导的人工智能范式不仅忽视了计算本质的透明性和人类主体性,还与他所倡导的“人性化动态媒介”理念形成根本冲突。 Bret Victor提出的“动态媒介”理念,核心在于创建一个真正属于人的、可被理解和掌控的计算环境。在他的愿景中,计算不应是封闭黑箱的算法堆砌,而应成为人人皆可参与、可视、可编辑的开放领域。Victor特别强调计算应嵌入于真实世界的物理空间中,人与人、人与物体通过直观的方式协同工作,而非通过隔离且复杂的数字界面。
这种思考不仅昭示了人类在计算环境中的“代理权”(agency),也突显了面对复杂现实系统的认知与操控能力。 与此形成鲜明对比的是,现代主流AI技术大量依赖大规模数据训练复杂模型,形成高度黑箱化和不透明的决策机制。在这种范式下,人工智能往往将用户视作被动接受者或“使用者”,而非具备主动理解和改造能力的伙伴。更为关键的是,这类系统极度追求“自治”和“智能”,试图用机器替代或者简化人类的思考过程,进而产生了对人类主观能动性与社会协作的削弱。Victor指出,这不仅限制了系统的可控性和解释性,也助长了技术对人的替代思维,进而造成技术依赖和认知退化。 Dynamicland项目是Victor探索人性化动态媒介理念的重要实践。
该项目设计了Realtalk,一个计算环境将算法嵌入真实物理卡片与空间之间,使得计算程序真正成为“可触摸”的实物,而非肉眼无法直视的代码。他们相信,通过让人们与计算系统近距离、直接互动,开放系统内部机制去除魔法般的神秘感,普通人在同一空间内即可合作、学习和创造。这种计算方式天然促进面对面协作,代替冷漠的数字界面,提高社群解读复杂系统和应对现实挑战的能力。 Victor进一步批判当今AI技术背后的“规模化”和“中心化”趋势。他认为,庞大的模型训练需要巨量数据和昂贵基础设施,集中权力于少数技术巨头手中,形成“信息垄断”和“计算寡头”,损害了多样性和自主创新。相比之下,Dynamicland与Realtalk推崇去中心化、小规模社区自我构建动态媒介,强调“本地性”和“共建性”,使技术更贴近具体人群需求而非普适标准。
AI系统的隐私与监控问题也是Victor关注的重点。现有人工智能往往收集大量个人数据,加深了对用户的监视和分析,隐私安全日益受到威胁。相反,Realtalk设计完全省略“用户账户”概念,系统不追踪个人,交互发生在共享的物理空间和物体上,最大限度减少对个体信息的采集和利用,彰显了对人身自由和社群自主的尊重。 在认知层面,Victor强调人类与计算媒介的关系应以成长与理解为目标,而非简单的任务完成工具。优秀的媒介让使用者成为更有能力的人,而不是将理解权利交给机器。当前AI产品普遍采取“理解外包”模式,将复杂的认知过程封装为黑盒输出,造成用户“无知容忍”和技术依赖,削弱了学习与思考的机会。
Victor认为,真正富有教养的计算媒介应该激发人类主动探索、批判和创造的动力,促进技能和洞察力的成长。 关于现实感,Victor特别强调动态媒介需要与“现实世界”紧密结合。他的理念主张计算系统必须准确反映现实世界的因果关系和结构,让系统内的推理链条可见且可检验。相比之下,现今许多AI模型往往生成“似是而非”的结果,不时出现“幻觉”,在理解与推理的稳健性上存在先天缺陷。对Victor而言,任何计算系统若不能做到对现实的准确建模和透明解读,便无法承担真正辅助人类理解复杂系统的责任。 考虑到当前技术力量的趋向,Victor呼吁社会反思并自觉抵制盲目跟风的AI技术崇拜。
他强调,技术发展必须根植于人文关怀、社会价值和文化共享。人类应将计算视为拓展思维的工具,而非替代智慧的黑箱。他警示说,唯有通过培育开放、透明、可控而且以人类成长和协作为核心的计算媒介,才能避免被日益膨胀的技术力量架空。 总之,Bret Victor在面对当下AI浪潮的思考,不仅是对技术路径的批判,更是对计算未来理念的重新定义。他主张构建一个“人性化动态媒介”,支持人们共处于真实物理空间中,亲自动手创造和理解,保持信息的透明与社会的开放;反对黑箱、代理式的AI系统及其带来的对人类代理权和认知成长的侵蚀。Victor的思想为我们提供了一个重要的镜鉴,提醒人类在高速发展的智能技术面前,不应放弃对设计方向、价值取向和社会意义的深刻反思与主动把控。
未来的计算应兼顾技术进步与人文精神,成为真正促进人类自由、协作与理解的力量。