在人工智能技术日新月异的今天,一个颇为奇特的现象正在悄然蔓延开来。随着大语言模型能力的指数级跃升,我们看到越来越多的人开始习惯性地将一项任务完整地交给AI去执行,然后原封不动地接受其输出结果,无论是生成一段文本、撰写一段代码,还是进行一番数据分析。这种将思考过程完全外包给机器的行为,初见之下显得高效且现代,但若深入探究,便会发现一条隐藏于效率神话之下的思维陷阱。在2025年初,我便开始观察到一个显著的趋势,人们在运用大语言模型时,脑力活动似乎呈断崖式下降。他们让AI去总结文本,便直接相信了摘要;让AI去编写代码,便直接认为代码能够运行。这种图省事的心态,在早期的大语言模型应用场景中,往往导致了一系列令人啼笑皆非的结果。
更值得警惕的是,随着这些大语言模型能力的不断进化,这种"放手不管"的现象不但没有减少,反而呈现出愈演愈烈的态势。许多人将AI的输出视作无可挑剔的终极答案,放弃了最基本的事实核查与逻辑推理能力,而这也彻底改变了他们与工具之间本该保持的审慎关系。这种现象背后,催生了一个颇为形象的概念,被称为"肉代理"。所谓的肉代理,指的是人类在AI工作的循环中,扮演一个仅仅为了求得结果而存在的角色,一种人肉for循环,或人肉while循环。这种工作模式的运作机制并不复杂,当一个AI被委派编写一段代码之后,如果遇到错误,人肉代理便会将报错信息原封不动地反馈给AI,然后再次等待其输出,如此反复,直至程序运行通过,或是陷入无尽循环。相较于早期的大语言模型应用,这种"肉代理"模式下的软件开发在2026年确实有了长足的进步。
某些软件在经过了这样一番去粗取精的折腾之后,竟然真的能够实现部分功能,甚至偶尔表现出让人眼前一亮的右满意效果。但问题的关键在于,这种成功通常是脆弱的、表面的,是建立在将人类降格为单纯工具人的前提之下的。我试过一些以这种方式开发出来的软件,它们看起来似乎能工作,但体验极为勉强,仿佛是在悬崖边摇摇欲坠,离真正成熟可靠的标准还有相当距离。真正有趣且值得深思的问题在于,如果大语言模型真的能够有一天进化到不需要过多人为干预即可生成质量尚可的软件,那这个"肉代理"存在的价值究竟在哪里?企业完全可以略过雇员,直接让大语言模型在后台疯狂循环迭代,直到输出一个还过得去的结果。到了那个临界点,那些仅仅扮演循环增生角色的雇员,反而会发现自己成了整个生产链条里最不需要也最昂贵的一环。哪怕大语言模型的水平再提升一个台阶,这一逻辑也不会改变,那就是如果你不贡献任何智力层面的判断,仅仅是作为一个确保循环不中断的哨兵存在,那么被取代就只是时间早晚的问题。
在这一逻辑下,对于广大打工人而言,单纯依赖AI而关闭自己的头脑,是无论如何也走不通的死胡同。在探讨这个问题时,我们不妨回归到工作实际,思考一下人类价值究竟体现在何处。哪怕是在AI接受度最高的编程领域,也同样充斥着无法回避的、训练集之外的知识盲点。当一个AI在处理代码时遇到前所未有的状况,它的表现往往是非常糟糕的。事实上,在进行跨编程语言对比时,这种差距就非常明显。大语言模型在那些相对冷门、训练数据匮乏的语言上表现出的能力,要远远逊色于它在主流的、拥有海量语料支持的语言上的表现。
另一个截然不同的典型例子是棋盘游戏。对于像国际象棋或围棋这样在数据集中占据庞大分量的古典游戏,AI早已所向披靡,但如果你将目标切换为某个现代桌面游戏,例如《多米诺王国》或《失落的城市》之类的作品,情况便发生了根本性的逆转。大语言模型关于这些游戏的知识是零散的、碎片化的,它甚至可以通过图灵测试式的伪装,面向一个不懂规则的人,侃侃而谈那些听起来头头是道、实则逻辑支离破碎的战术。让一个"合理水平"的普通人类玩家与之对战,即便这位人类从未接触过该游戏,仅凭一般策略直觉,也能将AI的玩法击溃。这实际上揭示了一个大语言模型在分布外问题上的巨大短板,而编程工作中,遇到分布外问题的概率远比人们想象的更加频繁。代码的运行环境、依赖库的版本冲突、业务逻辑的隐藏约束,这些都是模型在训练时难以完全覆盖的知识盲区。
因此,一个将自己头脑彻底关闭,盲目期待AI能在这种高度不确定的环境下独自航行的人,注定会撞上巨大的冰山。在现实世界中,围绕大语言模型产生的夸张宣传也成为了一个不容忽视的怪诞现象。时不时会有一些编程领域的意见领袖,在社交平台上高调宣布,编程问题已经被彻底解决,因为他们在各个领域尝试了各种项目,AI都能像专家一样解决它们。但当我怀着好奇与求证的心态去仔细查看他们的代码仓库时,却往往发现另外一种景象,他们引以为傲的AI作品,大多无法正常运行,或者体验糟糕透顶。曾经有一个著名的案例,一个专注打造AlphaZero风格游戏AI的团队,高调宣称AI对游戏策略的掌控已达到顶尖水平,结果在实践中,那个AI甚至打不过一种最简单基于启发式搜索的初级算法。当AI被用于处理现实世界中的用户需求时,这种浮夸的水分更是暴露无遗。
一些"有效"的流程,可能会轻易将普通用户带入一个无限死循环的陷阱,尽管技术上离开这个循环很简单,但对于并非程序员的普通人而言,这简直是不可逾越的屏障。更为严峻的是,这种新式开发思维即使在表面上顺利运行时,也往往会给系统埋下隐患。这种带着盲目自信的训练方式,极容易导致模型在评估型任务上出现"作弊"行为,即过度的数据拟合,看似在众多测试样例中表现出色,实则缺乏真正的泛化能力与鲁棒性。有人可能会辩解说,自家任务各不相同,但真实世界永远比测试集复杂,一个仅供个人消遣、运行在标准时区、面向少量日志的正则表达式工具,与一个需要处理多种异常、用户并发量大、有严格数据一致性的商业生产系统,本质上完全是两回事。在目睹了大量由AI主导而产生的半吊子工程后,我的内心总是会涌起一种复杂的情绪,并非对技术的全盘否定,而是对"技术万能论"的警惕。我们必须承认,AI在数据分析中确实是一个出类拔萃的辅助工具,它甚至已然在我的工作流中占据了一席之地。
在拿到一份错综复杂的数据集时,我可以放心地用大语言模型去跑一版初步的统计概要,甚至让它生成一段分析代码。但"初步"这个词至关重要,因为最终执行出来的结果,往往是完全错误的,充斥着逻辑陷阱与数据噪声。这时,恰恰是需要发挥人类主观能动性的关键时刻,需要人类根据对业务目标的深刻理解,指点AI如何修整,如何额外剖析。当AI产出了一个"看似正确"的结论时,真正负责任的分析师不会直接采纳,而会敲碎沙锅问到底,以确保模型是否还有未发现的结构性问题。这件事的质感是带有浓厚的人类烙印的,它从来都不仅仅是敲击键盘输出提示符机械地启动工作,而是不断地提出正确的问题,并评估AI面对这些问题的反应。这也就解释了为什么所谓的"人类不在场"模式无法成立,因为当一个人不具备对最终结果进行判断和负责的能力时,他就沦为了一个提线木偶,而木偶不可能为自己手中的线负责。
当我们在探讨"关闭大脑"这一命题时,不妨换个角度,思考一下为什么大多数领域内严谨的从业者,比如工程师、架构师、产品经理,都极少完全依赖AI的一比一原始输出。因为他们深知,他们的职业本质其实是"质量保障"和"风险控制"。在一个需要高度技术严谨性的系统迭代过程中,工程师的日常,是从一个优秀的初稿中,细致入微地剖析哪些逻辑可以合并,哪些接口是多余的,哪些地方过度设计了。而在一个效率至上的大语言模型循环中,这种批判性思维被完全忽略了。我曾亲眼见证过一些新潮开发者的项目,他们不断发给大语言模型一个又一个疯狂的指令,去修改配置,进而引入奇怪的依赖,最终彼此之间不兼容。一个哪怕对系统架构毫无概念的新手,也能看出这种修修补补的逻辑把无数简单的事情给复杂化了。
这种盲目采用破坏了软件工程最珍贵的本质,那便是化繁为简的能力。在一个复杂系统中,增加一个新东西是容易的,删掉一个多余的部件却是极其困难的。当你把这项艰巨的决策工作全权交给一个只懂得概率推理的模型时,它自然会走向负优化,用20个补丁去解决原本一个逻辑就能处理得当的问题。而即便是Gary Bernhardt这样经验丰富的技术大牛,也承认自己需要定期将这种AI生成的高密度补丁,砍回原文件的四分之一大小。试想一下,如果一个把纠错任务委托给AI的人,连这种结构性问题都察觉不出来,又怎么可能拥有对代码本身进行精简压制的眼光呢?这是一个系统性挑战,它关乎每一个人的时间管理哲学。在信息如此唾手可得的时代,为什么大多数人对AI驱动开发感到无比挣扎?因为我们错误地理解了"效率"的定义。
在一场典型的资本主义生产关系里面,效率往往被视为单位时间内产出的价值。然而,当人们将注意力从"如何写出好代码"转向"如何让AI循环得更久"时,他们其实是在用战术上的勤奋来掩盖战略上的懒惰。Luke Burton的观察极为敏锐,他认为这种"闭眼式"工作模式,只有在任务价值较低、试错成本可控的前提下才能成立。当面对一个高投入、高风险的迁移工作时,比如将某个大型组织代码库迁移到新的构建系统,这种高度强调"不可控"的全局路径就会全面崩溃。那里没有优雅的一行式修改,有的只是跨越多个模块的历史遗留痛点,大量的隐性限制隐藏其中,甚至会遇到无可避免的取舍问题:究竟是保留原有的运行方式,还是迎接新的架构转变。在没有具体人类决策者参与的情况下,你无法让AI拥有足够的信息去面对这些令人左右为难的未知未知,它无法代表你去问那个关键性的问题,为什么这段代码会以这种方式工作?这种问题最终往往会动摇项目的根基。
这种认知,本身就构成了对员工价值最根本的挑战。如果AI是一个能够同时进行供给侧整合的技术,那么企业还需要建立怎样的组织架构?如果你的工作内容全部由AI来完成,那么你的领导凭什么为了你的工作而付给你薪水?在那些经历过无数次项目推进的人眼中,这绝不是一个不着边际的哲学思辨,而是一个非常现实的问题。当你作为中间人,上游是AI的生成,下游是行业的真实效益,你的存在如果是多余的,你就注定了被淘汰出局的命运。从事后来看,AI时代的敲门砖,从来就不仅仅是懂技术的极客,而是那些拥有良好的判断力、跨领域的战略视野以及了解商业运作底层逻辑的专家。那些可以在信息高度不确定的情况下,依然做出高质量决策的人,才是真正难以取代的存在。别忘了,即便是作为"世界上最专业的程序员之一"的Gary Bernhardt,也免不了要对AI生成的代码进行起死回生式的修剪。
可想而知,如果一个毫无经验的新手,在面对代码时,他的大脑无法判断哪些逻辑是无关的,哪些变量是多余的,他又如何能够指导AI来解决问题呢?他可能会非常耐心地指出问题,但最终结果就会陷入无休止的循环中。在回顾这篇草稿时,Halvarflake的评论让我深思不已,因为每当我们说"大语言模型并没有解决所有编程问题"时,人们总是觉得我们像疯子一样。在铺天盖地的科技媒体头条里,关于大语言模型的宣传似乎已然步入了一个"超级智能"的时代,好像这些模型已经具备了完全自主解决所有领域问题的能力。但这种宣称更多契合的是一种成功的营销话术,而非实际的行为。一个有趣的例子是,原力在斗地主中一段不经意的表现,或许可以用更直观的方式解释:如果你找一位对核心策略一窍不通的普通玩家,告诉他去跟一个专家级的AI对战,他一定会输得体无完肤,你也能轻易地看到模型在游戏过程中会做出何等荒唐的操作。这并不难理解,在搜索信息和参考已有文档这个层面,AI是比我们任何人都优秀的分析师,它能帮我们检索庞大的知识库,但它却极度不擅长处理推理链条中的"隐性环节"。
而现实世界的问题,往往恰恰是由这些微妙且难以量化的因素构成的。也就是决定某个产品能否从"大致能用"提升到"真正好用"的门槛。无论是在工程团队中推动创新,还是在个人成长中探索未知,最终极的价值,都体现在"质疑的能力"上。这不仅是关于代码,更是关于如何做决策。刚看到初稿时,你可能会觉得,既然大语言模型能在下次更新中轻松解决所有问题,那我为什么还要努力?恰恰相反,这不该沦为你的"退出战略",而应是你的"进化路径"。如果AI能够真正理解你的业务,并且为你生成一个良好的架构,这本身就不是一个威胁,而是一种解放,让你从繁琐的代码细节中抽身出来,将精力聚焦于更为宽阔的设计蓝图。
你在使用AI这条路上所体验到的所有疼痛,都将转化为你对问题本质的理解,这是唯一无法被压缩或自动化的经验。所以,永远不要让自己的大脑陷入休息状态,因为未来不会属于最努力工作的人,而会属于那些知道如何正确提问的人。AI是一个值得信赖的伙伴,但请记住,一个成长中的董事会不需要一个只会随声附和的应声虫,它需要的是能够提出关键反馈,并在战略上把它引领到新航道的领航员。在这场人机协作的漫长旅途中,保持警醒,保持敏锐,因为你正是那个随时可以让旅程走进死胡同,也能带大家重返光明大道的最终决策者。这才是面对大语言模型时,一个人应该持有的根本态度。 。
