AI也会让你更快地变糟:技术行业过度依赖人工智能的隐忧

区块链技术

在过去的几年里,我们听到了太多关于人工智能将如何彻底改变软件开发行业的言论。各种媒体头条都在宣扬人工智能能够让程序员的工作效率提升十倍甚至百倍,仿佛只要拥有人工智能工具,任何人都可以成为顶尖的程序员,任何想法都可以在眨眼之间变成现实。然而,当我们真正审视这个所谓的技术革命时,却发现一个令人不安的事实:除了几个人工智能公司本身之外,我们并没有看到预期中的创业浪潮和创新爆发。这篇文章将深入探讨为什么人工智能并没有像承诺的那样让我们变得更好,反而可能在以一种隐蔽的方式让我们变得更快地退步。 让我们先从一个简单的数学问题开始。在开放源代码大语言模型出现四年之后,按照支持者的逻辑,我们应该已经见证了至少三Airbnb、两Stripe和三Dropbox这样的独角兽企业的诞生。

毕竟,这些公司当年用了十几年才完成的事情,现在应该可以在人工智能的帮助下在更短的时间内完成。Airbnb用了十二年才上市,十四年才实现盈利;Stripe用了十四年才实现盈利;Dropbox用了十一年才上市,十三年才盈利。这些公司在人工智能时代应该可以被快速复制和超越。然而现实是什么呢?答案是除了几家专门做生成式人工智能的公司之外,我们并没有看到预期中的创业盛世。OpenAI、Anthropic和DeepSeek的开发方HighFlyer确实获得了创纪录的估值,但这些公司的核心业务就是人工智能本身,而它们对整个社会的最大贡献似乎是让那些措辞糟糕的电子邮件变得常态化,让社交媒体充斥着垃圾内容,并且彻底毁掉了互联网搜索引擎的质量。 这个现象揭示了一个我们不愿承认的事实:编写代码并不是软件开发中最耗费时间的部分。

诚然,人工智能确实可以帮助我们更快地生成代码片段,但软件开发远不止于写代码。它涉及需求分析、架构设计、系统集成、安全加固、性能优化、测试覆盖、部署维护等等众多环节。当一个完全不懂技术的人试图用人工智能工具来完成所有这些工作时,他很快就会发现自己面对的是一团乱麻。人工智能生成的代码确实可以运行,但往往像是一辆用胶带粘起来的滑稽车,看起来能跑,但随时都可能散架。这并不是说人工智能没有用,而是说没有扎实的技术基础,你根本无法判断人工智能给出的建议是否合理,是否安全,是否真正适合你的项目需求。 最近我参加了一个技术会议,会上有一个专门讨论所谓低代码开发的小组讨论。

小组由四位初创公司创始人组成,他们都是通过所谓的 vibe coding 方式完成了自己的最小可行产品,并且显然正在从客户那里赚钱。这个小组讨论中最让我震惊的一幕是,其中一位创始人声称他不需要首席技术官,因为他可以直接用Claude来解决所有技术问题。想象一下这个逻辑:一家软件公司不需要软件专业知识,就像盖楼不需要结构工程师,做手术不需要外科医生一样荒谬。然而这种思维模式在当今的创业圈子里竟然被认为是创新的象征,是打破传统的勇气,是拥抱新技术的表现。 也许有人会说,这些批评都源于我不善于使用人工智能工具。如果我能够更好地进行提示词工程,更好地引导人工智能给出正确的答案,我就不会有这么多抱怨。

这种观点不能说没有道理,但它恰恰印证了我要表达的核心问题:我们正在用一种表面上看似高效的方式,实际上是在培养一种大规模的专业知识依赖症。人工智能工具让我们感觉自己像是宇宙间最特别的程序员,仿佛我们拥有了前所未有的超能力。但当你真正深入了解自己正在构建的系统时,你会发现你对它的理解程度远远不足以保证它的可靠性和安全性。 让我用一个具体的实验来说明这个问题。前段时间,我决定亲自测试一下人工智能在真实项目中的表现。我和我的合作伙伴购买了一些人工智能服务的积分,然后把它们用在一个真实的项目开发中。

整个过程令人非常沮丧。人工智能推荐的一些做法简直是匪夷所思。诚然,人工智能生成的代码可以运行,但质量之低劣简直就像是用胶带粘起来的滑稽车。我开始意识到一个重要的问题:也许问题不在于我是否擅长提示词工程,而在于人工智能本身的能力边界。没有足够的专业知识,你甚至不知道应该在什么时候质疑人工智能的建议。 这里我们需要一个重要的区分:人工智能可以作为非常有价值的辅助工具,帮助经验丰富的开发者提高工作效率。

对于那些本身就具备深厚技术功底的程序员来说,人工智能可以帮助他们快速生成模板代码、处理重复性的编码任务、查找文档资料等等。但对于那些没有扎实技术基础的人来说,人工智能更像是一把没有使用说明书的电锯,看起来可以让你快速完成很多事情,但实际上你根本不知道什么时候应该停下来,什么时候应该换一个方法,什么时候你正在把自己置于危险之中。 在人工智能出现之前,我们获取未知领域知识的方式虽然缓慢,但通常都经过了多层次的筛选和验证。当你不确定某件事情怎么做的时候,你会去谷歌搜索,浏览多个不同的意见来源,然后过滤和整合这些信息,形成自己的判断。在更早的时候,你可能需要去图书馆,一排一排地寻找可能包含你需要信息的书籍,然后仔细阅读它们的内容。这个过程虽然耗时,但它确保了你接触到的信息至少经过了一定程度的审查。

而现在,这个过程被简化成了与一个机器人的文本对话。机器人会输出各种内容,有些来自真正专家的观点,有些则来自互联网上某个不知名用户的随口一说。这些信息被混合在一起,没有任何区分标记,全部以同样的置信度呈现给你。 有一项统计数据特别能说明这个问题:当ChatGPT回答金融相关问题时,有百分之七十六的情况下,它的回答来源是Reddit上的帖子,而不是专业金融人士的分析,尽管谷歌的搜索质量指南明确要求在涉及金钱和生命等重要话题时应该优先使用权威来源。这意味着我们正在将最需要谨慎对待的决策建立在最不可靠的信息来源之上。这个问题的可怕之处在于,大多数人并没有意识到这一点,因为他们根本没有足够的专业知识来判断人工智能给出的建议是否合理。

这里我们需要重新审视一个概念:进入专业领域的门槛曾经是有其存在道理的。专业门槛并不是用来阻挠人们发挥创造力的障碍,而是确保社会基本安全的必要机制。让我用一个生活中的例子来说明这个问题。你有没有想过自己动手给家里接电?理论上当然可以做到。你可以拿着手机查看一步一步的教程,甚至可以让聊天机器人帮你查找如何把灯具连接到电路,如何把烤箱接到另一个断路器上,如何在不同房间之间分配负载以平衡电力消耗。你甚至可以学到很多东西。

但是,如果你犯了错误,后果会是什么?也许是一场半夜发生的电气火灾,也许是你先被电击然后才发生火灾。对于我们这些非电工专业人士来说,这些潜在的灾难性后果足以让我们大多数人选择花钱请专业人士来处理。那么问题来了:为什么我们在软件开发方面就不采用同样的逻辑呢? 现在的应用程序会收集信用卡信息、个人身份信息,以及足以让人生活完全被毁掉的敏感数据。一起安全漏洞可能只需要一个无聊的十六岁少年在地球某个角落连上互联网就能完成。后果可能不像房子着火那样具有电影感,但对你的用户生活的破坏程度可能是一样的。更可怕的是,并不是只有软件开发新手才会使用这些人工智能聊天机器人。

如果你真的相信人工智能可以将生产率提高十倍,那么请想象一下它对黑客来说意味着什么。攻击者和防御者现在拥有了同样强大的工具,而唯一的区别在于,攻击者通常更愿意突破道德底线,更愿意尝试危险的方法。 当我们用人工智能 vibe coding 出一个应用程序,向用户收费,收集他们的敏感数据时,我们实际上是在进行一场赌博。只不过我们赌的不是自己的房子会不会发生电气火灾,而是在赌别人的钱、别人的隐私、以及那些信任我们并把数据交给我们的用户的生活。我们还在赌那些被我们雇用来一起工作的每个人的生计。这场赌博的赌注是如此之高,而参与这场赌博的人中有太多人根本没有意识到自己正在赌博,更不知道自己根本没有胜算。

为什么社会对生成式人工智能的信任会达到如此高的程度?我认为这与人工智能曾经提供过足够好的信息这一事实密不可分。这些大语言模型可以在几秒钟内整理大量关于用户完全陌生的话题的信息。对话式的界面和感觉已经取代了那种需要亲自动手处理的繁琐过程。真正的问题在于,我们的社会在人工智能工具上投入了过多的盲目信任。只有当你对某个领域足够熟悉时,你才能开始拉开窗帘,看到另一边的真相。对于软件工程师来说,这种认识发生在人工智能建议把网络应用、数据库和后台进程全部放在同一台服务器上的时候。

对于跑步教练来说,这种认识发生在聊天机器人建议在初学者马拉松训练计划中加入四十米冲刺训练的时候。对于几乎任何人来说,这种认识发生在你被鼓励在午餐三明治里加入蚂蚁毒药的时候。有些人工智能的胡说八道很有趣,但有些则只是足够可信,以至于没有人去质疑它们,而它们的后果可能是毁灭性的。 这里有一个深刻的类比值得思考:人工智能可以让你的工作效率提高十倍,但前提是你已经知道自己在做什么。如果你只知道如何挖坑,人工智能只能让你用更快的速度挖出更多的坑。但如果你的方法从一开始就是错误的,或者你需要挖的其实不是坑而是其他什么东西,那么更快的速度只会让你在错误的道路上走得更远。

这并不是说人工智能没有价值,而是说人工智能放大了你已有的能力,无论是好的还是坏的。对于一个经验丰富的专业人士来说,人工智能可以让他们如虎添翼;但对于一个缺乏基础知识和判断力的人来说,人工智能只会让他们更快地制造出更多高质量的灾难。 技术行业需要重新承担起责任。它需要雇用与它合作的人,并与专家合作,向专家学习。生成式人工智能在帮助我们将一个绝妙的想法变成现实方面确实可以发挥令人难以置信的作用。但这个从想法到现实的过程并不像童话故事那样简单。

想法就像一个刚刚被创造出来的生命,它需要被培育,需要有时间成长,需要经历各种挑战和考验才能最终成为真正伟大的东西。如果没有这个过程,或者这个过程被仓促地跳过,结果往往是丑陋的,有时甚至是极其危险的。 在这个人工智能快速发展的时代,我们比以往任何时候都更需要强调基础知识的重要性。人工智能不会取代学习和掌握专业技能的必要性,它只是改变了获取和应用这些技能的方式。最危险的思维模式是认为有了人工智能就不需要学习,不需要练习,不需要积累经验。这种思维模式不仅会毁掉个人的职业发展,还可能对社会造成深远的安全隐患。

让我们在这个人工智能无处不在的时代保持清醒的认识,善用人工智能作为工具,而不是让它成为我们智识退化的借口。真正的成长永远需要付出努力,而这种努力是任何人工智能都无法替代的。 。