近年来，随着大语言模型（LLMs）的飞速发展，软件工程领域经历了前所未有的变革与思考。人们对职业未来的疑问与期待交织，催生了多种人工智能辅助编程的范式。从无人干预的自动化代理，到协助程序员预测代码的智能助手，形态各异的新模式不断涌现，吸引了软件开发者及学术界的持续关注。然而，尽管人工智能在代码自动生成方面展现了惊人的潜力，其根本瓶颈依然存在——那就是代码的可验证性。 软件永远是为某种目的而诞生的，其正确性意味着软件必须符合创建者的意图。无论是将数据进行转化还是为用户提供交互界面，都离不开这一定义。
过去，软件工程师们的时间在编写、阅读和验证代码之间分配得当。如今，借助大语言模型，代码编写的重担显著转移到了机器身上，但验证阶段则不能被完全替代，只能升华到另一个层次。 许多观点认为，严格的正确性只适用于火箭或密码学等少数领域，但严肃来看，代码正确性的需求贯穿所有领域，只是要求的严格程度不同而已。举例来说，一个个人举办的派对信息展示网页，开发者凭借直觉和简单试用即可判断网站是否符合预期。但如果这是企业的官方宣传页面，就必须在更多设备和用户群体中反复测试，以免带来商业风险。类似地，现代大型企业对软件的测试不仅仅依赖简单尝试，而是借助专家和自动化测试确保代码的可靠性。
亚马逊S3等大型分布式系统通过精确的数学证明来保障其正确性，而小型SaaS公司可能依赖的仅是基本的单元测试和集成测试。由此可见，代码的验证方式随软件的规模与复杂度而变化，也成为限制大语言模型自动化生成高质量软件的关键所在。 值得注意的是，前端用户界面（UI）代码的生成与验证似乎更容易被大语言模型驾驭。无数开发者的实践经验表明，模型能在一次输入内生成完整的前端界面，甚至从简单的草图或设计稿中产出代码。类似的专用工具如V0专注于界面自动生成也验证了这一事实。有人推测这是因为训练数据中前端代码占较大比例，但该解释并不能完全说明后端代码生成热度偏低的问题。
事实上，UI代码的可验证性极高。人们只需“看一眼”网页显示结果，便可立刻发现与意图的偏差，并直接反馈，这种感官直观的验证几乎是瞬时的。相比之下，后端服务的验证更为复杂，需要构造测试输入、模拟状态并观察输出，过程繁琐且对测试基础设施和领域知识有较高要求。这种差异正是造成前端自动生成受欢迎而后端相对受限的重要因素之一。 近期流行的“vibe coding”游戏开发尝试则再次反映了这一点。虽然生成的游戏作品令人印象深刻，但它们通常规避复杂网络和性能挑战，通过简化功能或降低体验需求来“规避”验证难题。
这种选择虽然合理，却凸显出对于更高阶验证工具和策略的需求。 回归主题，可验证性实际上定义了大语言模型编程能力的边界。无论自动化代理如何复杂，若缺乏有效验证，人类开发者仍然必须介入确认代码是否真符合设计目标。一个安全检查代理加入的代码，若验证流程不严密，最终也难以确保软件安全。自动生成的测试代码若未经充分核实，同样缺乏可信度。 既然可验证性是瓶颈，那么提升验证效率成为推动人工智能助力软件开发的核心任务。
首先，开发者需要正视以无限智能代理替代人类的幻想，理解技术的现实局限。其次，需要打造更优秀的验证工具与人机交互界面。例如，通过自然语言总结自动生成的测试内容，使开发者能更快捷地理解测试意图，同时防止过多信息损失。 此外，宣告式随机测试（如属性测试）等先进方法值得在软件工程界得到更广泛采用。这类方法允许开发者定义应当满足的通用性质，并通过自动生成多样输入验证软件行为，减少繁杂的单元测试数量，提高验证质量。这不仅使测试更易于理解，也显著增强了测试的覆盖率和鲁棒性。
除了功能正确性之外，开发者还需扩展对性能、安全性、易用性和可扩展性等非功能性指标的重视与测量。现实应用中，这些特性常被归集到非功能要求，而验证手段往往薄弱。只有实现在功能和非功能双重层面的验证能力，软件开发质量才能全面提升。 站在当前高度，对大语言模型编码能力的预测趋于谨慎乐观。模型已展现出良好的竞争编程成绩，表明在拥有明确“完美测评器”的领域，人工智能程序员具备超人潜力。所谓完美测评器，即对每个输入都有明确正确或错误判断的反馈，象棋竞赛、编程竞赛等属于该类范畴。
然而现实中大部分软件开发并无如此理想的回馈机制。 即使是形式化证明工具，也只能确认最终证明的正确性，无法实时指导开发者沿着正确方向推进。未来，若人工智能能在自动化证明领域取得突破，将开辟全新局面，开发者甚至能借助它创造全新的数学定理，再由模型帮助实现对应的代码及证明，从而实现生产级软件的安全落地。 对大语言模型革命充满期待的同时，软件行业也应踏实面对切实挑战。可验证性不仅是技术限制，也是人机协作和软件质量保障的核心所在。唯有推动验证工具创新，培养更专业的验证理念，持续完善测试体系，才能真正释放大语言模型的潜力，为软件开发带来质的飞跃。
欢迎就此观点交流讨论，分享不同领域和个人的经验，齐心协力打造更加可信赖、高效的人工智能辅助编程生态。
