近年来，人工智能（AI）技术的快速进步引发了全球范围内的技术革命，尤其在美国的大型企业中掀起了广泛关注。尽管公众和企业普遍对AI带来的商业机遇持乐观态度，但越来越多的美国最大企业在其向美国证券交易委员会（SEC）提交的财务风险披露文件中，把人工智能列为潜在重大风险。这一趋势由研究机构Autonomy Institute最近发布的报告揭示，数据显示，标普500指数中有近四分之三的公司在过去一年内更新了风险披露文件，新增或扩充了关于AI风险的内容。风险披露虽然通常基于保守原则，反映企业对外部环境的整体认知，而非具体即时的紧急威胁，但投资者往往高度关注这些细微变化，因为它们往往标志着企业战略重点的演变或潜在风险的萌芽。报告指出，所有行业部门中超过半数的公司加大了对人工智能相关风险因素的披露，尤其以信息技术、金融和通信服务行业的风险披露增长最为显著。自2022年底ChatGPT大型语言模型发布以来，关于AI的热议不断。
技术承诺通过自动化提升效率，催生全新商业模式，特别是围绕“智能代理AI”的兴起。然而，除去低碳效率提升的利好，AI技术也带来了日益严峻的风险挑战。从伦理困境、合规监管，到安全漏洞以及操作中断，这些风险正逐渐被企业认知并反映于风险管理体系中。尤其值得注意的是，有将近39%的标普500企业加强了对由恶意势力利用AI进行数字身份冒充、假新闻制造以及恶意代码生成等安全威胁的风险披露。以Salesforce为例，其2025年1月截至财年年度报告中特别提及，随着公司市场影响力扩大，网络攻击和安全威胁风险同步上升。快速发展的生成式AI模型被不法分子用来策划更为复杂、自动化、定向且协调性的攻击，与传统网络安全手段形成较大挑战。
深度伪造技术是企业重点关注的威胁之一。利用AI生成的数字图像、音频、视频，可高度仿真真实人物，极大增加识别难度。回顾历史，Adobe和Marsh McLennan于2019年率先在风险披露中提及深度伪造威胁，仅距该术语诞生两年时间。除了安全风险，资金回报率不及预期成为企业投资AI的另一大挑战。Autonomy Institute报告指出，在标普500企业中，约11%明确警告可能永远收不回对AI投资的成本，或难以实现期待中的商业效益。目前，量化AI带来的实际收益尚缺乏成熟指标体系，不少企业面临长时间的巨额投入压力，担忧持续投资的可持续性。
除了美国本土监管压力，海外尤其是欧盟的AI法规也让美企忧心忡忡。虽然当前尚无企业因欧盟AI法规被罚款或诉讼，但已有部分公司披露美国监管部门针对高风险领域AI使用展开调查或诉讼的情况，尤其涉及自动驾驶等前沿应用。令人意外的是，仅有19%的美国大型企业强化了关于数据隐私及知识产权相关AI风险的披露，尽管这些问题对依赖第三方AI服务提供商的企业来说尤为紧迫。以GE Healthcare为例，公司担忧缺乏对其采用的生成式AI模型关键知识产权的访问权，进而影响其对模型透明度、可解释性及可靠性的独立验证能力。运营层面，企业普遍担心过分依赖少数AI供应商可能产生的业务连续性风险。一旦供应商服务中断，企业运作将受到严重影响，加之法律纠纷及网络安全隐患也使相关风险持续上升。
鉴于这种集中化趋势，诸多企业开始采取分散AI技术供应链和开发自有技术能力的策略，以构建风险对冲机制。尽管普通公众对AI的担忧多集中在失业风险，企业层面更关心的是AI可能给商业利益带来的伤害，及敏感或专有信息通过大型语言模型操作时暴露的风险。Autonomy Institute首席执行官Will Stronge表示，这一分析透视了企业界对AI的实际影响。企业的风险披露非道听途说的恐慌，而是对其盈利能力、竞争地位和法律风险的切实担忧，且这种担忧正在迅速增长。从宏观视角看，AI在企业战略和风险管理中的角色日益凸显。随着技术不断成熟和应用场景拓展，企业必须在积极拥抱AI带来的革新和防范潜在风险之间找到平衡。
未来，智能代理AI与自动化技术将彻底重塑传统产业，同时也将促使企业治理架构加速变革。企业需要加强对AI伦理、安全和合规的重视，建立完善的风险评估和应急响应体系，确保在技术浪潮中占得先机而又立于不败之地。总结来看，美国最大企业将人工智能风险纳入正式风险管理框架的趋势反映了其在AI时代的谨慎与前瞻。技术带来的机遇与挑战并存，企业唯有正视风险、主动调整战略，才能更好地驾驭这一变革力量，迈向可持续的数字未来。
