近年来，人工智能技术迅猛发展，深刻影响着全球经济和社会的方方面面。作为AI应用的先驱者，纽约州近日通过了被称为RAISE法案的人工智能安全立法，力图从法律层面规范大型人工智能系统的研发与管理，防范因AI技术失控或滥用带来的重大灾难风险。该法案的出台被视为美国首个针对前沿AI模型制定的强制性透明度和安全标准，标志着监管层面对AI潜在威胁的态度逐渐转向务实和严谨。RAISE法案主要针对OpenAI、谷歌、Anthropic等全球顶级AI实验室推出的前沿人工智能模型。这些模型往往依赖巨额算力训练，具备强大推理和生成能力，对社会各领域产生深远影响。然而，其潜在风险也日益显现。
一旦AI系统出现严重安全事故，例如导致百人以上伤亡或经济损失超10亿美元的事件，便会引发难以挽回的灾难。法案明确要求这些大型科技公司必须公开详尽的安全及风险报告，及时报告模型异常行为和安全事件，包括模型被恶意盗用等情况。纽约州纽约州总检察长获得授权对违规企业实施最高达三千万美元的罚款，从而增加违法成本，强化合规压力。不同于之前加州的AI安全法规SB 1047被否决的情况，RAISE法案在设计上引入多个权衡措施，避免对创新活力尤其是创业公司和学术研究形成过度压制。纽约州参议员安德鲁·贡纳尔德斯表示，AI技术发展速度极快，亟需建立规制门槛，防患于未然，守护公众利益。业内部分知名AI科学家如诺贝尔奖得主杰弗里·辛顿以及AI先驱约书亚·本吉奥均公开支持该法案，认为这是迈向可持续且负责任的AI发展的关键一步。
与此同时，硅谷主导的部分风险资本和技术公司则表现出反对和担忧，认为该法案范围过宽，可能导致部分先进模型难以在纽约部署，进而影响该州的技术竞争力。安德烈森霍洛维茨等风投机构公开抨击法案是“愚蠢的州级法规”，担心其将削弱美国在全球AI领域的领先地位。作为回应，法案联合发起人亚历克斯·博雷斯则强调监管设计兼顾了宽松与约束，目标并非限制创新，而是确保安全底线不被突破。纽约作为美国第三大经济体，其市场吸引力巨大。许多AI企业即使面对监管压力，也难以舍弃重要的用户基础和商业机遇，因而不会轻易撤出。法案施行后，预计将推动AI实验室加快完善内部安全机制，加强技术透明性和责任追究，促进整个行业形成更加健康的竞争环境。
值得关注的是，RAISE法案并未要求强制植入所谓“死机开关”或对后续训练过程产生的危害担责，显示出立法者对技术复杂性与监管可操作性的深刻理解。此举有助于避免因过度苛刻的要求导致技术发展受阻，同时为未来立法创新留出空间。Anthropic作为以安全著称的AI研发机构，尽管尚未对法案表态，但联合创始人杰克·克拉克提出了对法案可能过度笼统影响中小型企业的担忧。对此，参议员贡纳尔德斯回应称法案重点聚焦资源消耗超过一亿美元的顶尖模型，未将中小企业纳入监管范围。未来，随着人工智能技术持续演进，类似于RAISE法案的规范框架将成为地方乃至国家层面应对AI风险的重要模式。合理平衡创新动能与安全底线，是推动科技良性发展的必然选择。
纽约的新举措为全球AI监管探索提供了宝贵经验，也提醒各方关注技术进步背后的伦理与责任问题。无论是政策制定者、技术开发者还是普通用户，都应共同促进人工智能朝着更加安全、公正与可控的方向发展。纽约RAISE法案的通过，是建立更加健全AI治理体系的重要里程碑，对于防范潜在的人工智能灾难具有深远意义。随着政府部门、产业界及公众的持续关注与合作，期待人工智能能够更好地服务于社会，释放其积极潜力，减少不确定性的负面效应。
