美国参议院提议建立联邦审核的AI代理人信任名单:确保安全与可靠性
美国参议员马克·沃纳提出的AI AGENT法案旨在通过联邦审核机制,为AI代理人建立安全可靠的认证体系,保护消费者权益并促进技术创新。
随着人工智能技术的快速发展,AI代理人正在深刻改变人们与技术的互动方式。从购物到社交媒体内容发布,甚至账户设置调整,这些智能代理人正在代替用户做出重要决策。然而,AI代理人的不可靠性和潜在风险也引发了广泛关注。为了应对这一挑战,美国参议员马克·沃纳(D-Va.)提出了一项名为《人工智能访问、网关交换和非歧视性转移法案》(AI AGENT Act)的草案,旨在建立一个联邦审核的AI代理人信任名单,确保这些智能工具的安全性和可靠性。AI代理人正在快速普及。根据摩根士丹利的估计,近四分之一的美国人在过去30天内使用AI进行购物,而到2030年,代理式购物者可能带动数百亿美元的在线商业交易。
然而,AI代理人也存在诸多问题。它们可能做出用户绝不会批准的荒谬购买,泄露敏感数据,或违背用户利益行事。随着越来越多的AI机器人涌入互联网,AI机器人之间的互动和交易也变得越来越普遍,这进一步凸显了需要安全或受监管的用户解决方案来验证AI活动背后的可问责的人类身份,并提供基础的安全和隐私保护。AI AGENT法案的核心在于建立一个由联邦贸易委员会(FTC)认证的AI代理人供应商名单。该法案授权FTC创建一个注册表,用于认证AI代理人软件供应商的隐私和网络安全保护措施。具体来说,法案要求FTC认证独立机构对AI代理人供应商进行审核,确保其产品符合基础的隐私、数据安全和用户利益保护标准。
此外,法案还要求供应商将每个AI代理人与其人类操作者的身份相关联,并内置控制功能,使用户能够清晰地授予或撤销代理人代表其行事的权限。尽管FTC无权禁止平台使用不符合标准的AI代理人供应商,但可以将违规者从FTC名单上注销。这意味着,虽然平台可以选择使用未经认证的AI代理人,但消费者将有权选择至少一个符合安全和身份标准的AI代理人供应商。这一机制旨在为消费者提供真正的选择权,确保AI代理人对其服务的用户负责。马克·沃纳参议员在一份声明中表示:"随着代理式AI改变美国人与技术互动的方式,消费者应当在市场上拥有真正的选择权,而AI代理人必须对其服务的用户负责。"他强调,这份讨论稿是建立清晰的联邦框架的重要一步,该框架将促进创新,保护消费者,并确保美国在新兴技术领域继续保持全球领先地位。
除了AI AGENT法案,特朗普政府也在寻求对前沿AI模型的监管基线。本月早些时候,商务部对Anthropic的Mythos 5和Fable 5模型实施了出口管制,并与该公司协商框架,以便对新发布的模型进行政府监督。特朗普政府还发布了一项AI行政命令,设立了一个为期30天的自愿测试计划,允许AI公司提交某些前沿模型进行测试和评估。然而,Anthropic声称,其广泛的内部测试未发现Fable 5存在任何通用的越狱漏洞,并且迄今为止的第三方研究也没有显示其防护措施被绕过。AI代理人的快速发展也带来了新的安全挑战。研究显示,AI模型的快速发布可能导致短暂的安全漏洞,开发者不得不在性能和安全之间做出选择。
此外,AI代理人的广泛应用也使得内部威胁风险增加,恶意或无意的内部人员可能将敏感数据置于风险之中。因此,政府机构必须更加关注身份安全,以应对AI时代的挑战。AI AGENT法案的提出反映了美国政府对AI代理人潜在风险的重视,以及对建立安全、可靠的AI生态系统的迫切需求。通过联邦审核机制,该法案旨在为消费者提供更多选择权,同时确保AI代理人符合严格的安全和隐私标准。随着AI技术的不断发展,类似的监管措施可能会在全球范围内得到推广,以确保AI技术的安全、可靠和负责任的使用。 。
