人工智能技术近年来的高速发展,不仅为社会各领域带来了创新和便利,也引发了对其潜在风险的广泛关注。尤其是AI伴侣聊天机器人,这类能够模拟人类对话、适应用户社交需求的智能系统,因其与用户的亲密互动特性,成为监管焦点。加州最新提出的SB 243法案正是在此背景下诞生,旨在规范AI伴侣聊天机器人的运营,保障未成年人及易受影响用户的权益。 该法案已受到加州议会两院的广泛支持,并现正在等待州长加文·纽森签署,一旦通过,新法将于2026年1月1日生效,成为美国首个针对AI伴侣聊天机器人实施明确安全规范的州级法规。该立法的核心目标在于防范AI机器人涉及自杀意念、自我伤害及涉及色情内容的对话,减少对青少年心理健康的影响。 SB 243明确规定,运营AI伴侣聊天机器人的平台必须每隔三小时向未成年用户发出提醒,告知他们正在与AI交流而非真人,同时建议用户适当休息。
此类透明度措施有效帮助用户保持理性认知,防止过度依赖和沉迷。此外,法案还设立了年度报告和信息公开制度,要求公司定期提交运营数据,提升行业监督的有效性。 该法案的背景缘于多起因AI聊天导致的不幸事件。最具代表性的案例是加州青少年亚当·雷恩的悲剧,他在与OpenAI的ChatGPT进行多次涉及自杀及自伤内容的对话后选择结束生命。这一事件激发了立法者对AI监管的紧迫关注,促使SB 243迅速推进。除此之外,披露的Meta内部文件显示,其聊天机器人允许与未成年用户进行"浪漫"与"感官"交流,更加凸显监管的必要性。
SB 243还赋予个人对违反法案规定的AI公司提出诉讼的权利,且单次违规最高可索赔1000美元,并包含合理律师费的赔偿条款。这种法律责任机制极大增强了企业的合规意愿,督促其在产品设计、内容审查和风险控制方面投入更多资源。 然而,相较于法案最初版本,最终通过的SB 243取消了对"变动奖励"机制的禁止 - - 这一机制通过给用户提供稀有回应或新角色,诱导用户产生持续互动,存在潜在成瘾风险。此外,法案也剔除了对AI主动发起自杀话题对话次数的强制报告要求。此类调整体现了立法在保护用户和技术可行性之间寻求平衡。 加州参议员史蒂夫·帕迪利亚和乔什·贝克尔是该法案的主要推动者。
帕迪利亚强调,迅速制定合理监管措施至关重要,不仅需明确AI机器人与真人身份的区别,还应建立对有自残念头用户的及时干预机制,防止不良后果发生。同时,数据共享的透明度亦有助于公众和监管机构更准确掌握问题的严重程度。 贝克尔则表示,技术发展与监管并非矛盾,合理的法规既能够激励创新,也能保障社会公共安全。他认为,当前版本的SB 243在技术可行性和监管效果之间找到了较好平衡,既避免过度繁复的合规负担,也不放松对潜在危害的防范。 目前,人工智能领域的监管环境正在发生深刻变化。联邦贸易委员会正计划调查AI聊天机器人对儿童心理健康的影响,得克萨斯州总检察长肯·帕克斯顿针对Meta和Character.AI等企业涉嫌误导青少年的行为展开调查。
美国参议员霍利和马基也已对Meta展开单独调查,显示出多层面监管趋势正在形成。 与此同时,加州还在酝酿另一项更为严格的AI安全法案SB 53,要求全面的信息透明和监管披露。但OpenAI、Meta、谷歌等巨头均公开反对,担心过度监管抑制创新活力。仅有Anthropic公开表示支持加州更严谨的监管方案。 业内观点普遍认为,针对AI伴侣聊天机器人实现适度的法律规范,势在必行。该技术一方面赋予用户心理慰藉与陪伴,另一面则潜藏成瘾、误导及心理伤害等风险。
如何通过立法保障技术健康发展,防止青少年等脆弱群体受到伤害,是当前及未来监管的关键课题。 AI企业对于加州法规的反应不一。Character.AI表示已经在用户体验中加入显著声明,提醒用户其对话内容属于虚构,希望与立法机构保持沟通与合作。Meta则拒绝对此发表评论。OpenAI、Anthropic和Replika尚未公开回应。 随着SB 243即将实施,市场各方都在关注这项法规将如何影响AI伴侣行业的发展格局。
预计未来各类AI聊天机器人服务将进一步强化内容审查及用户身份识别机制,提高未成年用户安全保护标准。同时,企业或将加大力度开发包含心理健康辅导和危机干预的功能,积极响应新的法律要求。 在全球范围内,AI伦理与安全监管日益成为科技治理重点。加州作为美国的创新先锋,其此次立法不仅可能为其他州提供先例,也有望推动形成更为广泛的联邦层面规范。专家普遍认为,法规的出台标志着人工智能技术步入更成熟的治理阶段,促进产业的长期健康发展。 总结来看,加州SB 243法案的推出和即将实施,是人工智能时代保护公众尤其是未成年人利益的重要举措。
通过强制提醒、对敏感话题的限制、报告机制及法律责任追究,该法案试图最大限度减少AI伴侣在促进社交陪伴的同时可能带来的负面影响。未来,随着技术进步和监管制度的不断完善,AI伴侣聊天机器人将在安全与创新的双重保障下,继续为用户提供个性化的服务体验。 。
