2024年初，一起引起广泛关注的案件在新罕布什尔州上演：一名政治顾问因利用人工智能技术制作机器人电话，模拟前美国总统乔·拜登的声音，向该州民主党选民发送误导性信息，被控选民压制以及冒充候选人等多项罪名。然而，经过激烈的庭审，该顾问最终在所有指控上被陪审团宣布无罪释放。这起事件不仅引发了公众对人工智能在政治竞选中的应用和潜在风险的关注，也让人们开始重新审视现有法律体系面对AI技术挑战时的不足和未来的改进方向。此案的关键人物是56岁的政治顾问史蒂文·克莱默（Steven Kramer），他承认策划了这次机器人电话活动，并向法庭透露了其背后的动机。据悉，这条语音讯息借助AI生成了与拜登极为相似的声线和其标志性口头禅“什么一派胡言”，并含蓄地传达了投票者若在一月份初选中投票，将可能失去在11月份大选中投票权的错误信息。法院文件显示，通话提示选民“请把您的选票留到十一月份投”，暗示此时的初选毫无意义。
克莱默自辩称，他的目的并非真正误导选民，而是想唤醒公众对人工智能技术在政治活动中滥用的警觉。为此，他甚至支付150美元给新奥尔良一位魔术师制作了这段录音，用意是通过制造争议来引发对AI潜在危害的公众讨论。事实上，克莱默在法庭上称这将是他今年做的“唯一一件好事”。然而检方则认为，这种机器人电话的行为严重破坏了初选的公正性，是对选举的直接攻击，涉嫌违反州内的选民压制法律和候选人冒充规定。案件审理过程中，双方就“克莱默是否构成冒充候选人”一事各执一词。克莱默辩护律师提出，电话中未明说拜登姓名，而拜登本人也未正式登记此次初选，克莱默的行为不符合冒充规定；此外，他强调此次新罕布什尔的初选在民主党全国委员会眼中其实是“无意义的草根民调”，因而相关选民压制法律不应适用。
他们进一步将部分责任归咎于民主党全国委员会，指出该委员会曾因拜登请求调整了该州的初选时间，甚至威胁不承认该州选出的代表，但最终又撤销了这一决定。案件的焦点也令人关注人工智能技术在政治领域的广泛影响。近年来，AI合成语音和深度伪造技术得到迅猛发展，成为竞选活动和政治宣传的新工具。虽然这些技术带来了创新潜力，却也带来了欺诈、误导甚至操纵公众舆论的风险。法律和监管框架尚未完全跟上技术发展的步伐，导致类似案件频现，其合规界限与道德边界逐渐模糊。陪审团最终判决克莱默无罪，反映了司法系统在面对这一全新科技挑战时的复杂态度和审慎考量。
新罕布什尔州众多陪审员认为，尽管机器人电话使用了AI技术模拟前总统声音，但信息本身并未明确冒充当前候选人，且所涉及的初选被视作缺乏法律效力的非正式民调，因此不能成立选民压制罪。此外，检方提出的每一项指控都未达到法律规定的证明标准。尽管如此，新罕布什尔州检察长约翰·M·福梅拉仍强调，选举法律的执行不会放松，他表示将继续努力解决人工智能等新兴技术带来的挑战，确保选举的公正性和完整性。从更广泛的层面看，这起案件也暴露了联邦通信委员会（FCC）在监管人工智能生成的政治机器人电话方面的难题。虽然该机构曾在特朗普总统任内开始制定相关政策，但随后出现放松趋向，塞舌尔乡村公司（Lingo Telecom）因这次电话事件达成了支付100万美元和解金。克莱默则拒绝支付高达600万美元的罚款。
与此同时，美国多州已经开始出台针对深度伪造和AI生成内容的法律，希望以法律手段限制恶意操纵和误导公众的行为，但联邦层面的立法和执行仍陷入僵局。更令人担忧的是，美国众议院共和党部分议员试图通过税法修正案阻止地方及州政府在未来十年内制定针对人工智能的规章政策。这种政策走向或将对技术监管产生重大影响。这起模仿拜登声音的AI机器人电话案件，不仅突显了人工智能时代选举舞弊新形式的复杂性，也提醒公众及立法者，必须在技术创新与保护民主机制之间找到平衡点。科技发展迅猛，相关法律和监管框架却难以同步更新，风险得不到有效控制，可能成为未来政治生态的隐患。如何合理界定AI合成声音的使用边界、确保选民获得真实有效信息以及防止选举被工具化，是当前亟需响应的重大议题。
未来，随着人工智能技术更深层次的介入政治进程，强化立法、提升技术监测手段以及加强公众教育，将成为维护选举公正和民主稳定的重要保障。而这起案件的判决则成为了人工智能与政治交汇处一个具有标志意义的事件，促使社会各界重新审视AI在公共事务中应承担的责任和应遵守的道德规范。
