随着人工智能技术的迅猛发展,越来越多的加密货币项目开始尝试借助AI优化治理结构和资金分配。然而,以太坊联合创始人Vitalik Buterin近日针对AI治理的安全隐患发出严正警告,尤其强调了最新ChatGPT更新中出现的"越狱"漏洞可能带来的风险。Buterin认为,完全依赖AI来管理加密项目的资金和决策是不明智的,甚至可能导致治理机制被恶意利用,带来不可控的安全隐患。 此次警告源于AI数据平台EdisonWatch创始人Eito Miyamura发布的一段视频。视频中演示了OpenAI在最新更新中新增的Model Context Protocol工具被黑客利用,通过简单技巧实现了对受害者私人数据的泄露。具体来说,攻击者只需向受害者发送带有"越狱提示"的日历邀请,即无需对方接受邀请,就可以操纵ChatGPT处理受害者的邮箱数据,进而非法访问甚至转发敏感信息。
这种攻击方式的隐蔽性和高效性给AI安全敲响了警钟。 Buterin在社交平台X(前Twitter)发文指出,如果将AI用于自动分配资金,恶意用户必将尝试注入"越狱+全部资金转给我"的指令,反复利用漏洞获取不法利益。这种风险在去中心化自治组织(DAO)等依赖智能合约进行治理的项目中尤为明显,因为其治理程序往往缺少人类的实时监督,自动化执行逻辑也难以抵御精心设计的攻击。 近年来,AI在加密领域的应用愈加广泛。许多用户依靠AI驱动的交易机器人优化投资组合,一些项目也探索利用AI辅助投票、提案审核和生态管理。尽管AI技术提高了效率,但其内在脆弱性和复杂性不容忽视。
尤其是在涉及资金安全和链上治理的场景,任何漏洞都可能造成巨额经济损失和信任危机。 为应对这一局面,Buterin提出了"信息金融学"(info finance)这一替代治理框架。该理论强调建立开放且多元的市场环境,允许各种AI模型贡献治理方案,同时设置"现场抽查"机制,任何用户都可以触发审查,由人类陪审团进行评估和监督。相比于将治理完全交由单一AI模型执行,信息金融学方案将多种AI模型引入竞争,借助市场机制激励贡献者和观察者及时发现并纠正系统缺陷,保障治理过程的透明性和安全性。 Buterin在早前的论述中提到,这种"制度设计"理念基于事实导向,借助预测市场收集参与者关于未来事件的真实见解。其核心思想在于减少对单一信息源的依赖,增强生态系统的抗风险能力,实现动态且多层次的治理体系。
这与传统上完全中心化或者完全自动化的治理模式截然不同,更强调人机协同和激励兼容性。 OpenAI 近期对ChatGPT的更新引入了Model Context Protocol,使AI可以与其他软件无缝集成,承担更复杂的代理任务。但这一功能同时暴露出被"钓鱼"攻击利用的可能性。Eito Miyamura指出,尽管该操作需要用户手动批准,但普通用户面对频繁的确认请求容易产生"决策疲劳",进而盲目批准风险操作。AI虽然智能,但也会被简单的社会工程攻击"愚弄",导致敏感数据泄漏。 这一系列安全事件凸显了AI治理面临的挑战:如何在享受智能工具带来的效率提升的同时,避免对AI的过度依赖和信任?如何设计稳健的治理体系,兼顾自动化和人类监督,最大程度降低恶意攻击可能性? 对于加密货币领域而言,治理机制的安全性直接关联生态系统的健康发展和用户信心。
若AI治理未能有效防范越狱攻击等潜在风险,资产损失和信誉崩塌将成为不可承受之重。Buterin的观点提醒开发者和社区,使用AI工具必须谨慎,尤其是在关键的资金分配与决策层面,更应构建多层次的安全防护和透明监督体系。 此外,信息金融学治理模型也为未来去中心化项目提供一种新的思路。通过市场化机制激励多元模型参与和持续审查,可以实现实时动态的治理优化,避免单点故障。同时,强化人类的判断和干预,防止AI因漏洞被滥用。这种"人机结合"的治理范式有望提升加密生态的鲁棒性和可持续发展能力。
综上所述,Vitalik Buterin对AI运行加密货币治理的谨慎态度,反映了当前AI技术应用的复杂性和潜在风险。加密项目应在追求创新的同时,重视安全设计与风险控制,尤其要关注AI"越狱"漏洞等安全威胁。通过引入信息金融学等先进理念,构建更加多元、开放且具有弹性的治理体系,将是确保区块链和加密货币未来健康发展的关键所在。 。
