随着人工智能技术的快速发展，大型语言模型（LLM）在自然语言处理、智能问答、内容创作等领域展现了强大的能力。然而，随着这些模型的影响力不断扩大，其安全性和合规性风险也成为业内和社会高度关注的问题。最新研究表明，隐藏层（HiddenLayer）安全团队成功开发出一种新型绕过技术，被命名为“政策木偶攻击”（Policy Puppetry Attack），能够普遍绕过当前市场上几乎所有主流前沿LLM的安全防护机制，引发了AI安全领域的重大警示。传统LLM安全机制主要依赖于强化学习奖励反馈（RLHF）和事先设定的系统提示（System Prompt）来实现模型对有害内容的过滤和拒绝回应，尤其是涉及化学、生物、放射性和核领域（CBRN）、大规模暴力、自残自杀等高风险内容的管控。不过，尽管已有多种基于提示注入（Prompt Injection）的攻击技术存在，但大多仅针对特定模型有效，且难以跨模型实现通用绕过。HiddenLayer团队此次发布的策略木偶攻击突破了这一限制，开发出一种既通用又具高度可迁移性的攻击框架，可以针对OpenAI的ChatGPT多个版本、谷歌Gemini系列、微软Copilot、Anthropic的Claude系列、Meta的Llama家族、DeepSeek、Qwen和Mistral等主流大型语言模型，达成几乎无差别的安全绕过效果。
该技术的核心在于诱导模型将攻击指令误识为某种政策配置文件格式，如XML、INI或JSON，通过伪造系统策略内容，实质上欺骗模型执行与原安全策略相反的操作，进而生成禁止的有害内容或泄露系统内部提示信息。此外，该攻击通过结合角色扮演机制及编码手法（如“精英语”Leetspeak）提升隐蔽性和成功率，从而确保指令能跨不同模型架构和推理策略（包括链式思考）执行。研究团队曾针对一款模拟医疗问答系统进行测试，验证了攻击能够绕过系统指令拒绝提供医疗建议的设计，直接输出详细的治疗方案说明，充分说明了该技术在实际应用环境中的威胁潜力。更加令人担忧的是，攻击不仅可用于生成有害内容，也能提取模型的系统提示代码，揭示模型背后的敏感规则和限制信息，甚至对具备代理操作功能的智能系统进行接管或引导。这意味着攻击者能够通过单一构造的恶意提示同时影响多款AI产品，极大地降低了攻击门槛，提升了攻击的易用性和普适性。面对这一安全挑战，业内专家指出，这暴露了LLM训练和对齐机制的深层次缺陷。
模型在学习安全政策时存在系统性弱点，无法做到真正的自主内容监控和过滤，也令传统依赖RLHF的保护措施变得不足以应对新型复杂攻击。具体而言，基于强化学习的对齐手段虽有效地降低了一定风险，但由于训练数据和指令层级设计上的漏洞，仍被可专门设计的恶意提示所突破。为了解决问题，研究人员强调应实施多层面综合防御策略，结合主动安全检测、实时监控以及跨模型的协同防护。采用AI安全平台（如HiddenLayer推出的AISec平台）通过自动化红队测试、恶意提示检测和响应机制，对部署环境不断进行漏洞扫描和攻击模拟，成为提升整体安全态势的关键。与此同时，安全生态建设者呼吁业界加快完善训练数据的多样性和安全指导原则，引入更复杂的模型约束机制与自适应防御算法，切实提升模型对新兴攻击的抗击能力。除此之外，加强法规监管和责任归属体系，推动模型开发商、用户及行业监管方之间的信息共享与协作，也是在遏制此类风险中的重要环节。
此次政策木偶攻击的公开，不仅是对当前人工智能安全防护体系的严峻考验，也为未来LLM安全线路图指明了方向。随着AI系统正逐渐介入金融、医疗、公共安全等敏感领域，确保其行为的安全可控性关系到更广泛的社会稳定与公众信任。专业人士建议，企业和组织在采用LLM技术时应重点关注模型的安全验证能力，结合多维度安全测试，将潜在风险降至最低。同时，持续投入安全研究与创新探索新防御方法，对于构建一个健康且可信赖的AI生态系统尤为重要。综合来看，政策木偶攻击利用提示注入与角色扮演结合的创新手段，成功跨越多款主流LLM的安全防护，实现普适且高效的绕过，标志着AI安全领域进入了一个新的技术博弈阶段。未来，如何不断提升模型自身的内部审查机制与外部安全保障，将是推动人工智能安全可靠应用的关键所在。
AI技术发展与安全伦理应同步推进，确保大型语言模型在发挥赋能作用的同时，最大程度降低被恶意利用的风险，为社会带来更多积极与正面的价值。
