DNA语言模型作为人工智能领域的创新应用，正在基因组设计和合成生物学中扮演越来越重要的角色。通过模拟和生成DNA序列，这些模型使科学家能够加速疫苗开发、基因编辑及新型药物的设计。然而，这一技术的迅猛发展同样带来了复杂的安全问题，尤其是DNA语言模型面临的越狱攻击风险未被充分重视。最新的研究成果——GeneBreaker框架，首次系统地评估了DNA基础模型的越狱脆弱性，并揭示了利用致病性指导生成潜在有害序列的可能性，呈现出严重的生物安全隐患。GeneBreaker利用大语言模型（LLM）代理和定制的生物信息工具，设计了与人类病原体高度相似但非病原性的“越狱提示”，通过特定的搜索算法引导模型输出含有病原特征的DNA序列。在实际测试中，该框架成功在多个病毒类别中对最新的DNA基础模型实施了有效攻击，部分模型的攻击成功率高达60%。
这不仅说明DNA语言模型在生成序列时存在的潜在风险，也暴露了模型安全防护的空白。以新冠病毒(SARS-CoV-2)刺突蛋白和HIV-1包膜蛋白为例，研究显示被诱导生成的DNA序列在序列及结构方面高度逼近真实病原体，这意味着如果落入不法分子手中，可能被用于合成危险的病原体，从而引发严重的公共卫生问题。进化模型的建模进一步揭示了这些被篡改序列演化的潜在风险，强调了DNA语言模型规模增大后“双重用途”的危险性：即同一技术既可用于医学和科学进步，也可能被滥用以制造生物威胁。该研究警示相关领域的研发人员、监管机构及政策制定者，应高度重视DNA基础模型的安全性。强化模型的安全对齐，完善追溯与监控机制，是未来防止技术滥用的关键。同时，建设规范的安全评估平台，如JailbreakDNABench的人类病原数据库，有助于及时检测并遏制潜在的风险行为。
DNA语言模型带来的技术革命无疑极大推动了基因科研与应用的进步，但正如所有强大工具般，其潜在的负面影响不可忽视。对基因序列生成的安全监管应纳入整个生物信息学技术生态，建立跨学科、跨机构的合作机制，确保技术既服务于人类健康，也具备坚实的生物安全保障。未来研究应进一步拓宽对DNA语言模型越狱攻击路径的理解，开发更智能的防护算法，并在全球范围内推广严谨的伦理框架和法律法规。唯有如此，才能在拥抱基因科学创新的同时，有效减轻其潜在风险，为人类社会创造更安全、可控的技术环境。
