近年来，人工智能技术飞速发展，尤其是语言模型如ChatGPT在全球范围内广泛应用，为用户提供智能对话、代码调试、信息查询等多种服务。然而，随着技术的普及，一些恶意势力也开始利用AI平台进行非法活动，尤其是一些国家背景的黑客团体，他们利用ChatGPT辅助开发和优化网络攻击工具，进行信息窃取和社会工程攻击。为应对日益严峻的安全挑战，OpenAI近日宣布封禁了一批疑似由俄罗斯、伊朗和中国黑客组织控制的ChatGPT账户，揭示了AI滥用的具体情况及其对全球网络安全的影响。根据OpenAI发布的威胁情报报告，这些被封禁的账户主要被几个先进持续威胁组织（APT）利用，在攻击行动中借助ChatGPT提升恶意软件开发效率、自动化社交媒体操作以及进行技术侦察。以俄罗斯背景的黑客组织为例，他们利用ChatGPT协助开发和微调基于Go语言的Windows恶意软件，改进代码，调试多种编程语言，并搭建指挥控制基础设施。这些活动强调了恶意黑客对操作安全（OPSEC）的高度重视，利用多个临时账户分散访问，每个账户仅进行一次性对话以对恶意软件进行细节优化，然后放弃账户，避免暴露身份。
被称为ScopeCreep的恶意软件通过伪装成流行的游戏辅助软件进行传播，感染用户系统后启动多阶段攻击流程。其设计目标包括提升权限，以实现隐蔽持久化的攻击状态，利用PowerShell脚本排除Windows Defender的检测，采用Base64编码隐藏负载，同时借助DLL侧载和SOCKS5代理隐藏黑客源地址。该恶意软件侧重窃取浏览器中存储的凭证、令牌和cookies，并以加密形式向黑客控制的Telegram频道发送被害信息。除此之外，ScopeCreep还试图通过代码向OpenAI的模型求助，用以调试HTTPS请求、集成Telegram API以及修改防病毒软件配置，表明黑客在利用AI加速恶意软件开发。与此同时，两个与中国相关的APT组织也被发现通过ChatGPT进行广泛的技术活动。他们利用AI协助进行开源情报收集、系统配置排错、软件开发以及基础设施搭建。
这些组织不仅涉及Linux系统管理，还进行Web及安卓应用开发，并使用ChatGPT协助撰写暴力破解FTP服务器的脚本，研究如何将大型语言模型用于自动化渗透测试，甚至开发用于大规模管理安卓设备以自动发布和点赞社交媒体内容的工具。值得注意的是，其他国家和地区的相关恶意活动也借助AI展开。例如与朝鲜相关的网络行动利用AI驱动欺诈性招聘活动，制作虚假求职材料以实施远程职场诈骗。还有多个中国起源的社交媒体推广网络，利用AI批量生成涉及政治、地缘战略话题的推文和评论，旨在影响不同国家的舆论环境。一些针对菲律宾、伊朗、柬埔寨及俄罗斯来源的活动也表现出类似趋势，借助AI自动生成多语言的宣传信息，支持特定政治立场或制造社会分裂。OpenAI的研究人员指出，这些利用AI的攻击显示了网络犯罪结构的复杂化，例如任务诈骗形式的蔓延，即通过收取新招募成员的高额“入职费”，用部分资金支付老成员以维持游戏操作，形成骗取利益的循环机制。
面对黑客利用人工智能技术进行攻击和信息操纵的挑战，OpenAI采取了积极且果断的措施，以保护其平台的安全性及合法使用。封禁涉及恶意行为的账户不仅阻断了攻击者利用AI加速恶意操作的路径，也彰显科技公司在当前数字时代承担的安全责任。此外，这一事件提醒企业和政府机构，必须高度重视AI技术潜在的双刃剑特性，综合运用技术检测、威胁情报分享和多层次防御体系提升网络防护能力。人工智能既是推动社会进步的重要引擎，也可能被不法分子用作工具，服务于网络间谍、信息战、网络诈骗等违法行为。只有通过跨界合作，加强国际网络安全治理和规范，才能最大限度地减轻AI滥用带来的风险，保障互联网环境的安全与诚信。总的来说，OpenAI封禁被俄、中、伊等黑客团体滥用的ChatGPT账户，不仅揭示了现代网络攻击的隐蔽复杂手段，也反映了AI技术在维护全球网络安全中的核心作用。
随着人工智能技术的不断演进，如何平衡创新与安全，将成为业界和监管层面必须共同面对的重要课题。各方应继续加强对AI滥用现象的监控和研究，推动建立有效的防范机制，确保人工智能的正面价值能够充分发挥，而非成为恶意势力的帮凶。
