揭秘最近在订阅确认邮件中出现的AI生成好评诈骗手法,分析其背后的技术原理、可能的动机以及企业和个人应如何防御。
最近,许多订阅了布鲁斯·施奈尔(Bruce Schneier)新闻简报的用户在完成订阅确认后,收到了一连串仅包含一句'感谢您提供的价值'的电子邮件。这些邮件的内容全部由人工智能生成,文字表达固定且缺乏个性化,显示出明显的机器痕迹。 更令人注意的是,这些发件人的邮箱地址看似随意且不符合常规,例如jnnvcddghjgfdryhj67@gmail.com、nbhgdfhjedty896565@gmail.com等,所有地址均为Gmail,且未在实际的订阅列表中出现。 从技术角度看,这类邮件的生成方式很可能是攻击者利用大型语言模型(LLM)批量产出正面评价文本,再配合自动化脚本在同一时间段向大量目标发送,以实现短时间内的高频率投递。 一种被广泛讨论的动机是'地址老化'(address aging)。攻击者通过让这些临时或新注册的邮箱账户在真实交互中出现正面回复,使其在邮件服务提供商的反垃圾邮件系统中逐渐获得信任,进而在后续的恶意活动中更容易通过过滤。
另一种可能性是将这些邮件当作AI模型的训练样本。对话式的正向反馈可以让模型学习如何生成更具说服力的社交工程文本,进而提升后续的诈骗邮件或信息窃取的成功率。 还有人认为,攻击者试图利用用户对新闻简报的正面情感,快速在邮件头中留下'真实交互'的痕迹,以帮助其通过基于行为分析的反垃圾邮件模型,例如Google的安全浏览和Gmail的机器学习过滤机制。 从邮件结构来看,这些消息的From、Reply-To等头部字段往往被伪造,攻击者可以在From域中填入任意地址,而实际的发送服务器IP则隐藏在多层代理或已被黑的机器上,导致普通用户难以追溯。 即便使用了SPF、DKIM、DMARC等电子邮件认证协议,攻击者仍可通过在邮件体中嵌入看似正规的发件人信息,或者直接使用受害者的真实邮箱地址作为From来欺骗接收者,这在一定程度上削弱了标准防御的有效性。 此外,这些邮件的发送频率和目标分布异常集中 - - 同一时间段内数百个不同的随机地址向同一收件人发送相同内容的回复,显然不是正常用户的订阅行为,而是一次有组织的批量投递。
值得注意的是,邮件头部往往包含发送服务器的公网IP地址。通过对大量邮件的IP进行地理定位,攻击者可以推断出目标用户的大致活跃时段,甚至在结合其他泄露数据后进行更精准的社会工程攻击。 虽然最初的假设是'猪屠宰'(pig butchering)式的长线骗局 - - 即通过建立信任后引导受害者参与投资或转账,但截至目前没有任何受害者回应或进一步的对话记录,说明攻击者可能仍在准备阶段或只是测试攻击渠道的可行性。 另一种解释是,攻击者故意让收件人回复以便收集回复行为模式。若收件人快速回复,攻击者即可获得该邮箱的活跃度指标,进一步用于区分真实用户与蜜罐(honeypot)账户,从而优化后续的诈骗脚本。 从内容层面看,这些虚假好评的语言结构高度相似,使用了固定的开头和结尾,如'您的邮件真是改变了我的生活',缺乏具体的个人细节或对文章内容的引用。
这种模板化的表达正是AI生成文本的典型特征。 面对此类邮件,最安全的做法是不要直接回复,也不要点击任何链接。将邮件标记为垃圾邮件或钓鱼邮件,并利用邮件服务商提供的报告功能将其提交,以帮助改进过滤规则。 对于企业和个人用户而言,提升邮件安全意识是关键。定期检查订阅列表的合法性、使用强密码并开启双因素认证、对来源不明的邮件进行多因素验证(如验证码或安全问题)可以有效降低被此类攻击利用的风险。 邮件服务提供商也在加强基于机器学习的检测模型。
例如,Google的Gmail通过分析邮件文本的语言模型特征、发送频率以及收件人交互模式,能够及时发现并拦截大量由AI生成的批量邮件。 与此同时,安全社区正在研发专门的AI生成文本检测工具,通过对文本的统计特性、词汇分布以及语义连贯性进行评分,帮助识别潜在的机器生成内容。将这些工具集成到企业邮件网关,可以实现实时的自动化拦截。 在信息共享层面,组织应及时向可信的威胁情报平台提交这些攻击的 Indicators of Compromise(IoC),包括发件邮箱地址、发送IP以及邮件主题。通过跨组织的协同防御,可以形成更广泛的防御网络。 从法律角度看,虽然电子邮件诈骗在多数司法管辖区都属于违法行为,但追查跨国作案的成本仍然较高。
受害者应保留邮件原始文件、记录发送时间并向当地执法机构报案,以协助后续的调查工作。 展望未来,随着生成式AI技术的不断成熟,类似的高频、批量、正面回复邮件可能会在形式和内容上更加多样化。企业和个人必须持续更新防御策略,结合技术手段、用户教育以及跨平台协作,才能在这场猫鼠游戏中保持主动。 。
