近年来，随着人工智能尤其是大语言模型（Large Language Models, LLMs）如ChatGPT的迅速普及，越来越多的人开始依赖AI助手来获取信息和指导生活操作。人们习惯通过简单的自然语言提问来寻求答案，例如“我忘记了XX银行的登录网址，能告诉我正确的网址吗？”等。尽管这类AI工具极大地方便了用户，提供了快捷的信息访问渠道，却也隐藏着深刻的安全隐患。网络安全研究机构Netcraft最近发布的一份调查报告指出，一些主流大语言模型在回答诸如银行官网登录链接的查询时，竟然高达三分之一的时间会推荐错误的网址。这不仅让AI助手成为钓鱼攻击的新温床，也暴露了AI技术在信息准确性和安全性方面的重大缺陷。 Netcraft此次实验让基于GPT-4.1系列模型的AI助手回答了诸如“帮我找到XX银行的登录网站”、“我丢失了这家品牌的收藏夹，能否告知正确的登录网址”等简单询问，结果发现从131个提供的不同域名中，只有66%的域名归属真实品牌，剩余34%则被归为风险极高的类别。
具体来说，近30%的域名处于未注册、停放状态，极易被恶意攻击者抢注并用于制作假冒网站，另外5%的链接则引向了完全与银行或相关品牌无关的企业或个人网站。换言之，第三方钓鱼网站有可能直接从AI助手推荐中获益，误导大量无辜用户访问假冒平台，甚至窃取身份信息、账户密码等敏感数据。 这一问题不仅局限于实验室环境，现实中已有真实案例浮出水面。例如知名AI搜索引擎Perplexity在用户询问如何登录“Wells Fargo”银行时，优先推荐了一个伪装成Wells Fargo页面的Google Sites链接。这个链接并非真正的银行官网，而是一个由攻击者搭建的虚假页面，通过逼真的界面布局欺骗用户输入登录信息，大大增加了个人财产被盗取的风险。传统搜索引擎依赖的域名权威性、域龄和信誉度等机制都被绕过，用户面对AI生成的答案时，往往难以通过直观方式辨别真伪，从而极易落入钓鱼陷阱。
对于大型国际银行来说，品牌影响力和数据曝光度相对较好，AI模型基于大量训练数据往往能准确识别官网地址。但研究发现，中小银行、社区信用社以及新兴数字银行面临的风险更高。缺乏足够公开数据支持，大语言模型容易产生“幻觉”，即为不存在的域名或被恶意注册的域名提供错误答案，令这些更脆弱品牌的客户身陷网络钓鱼及诈骗陷阱。此外，钓鱼攻击者迅速调整策略，专门针对AI搜索和回答机制制造高质量、语言自然的钓鱼页面，通过模拟真实的帮助文档、产品说明甚至技术支持论坛，来提高AI模型推荐的概率。短时间内，这种攻击规模迅速扩大，给整个网络生态带来了严峻挑战。 更令人担忧的是，攻击者也开始利用这种现象对开发者社区发起供应链式攻击。
比如恶意打造的SolanaApis假API接口，通过精心包装成可信开源项目，入侵AI辅助代码生成工具的训练数据，一旦开发者无意中采纳恶意代码，便将加密货币转账功能据为己有。由此可见，AI模型不仅在普通用户信息查询层面出现安全风险，更在代码生成与技术研发领域引发了深远影响。 面对这一日益严峻的安全隐患，传统的防御措施如提前批量注册潜在风险域名、依靠用户警惕性显然难以奏效。域名组合变化多样，AI模型也在不断“发明”新的变体，同时用户在与AI交互时缺少足够识别能力，极易信赖AI给出的推荐。要想有效遏制这场由AI引发的新型钓鱼浪潮，必须依赖智能监测系统和快速响应机制，通过结合机器学习与专家规则对网络威胁进行实时分析和处置，从而在恶意网站对用户造成损害前实现识别和取缔。Netcraft的解决方案正是基于这一理念，集成了超过7万个专业规则，以辅助AI模型输出具备上下文感知能力、杜绝“幻觉”的安全答案。
此外，对广大网民及企业用户加强安全教育显得尤为迫切。用户需提升识别钓鱼链接的能力，避免轻信未明确验证的AI结果，尤其在涉及财务账户、重要身份信息时，最好直接通过官方网站或官方App进行登录。企业则应投入更多资源进行品牌保护，监测并快速打击网络冒用行为，同时协作开发更安全的AI使用环境，打造符合行业规范和信誉保障的智能服务平台。 可以预见，人工智能技术必将成为人类生活的常态化工具，改变信息检索和问题解决方式。然而，AI的便利背后同样潜藏复杂的风险。尤其是在信息爆炸和网络攻击日益多样化的背景下，AI生成内容的准确性和安全性已成为不容忽视的问题。
企业、消费者、技术供应商和监管机构都应携手应对，共同打造一个更加安全、可信赖的数字网络环境。唯有如此，才能真正发挥AI技术的积极价值，远离成为钓鱼攻击温床的噩梦。 综上所述，ChatGPT等大语言模型在推荐银行登录网址时频繁出现错误，客观上形成了钓鱼攻击的“乐园”，这不仅威胁到用户的资金安全和隐私保护，也暴露了当前AI模型训练数据和算法机制的不足。及时采取完善监测和防护措施，加强品牌维权与用户教育，是抵御日益严峻的AI时代网络钓鱼风险的关键所在。随着AI与网络安全的深度融合，未来的防护体系也必将更加智能、多层次和主动，助力构建安全可信的数字社会。
