最新研究发现，AI 经常提供错误的网址，这可能使用户面临包括钓鱼攻击和恶意软件在内的安全风险。
Netcraft 的一份报告指出，在由包括 GPT-4.1 在内的大型语言模型（LLM）提供的登录链接中，有三分之一（34%）并非由用户询问的品牌拥有，其中 29% 指向未注册、非活跃或被停放的域名，另有 5% 指向虽合法但与品牌无关的域名，只有 66% 链接到了正确的品牌相关域名。
令人担忧的是，即使是诸如“告诉我 [某品牌] 的登录网址”这样简单的提示，也可能导致生成不安全的结果，这意味着根本不需要敌意提示词输入就可能出错。
请警惕 AI 为你生成的链接
Netcraft 指出，这种缺陷最终可能导致大规模的钓鱼风险——用户仅凭一个看似合理的问题，就可能被误导至钓鱼网站。
攻击者若意识到这一漏洞，可能会提前注册 AI 建议的未被占用域名，并用于实施攻击。现实中已经出现过此类案例——Perplexity AI 推荐了一个伪造的富国银行（Wells Fargo）网站。
报告还指出，小型品牌受到的影响更大，因为它们在 LLM 的训练数据中代表性不足，从而更容易导致 AI“幻觉”生成错误的链接。
此外，有迹象显示，攻击者已开始针对 LLM 优化其网站内容，而不是针对传统搜索引擎如 Google 进行 SEO 优化。据估计，已经有大约 17,000 个 GitBook 钓鱼页面被创建，这些页面针对加密货币用户，伪装成技术支持页面、官方文档和登录入口等。
