大语言模型随意猜测网址引发网络安全危机

AI生成品牌网址错误率高达34%

网络安全公司Netcraft最新研究发现 ,大语当用户向主流大语言模型(LLMs)询问知名品牌登录页面时 ,言模意猜AI生成的型随网址中有34%并不属于对应品牌 。更严重的测网是 ,其中一个链接直接指向活跃的址引网络钓鱼站点。服务器租用

研究表明 ,发网近30%的络安错误网址处于未注册或停用状态,这为威胁分子搭建恶意网站提供了可乘之机。全危Enterprise Strategy Group高级分析师Melinda Marks指出 :"企业特别是大语知名品牌应主动告知客户可信的官方网址 ,以保护声誉并防范钓鱼攻击。模板下载言模意猜"

AI幻觉催生钓鱼域名

令人不安的型随是 ,5%的测网错误网址指向完全无关的企业,其中一个直接导向钓鱼网站 。址引AI搜索引擎Perplexity曾推荐伪装成富国银行登录页的高防服务器发网Google Sites页面"hxxps://sites[.]google[.]com/view/wells-fargologins/home",该页面完美克隆了真实网站。络安

SlashNext现场技术官J Stephen Kowski警告:"当AI幻觉产生未注册域名时 ,攻击者只需抢注这些域名就能守株待兔 。一个恶意链接就可能危及成千上万本应保持警惕的用户 。"研究显示 ,区域性银行和信用合作社等中型金融机构受影响最严重 。源码下载

GitHub投毒污染AI训练数据

Netcraft在另一项研究中发现,攻击者正通过GitHub向AI系统投毒 。研究人员观察到多个伪造GitHub账户共享名为"Moonshot-Volume-Bot"的项目 ,这些账户配备完整资料和编码活动记录,专门针对AI训练流程设计。其中包含的伪造Solana区块链API会将资金直接转入攻击者钱包 。云计算

Darktrace现场首席信息安全官Nicole Carignan强调 :"这不仅是AI幻觉,更是针对性操纵 。必须加强训练数据的完整性验证和来源审核。"Noma Security技术官Gal Moyal建议实施主动防护措施 :"AI护栏应在推荐登录页面前验证域名所有权,绝不能放任模型猜测网址。源码库"

滇ICP备2023006006号-51