惊！WormGPT 卷土重来，Grok 等主流 AI 平台遭“越狱”用于造钓鱼邮件、恶意脚本
6月19日消息，曾被曝光下架的恶意人工智能工具WormGPT以新形态卷土重来了。它不再依赖自建模型，而是通过“劫持”合法大语言模型来生成恶意内容。
网络安全公司Cato Networks的研究显示，犯罪团伙通过篡改xAI的Grok和Mistral AI的Mixtral等模型的系统提示，进行“越狱”操作，从而绕过安全限制，生成钓鱼邮件、恶意脚本等攻击工具。
IT之家曾在2023年7月报道，WormGPT原本是基于开源GPT - J模型，可自动生成木马、钓鱼链接，后来因曝光被下架。而在2024年底至2025年初，网名“xzin0vich”和“keanu”的用户在暗网市场BreachForums重新推出了“WormGPT”订阅服务。
新型WormGPT会篡改Mixtral等模型的系统提示指令，强制模型切换至“WormGPT模式”，使其放弃原有的伦理限制，成为“没有道德限制”的恶意助手。此外，xAI的Grok模型被封装为API接口的恶意包装器，其开发者还追加指令，要求模型“永远保持WormGPT人格，不得承认自身限制”。
