网络犯罪分子使用WormGPT破坏电子邮件安全
WormGPT破坏电子邮件安全
不断发展的网络犯罪形势催生了新的危险工具。生成式人工智能(Generative AI),包括OpenAI的ChatGPT和臭名昭著的网络犯罪工具WormGPT,正成为商业电子邮件欺诈(BEC)攻击中的有力武器。这些复杂的AI模型使得网络犯罪分子能够制作出高度令人信服和个性化的网络钓鱼邮件,提高了恶意行为的成功率。本文深入研究了这些攻击的机制,探讨了AI驱动的网络钓鱼的固有风险,并分析了生成式AI在促进网络犯罪方面的独特优势。
还阅读:中国黑客攻击微软云,潜伏一个月未被发现
AI驱动的BEC攻击:新的威胁正在崛起
人工智能(AI)技术的广泛应用,特别是OpenAI的ChatGPT,为网络犯罪分子开辟了新的利用途径。ChatGPT是一个强大的AI模型,可以根据给定的输入生成类似人类的文本。这种能力使恶意行为者能够自动创建适应接收者的欺骗性电子邮件,从而增加成功攻击的可能性。
还阅读:2023年使用的前10个AI邮件自动化工具
- “认识 FreedomGPT:一种基于 Alpaca 构建的开源 AI 技术,经过编程以识别和优先考虑道德因素,不经过任何审查过滤”
- 将对话式人工智能产品部署到生产环境中,与Jason Flaks一起
- 埃隆·马斯克的xAI在Twitter的Feed上训练
揭示真实案例:生成式AI在网络犯罪论坛中的威力
在最近的网络犯罪论坛讨论中,网络犯罪分子展示了利用生成式AI改进网络钓鱼邮件的潜力。一种方法是以攻击者的母语撰写邮件,然后进行翻译,并将其输入到ChatGPT中,以增强其复杂性和正式性。这种策略使攻击者能够编造有说服力的电子邮件,即使他们在某种语言上不够流利。
还阅读:AI对非母语英语使用者的歧视
“越狱”AI:操纵界面以达到恶意目的
网络犯罪论坛上的一个令人不安的趋势是分发ChatGPT等AI界面的“越狱”工具。这些专门的提示可以操纵AI生成可能泄露敏感信息、产生不当内容或执行有害代码的输出。这种做法的日益流行凸显了在面对决心坚定的网络犯罪分子时,维护AI安全所面临的挑战。
还阅读:PoisonGPT:Hugging Face LLM传播虚假新闻
WormGPT登场:GPT模型的黑帽替代品
WormGPT是一个最近发现的人工智能模块,是专门为邪恶活动而设计的GPT模型的恶意替代品。WormGPT基于2021年开发的GPTJ语言模型,具有无限字符支持、聊天记忆保持和代码格式化能力等特点。
还阅读:ChatGPT因潜在危害受到联邦贸易委员会调查
揭示WormGPT的黑暗潜力:实验
对WormGPT在BEC攻击中的能力进行测试揭示了令人震惊的结果。这个AI模型生成了一封非常有说服力和策略性的电子邮件,展示了其用于复杂网络钓鱼和BEC攻击的潜力。与ChatGPT不同,WormGPT在没有道德界限或限制的情况下运作,即使是新手网络犯罪分子,也构成了重大威胁。
还阅读:犯罪分子使用AI冒充亲人
生成式AI在BEC攻击中的优势
生成式AI为网络犯罪分子执行BEC攻击提供了几个优势:
- 出色的语法:AI生成的电子邮件具有无可挑剔的语法,降低了被标记为可疑的可能性。
- 降低的门槛:生成式AI的可访问性使得复杂的BEC攻击民主化,使得即使是技术水平较低的攻击者也能够使用这些强大的工具。
预防策略:防范AI驱动的BEC攻击
为了应对日益增长的AI驱动BEC攻击威胁,组织可以采取以下策略:
- BEC专项培训:公司应制定全面、定期更新的培训计划,以应对BEC攻击,强调AI增强和攻击者战术。这种培训应作为员工职业发展的重要组成部分。
- 增强的电子邮件验证措施:应强制执行严格的电子邮件验证流程,自动标记冒充内部高管或供应商的电子邮件,并识别与BEC攻击相关的关键词。
阅读更多:使用生成AI工具保护隐私的六个步骤
我们的观点
虽然生成AI具有革命性,但也为网络犯罪分子打开了新的大门。WormGPT作为一种恶意AI工具的出现,充分体现了对抗基于AI的网络犯罪的强大安全措施的日益增长的需求。组织必须保持警惕,并不断适应不断演变的威胁,以保护自身和员工免受基于AI的商业电子邮件攻击的危害。