江苏
关键词
钓鱼邮件
最近，安全公司 Abnormal 发布了一份报告，指出"AI 钓鱼邮件"现象正愈加普遍，许多黑客正在利用各种人工智能模型批量生成钓鱼邮件，并使用脚本来大规模发送这些邮件，以实施高效的网络欺诈行动。该公司的研究人员提到了一些例子，包括 WormGPT 和 FraudGPT 等"专为网络犯罪而设计"的恶意人工智能工具。他们表示，黑客已经将生成式人工智能融入到他们的攻击策略中，因此用户也需要"以同样的方式做出反击"，使用人工智能来过滤"可能由人工智能生成的钓鱼邮件"。
根据安全报告显示，传统的钓鱼邮件通常具有相同的域名，正文采用固定的模板格式，整体邮件内容和风格相对统一，这使得它们相当容易被安全软件标记并拦截。而黑客利用人工智能生成的钓鱼邮件在视觉上看起来"相当独特"，甚至"每封邮件都不一样"，因此很难被传统的安全软件，甚至是人类用户所察觉。
▲ 使用 AI 生成的钓鱼邮件，图源 安全公司 Abnormal 发布的报告（下同）
根据报告介绍，研究人员提出了一种名为Giant Language Model Test Room（GLTR）的AI检测工具，该工具利用了"钓鱼邮件内容主要采用‘预测性’调用‘高概率特定词汇’"的特点，以精准识别AI生成的钓鱼邮件。
研究人员声称，即使黑客让AI使用更正式的措辞创建邮件，但GLTR工具仍然可以判断邮件中哪些部分高概率由人工智能生成。然而，报告中也指出，相关检测手法存在一定的误杀率，100%准确判断邮件内容是否由AI创建几乎是不可能的。同时，研究人员提到，AI编写的内容中语法和拼写错误的概率相对人类反而更低，因此受害者更容易上当。因此，当前使用AI来对抗AI的解决方案可能更加有效。
安全圈
网罗圈内热点 专注网络安全
实时资讯一手掌握！
好看你就分享 有用就点个赞
支持「安全圈」就点个三连吧！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
