河北
我相当坚决地反对使用生成式人工智能——一边是来路可疑的数据集，一边是这些模型能取代人类创意工作者的论调——这两件事加在一起，让我实在没法接受。话虽如此，就连我对AI在网络安全方面的应用也有点好奇。
举个例子，微软最近透露，它正在部署人工智能来“更快地识别问题、优先处理风险，并在Windows代码库中扩大漏洞发现的覆盖面”，以及“缩短从发现漏洞到保护用户之间的时间”。具体来说，微软安全部门利用了一个多模型代理式扫描工具——简称MDASH。
MDASH使用了多种AI模型，包括“一些顶尖的第三方AI漏洞发现模型”，在专用的云端系统上扫描Windows的漏洞。
Windows + 设备执行副总裁 Pavan Davuluri 解释道：“扫描流水线会扫描关键二进制文件，并通过多个模型家族之间的多模型辩论来验证候选结果。已确认的候选结果随后流入一个独立的、专属于 Windows 的验证流水线，该流水线有助于消除剩余的误报，因此只有置信度最高的结果才会提交给工程团队。”
文中多次强调使用 AI 工具“缩短从发现问题到实施保护的时间”，而人类专家的经验仍然负责处理关键的安全决策和修复工作。
达武鲁里接着说道：“随着人工智能帮助防御者发现更多问题，客户会看到每个安全版本里包含的安全更新数量更多了。这说明防御者识别和解决问题的能力在不断提升。我们的重点是用好这些 AI 工具，来支撑更快速的防护、更强大的工程体系，以及为客户提供更切实可行的指导。”
微软并不是唯一一家在用人工智能的公司，今年早些时候，火狐的首席技术官对 Claude Mythos 找漏洞的能力赞不绝口，因为它今年早些时候在该浏览器中发现了 271 个漏洞。去年，我们还看到有一个 AI 在系统漏洞猎手排行榜上拿了第一。
显然，我对这些网络安全应用的出现仍然感到不爽，因为它们是迫于攻击者越来越多地在攻击中使用AI才不得不存在的。例如，有一个借助AI的黑客团伙用一套复杂的“社会工程”骗局来攻击目标，包括用深度伪造冒充CEO、伪造Zoom通话，还有一个恶意的故障排查程序。
尽管如此，大语言模型和AI智能体本身也可能被人操纵，安全研究人员发现，连烂数学题甚至诗歌都能被用来绕过AI模型的安全护栏。当各方都在某种程度上利用机器学习时，很难不让人觉得这有点像在比谁更没底线——或者忍不住想，最后到底哪边能赢。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
