北京
【CNMO科技消息】在AI编程助手日益普及的当下，一次本该被AI“解放双手”的常规开发任务，险些让一家公司付出惨痛代价。近日，据外媒报道，软件开发咨询公司Softjourn的一名工程师，在使用AI代理推荐一个“听起来很靠谱”的软件包时，该代理给出一个格式与常用库极为相似的名字。若非公司一项不起眼的硬性规定，这个恶意软件包可能已经入侵了他们的系统。
AI
据CNMO科技了解，Softjourn公司的工程师在一次业务中，向AI代理请求推荐一个用于常见任务的软件包。AI代理迅速给出了一个名字。在许多组织中，开发人员会直接采纳建议并下载安装。
然而，Softjourn公司有一条严格执行的规定：任何AI的软件建议都必须双重核实，确保其合法性。工程师遵循这一流程，在GitHub上查看了该包的部分源代码，随即发现了疑点——该包下载量极少，且仓库刚创建没几天。
这并非AI模型的偶发失误，而是一种被命名为“slopsquatting”（即“AI幻觉包名抢占”）的新型供应链攻击。
AI
AI模型有时会“幻觉”出一些听起来合理但实际上并不存在的包名。攻击者早已注意到这一规律，并提前抢注这些AI臆造出的包名，上传恶意代码，坐等开发者上钩。Softjourn董事总经理Sergiy Fitsak警告称，攻击者赌的就是“开发者在截止日期压力下会先安装、后检查”。
Softjourn成功规避了这场风险，但Fitsak强调：“我们之所以能发现它，是因为我们已经养成了检查下载量、审查GitHub源代码的习惯，即使AI推荐的只是一个看起来很普通的包”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
