北京
在上一届Black Hat大会的展区交流中，ActiveState产品主管Jonny Rivera发现，几乎每一场与AppSec负责人、平台工程师及CISO的对话都会触及同一个问题：到底谁在真正审查AI生成的代码？ 开发者对AI编码工具的热情并未消退，生产力提升确实显而易见，开源软件也依然是现代企业应用的中坚力量。然而，当AI编程助手以毫秒级速度自动补全第三方依赖建议时，企业安全团队和开源维护者共同面临一项全新挑战——代码生成速度已远远超出传统人工审查的承载能力。 当未经审查甚至凭空捏造的依赖项以机器速度进入代码库，提交后的软件成分分析（SCA）扫描往往跟不上节奏。保障这条流水线的安全，并不意味着要拖慢开发速度或限制开源软件的使用，而是需要在依赖项被选中进入环境的那一刻实施治理，在import触发构建之前就完成把关。 大语言模型（LLM）推荐软件库时，依据的是统计概率和历史代码模式，而非实时包注册表的验证结果。当模型建议了一个在PyPI或npm上并不存在的包名，就可能制造出一种供应链漏洞——俗称“slopsquatting”，即AI包幻觉利用。 这一威胁的规模在USENIX Security的一项研究中被清晰揭示。该研究分析了16个流行的代码生成模型，覆盖超过50万个代码样本，结果显示：AI建议的包名中，有一定比例根本不存在于公共注册表；而在那些确实能解析到真实包的依赖里，近一半包含已知CVE或已过时版本。 攻击者正持续监控公共大模型的输出模式和开发者代码仓库，专门寻找这些幻觉包名。一旦发现，他们就会在PyPI或npm上注册该名称，并上传恶意载荷，从而对使用AI辅助开发的整个供应链构成严重威胁。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
