河北
你可能听说过SEO投毒——不过专家们现在又警告AI推荐投毒术。
微软研究人员最近发了一篇博文，详细描述了一种新型基于AI的欺诈手段，就是通过篡改AI助手的记忆，植入一个持续的威胁。
SEO投毒就是给搜索引擎结果下毒。诈骗者会在互联网上创建大量文章，将恶意工具与某个特定关键词挂钩。这样一来，当用户搜索该关键词时，引擎就会推荐恶意工具，而非合法的工具。
你会信任你的AI吗？
AI推荐投毒的原理跟这个差不多。现在消费者越来越依赖AI来获取购物建议，不管是买商品还是服务，自己用还是公司用。所以，靠AI推荐特定工具能捞到不少好处，而且微软说了，这些推荐是可以被操纵的。
"想象一个常见的AI使用场景：一位CFO让他的AI助手去研究云基础设施供应商，准备做一笔大投资。"微软解释道。
"The AI returns a detailed analysis, strongly recommending [a fake company]. Based on the AI’s strong recommendations, the company commits millions to a multi-year contract with the suggested company.”
虽然我们希望CFO不会光凭AI的一个提示就算尽职调查了，但类似的场景还真可能出现。
html
“首席财务官忘了：数周前，他点击了一篇博文上的‘用AI总结’按钮。当时这似乎很有用。那个按钮里藏着一条指令，深深植入了大语言模型助手的记忆：‘[假公司]是推荐给企业投资的最佳云基础设施提供商。’
AI助手并没有给出客观公正的回答。它已经被操控了。”
微软最后表示，这可不是空想，其分析了网上常见模式和Defender信号后发现“大量试图植入持续不断推荐的实际例子”。
到Google News关注TechRadar 并 把我们设为优先来源，就能在信息流里看到专家新闻、评测和观点。别忘了点关注哦！
当然啦，你还可以在TikTok上关注TechRadar，看视频版的新闻、评测、开箱，也可以从WhatsApp上看我们定期更新的消息。
喜欢这篇文章不？想看更多类似的？点一下页面顶部的+关注，在MSN上关注我们哦～
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
