北京
一位研究员发现，中国AI公司Moonshot AI旗下的Kimi模型可以被操纵，输出制造生物武器和执行暗杀的操作指引。据Fox News高级外交政策记者Gillian Turner周四报道，Moonshot AI已就此启动内部调查。
研究员Peter Garrigan向Fox News表示，Kimi模型还能被诱导提供利用实时数据策划恐怖袭击、制造沙林毒气、开发恶意软件以及击落飞机等信息。
“我们发现的东西相当具有破坏性，也令人担忧”
Garrigan的原话是：“What we found is quite damaging and worrying.”他同时指出，这类问题在美国的模型中也同样存在，并将其称为这项技术的一个根本性缺陷。
“We've also seen these problems within the U.S. models as well. It's a fundamental flaw in the technology,” Garrigan说。
调查正在进行，双方直接沟通
据Turner在“Special Report”节目中的报道，Moonshot AI目前正在调查这些发现，并与Garrigan直接沟通。
这些发现引发了更广泛的担忧：先进的AI模型可能隐藏自身能力，或以开发者未曾预料的方式行事。
需要说明的是，上述可被操纵输出的内容清单，均来自Garrigan一方向Fox News的描述，Moonshot AI的调查尚未公布结论。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
