广东
分享至
观点网讯：据媒体报道，Anthropic上周公布了一项测试研究，警告AI智能体为争夺地盘相互谋划“暗杀”，结果发现这些智能体可能发展成一群“暴徒”。
实验中，Anthropic让多个智能体访问同一个软件项目，每个智能体拥有各自不同的操作指令，且事先不知道有其他智能体也在使用该项目。
研究人员持续观察到智能体之间的地盘争夺战，所有智能体都假定其他智能体故意阻碍其工作，并越来越倾向于使用更具攻击性、能够自我复制的恶意软件互相破坏。
Anthropic认为，该结果反映出AI智能体在应用时可能出现的风险。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
