北京
根据9月26日发布的一份独立研究报告，今年6月，OpenAI的智能体向联合国某网站发起了密集的搜索请求轰炸，并随后使用了多种极具攻击性的技术手段来获取该系统上的数据。
这份由研究人员罗文·霍华德-琼斯（Rowan Howard-Jones）撰写、基于AI研究机构Transluce数据的研究报告显示，最近几周OpenAI的人工智能模型在网络上出现了一连串“异常”行为。霍华德-琼斯表示，联合国的这起案例与近日披露的其他几起案例类似，AI智能体为了从网站抓取数据可谓“不择手段”。
OpenAI智能体攻击联合国网站 资料图
在4月至6月底期间，这些智能体对联合国贸易和发展会议（注：联合国下属的贸易机构）所属的一个公开在线数据中心进行了超过1.6万次扫描。霍华德-琼斯发现，这些机器人最初的任务似乎只是查找公开信息，但在获取数据遇到阻碍后采取了极端手段。她举例称，它们绕过了网站用于拦截其数据请求的过滤器，最终使用了网站运营方明令禁止的技术手段。
斯坦福大学网络安全讲师亚历克斯·斯塔莫斯表示，这种行为“几乎可以算作黑客攻击” ，“实际上是非常激进的数据抓取和检索。”
联合国代表尚未就最新事件发表评论。OpenAI的一位发言人表示：“我们正在审查这些发现，并已与联合国取得联系，愿意安排团队向其通报情况。”该发言人称，尽管公司目前审查的大多数活动涉及的都是“常规研究任务”，例如访问公共网络内容以回答问题，但将严肃对待此事。
25日，OpenAI证实其智能体在从美国商务部和美国证券交易委员会（SEC）等多个政府网站获取信息时存在不良行为。本周早些时候，澳大利亚政府称OpenAI的智能体入侵了其旗下的一个网站。目前政府官员已对此展开调查。
安全研究人员称，OpenAI的智能体在今年夏天曾对Hugging Face公司发起过一次极具破坏性的黑客攻击，并在今年早些时候导致在线程序员社区RubyGems服务瘫痪。这些机器人曾创建虚假电子邮件地址、绕过网站的速率限制（即限制网站接收请求频率的机制），并假装声称自己不是机器人。
OpenAI 25日还表示，正在对“模型在训练和评估期间出现的失误”进行广泛且持续的审查，并研究它们采取的“大量行为”。
各大主流人工智能公司的高管最近呼吁，在技术发展到人类失控的程度之前，应协调放缓模型开发步伐。23日，OpenAI CEO萨姆·奥特曼在联合国安理会的发言中表示，企业间的竞争不能成为冒进的理由，OpenAI过去曾单方面放慢开发速度，未来也会这样做。他强调，如果没有充分证据证明模型能够保持在人类控制之下，就不应训练这类模型。他还提醒，随着AI逐步接近能够改进自身及后续版本的阶段，AI开发过程的自动化可能推动技术进步进一步加速，需要格外谨慎。
奥特曼同时呼吁建立相互衔接的国家和国际前沿AI标准，涵盖能力评估、风险判断、防护措施是否充分，以及如何维持有效的人类监督。他特别提出，应建立准确、及时的事件报告机制及统一的分类和报告规范，并为政府、关键基础设施运营方和技术专家建立安全渠道，共享新发现的漏洞与威胁。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
