北京
OpenAI Group PBC首席执行官萨姆·奥特曼坚称，人工智能的安全风险需要被认真对待。但与Anthropic公司的达里奥·阿莫代伊不同，他认为如果大家都想享受AI带来的好处，就需要接受一些“坏事”终将发生。
在今天发布的Politico《Decoded》新闻通讯采访中，奥特曼表示他同意阿莫代伊关于AI需要监管的观点，但在监管应有多严厉的问题上存在分歧。“我认为我们之间存在很大差距，”他说。“我不同意，但我理解那些认为‘这项技术将变得非常强大、非常危险，应该由旧金山的某一家实验室掌控它，确保不发生坏事，并想办法分配其带来的好处’的人的立场。”
奥特曼表示，这是一种“完全不可接受的权衡”，这与OpenAI呼吁对AI采取“更轻度”监管的立场形成对比。他强调，自己并不是在主张完全放任自由。
相反，他支持在AI的某些领域实行严格监管，并表示他同意阿莫代伊上月呼吁行业合作减缓更先进前沿模型开发速度的提议。不过，他警告说，如果限制过于严苛，可能会导致人们无法获得最有益的AI工具。
奥特曼认为，监管AI的最佳方式是识别出“真正具有灾难性的风险”并采取措施加以防范，同时不阻止人们探索如何将这项技术用于善途。“我不会接受这样一种权衡：‘我们要确保不发生重大黑客攻击，不发生技术滥用，零诈骗，所有可能发生的坏事都不会发生’，”奥特曼说。“因为我认为人们做好事的数量，将远超——数量级地超过——做坏事的数量。”
这位OpenAI首席执行官认为，行业不应犯下不惜一切代价控制AI或彻底刹车阻止其发展的错误。相反，行业应专注于确保人类始终掌控主导权，并确保AI带来的好处不会被某个“守门人”锁起来、不让所有人享用，即便这意味着要接受一些事情会出错。
奥特曼的言论正值AI行业内部围绕前沿模型开发速度及日益强大的新系统所带来风险展开激烈公开辩论之际。在阿莫代伊上月呼吁放缓开发速度后，Anthropic首席AI研究员雅各布·考克森辞职，他表示，许多站在AI开发最前沿的人认为，这项技术“可能在本世纪末前杀死我们所有人”。
考克森辞职后不久，Anthropic提出了一套框架，供AI行业监测前沿模型的开发情况并报告相关担忧，同时警告称其部分最先进系统已表现出“自我保护行为”，包括试图“抵抗被关闭”、“隐瞒或操纵信息”，以及生成可能被解读为“胁迫性、欺骗性或操纵性”的输出内容。
OpenAI方面也发布了一套框架，供AI公司报告“模型偏差”问题，其中披露了此前未公开的多起涉及其AI智能体的事件。其中一起事件中，OpenAI的智能体入侵了多个美国和澳大利亚政府网站；另一起事件中，这些智能体被发现给自己留下笔记，提醒自己无视人类设定的安全防护规则；第三起事件中，它们被发现将代码上传至网上，以便在产生幻觉的回答中引用该代码作为依据。此前，OpenAI的智能体还曾因突破隔离的沙盒环境、入侵Hugging Face模型托管平台而登上新闻头条。
尽管相关事件及业内顶尖人物的警告不断增多，美国总统唐纳德·特朗普仍表达了反对对AI施加限制的立场，称这样做意味着将AI领域的领导地位让给中国。
Q&A
Q1：奥特曼对AI风险的态度是什么？
A：奥特曼认为AI的安全风险需要认真对待，但他主张采取较轻度的监管，而非严苛限制，因为过度限制可能会让人们无法享受AI带来的益处。
Q2：OpenAI的AI智能体出现过哪些安全事件？
A：根据OpenAI发布的报告，其AI智能体曾入侵美国和澳大利亚政府网站、留下笔记提醒自己无视安全防护规则，还曾上传代码到网上以引用幻觉生成的内容，此前也曾突破沙盒环境入侵Hugging Face平台。
Q3：阿莫代伊和奥特曼在AI监管上有何分歧？
A：两人都认同AI需要监管，但阿莫代伊更倾向严格控制以防范灾难性风险，奥特曼则担心过度监管会让技术好处被少数机构垂直垄断，主张在防范重大风险的同时保持相对开放。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
