山东
IT之家 11 月 14 日消息，曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森称，Anthropic 在 IPO 路演中展示的一张幻灯片，是促使他离职的重要原因。
考克森在 Anthropic 只工作了约四个月。让他决定离职的原因之一，是公司 IPO 路演中一张展示 AI 模型训练算力需求变化的图表。图表采用压缩坐标轴，即使算力需求增长 10 倍和 100 倍，看起来也相差不大。
即便如此，曲线依然急剧上升。考克森认为，这说明算法效率不仅在快速提高，而且提升速度还在不断加快。“这张图实在太惊人了，没想到他们竟然会公开。”
考克森认为，Anthropic 今年春季推出的 Mythos 模型在性能上实现重大突破，并非偶然，而是算法效率加速提升的结果。他写道：“Mythos 并非一次偶然的突破，而是超指数增长趋势中的一个节点。现在，他们只需耗费最初训练时的一小部分算力，就能重新训练 Mythos。”
考克森指出，算法改进即将实现自动化，因此主张明年暂停前沿 AI 模型研发，让竞争对手有机会赶上。他认为，此举将使达到人类水平的智能成为可以广泛获取的商品，受到损害的只有 OpenAI 和 Anthropic。
考克森曾在 OpenAI 负责 AI 模型训练工作，最近一份工作则是在 Anthropic。今年 9 月，他公开警告先进 AI 系统可能带来的风险，引发广泛关注，业内其他重要人士也提出了类似警告。他们担心，能够不断自我改进的先进 AI 最终可能脱离人类控制。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
