马斯克用微软论文当论据起诉OpenAI：你们自己早承认AGI了

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

大概也只有马斯克敢了。

用微软论文当证据，起诉OpenAI。

一年前微软研究院发表的论文《Sparks of AGI：Early experiments with GPT-4》，现在成为了马斯克起诉书中的关键角色。

这篇论文通过分析早期GPT-4的能力，认为GPT-4可以被视为早期AGI。

去年论文发表时就引发不小关注，1年时间里被引次数已经高达1500次。

马斯克的起诉书里写道，微软自己的科学家自己都承认了。

这么看，OpenAI最新的一通回应不是啪啪自己打脸？

还真不一定。

这篇《Sparks of AGI》当初爆火确实不假，但其中很大一部分热度来自争议。

不少人觉得它不够严谨、在炒热度，而且这篇论文没有经过同行评议，只是上传到了arxiv，结果也无法复现。

所以这篇论文到底说了啥？马斯克凭啥敢拿它大做文章？

论文说了啥？

这篇论文主要测试了GPT-4在2022年秋季的一个早期版本。

研究提出，GPT-4不仅掌握语言能力，而且能解决复杂新奇的问题，任务可以跨数学、编码、医学、法律、视觉等。

在这些任务中，GPT-4的表现接近于人类水平，大大超越以往LLM性能，比如ChatGPT。

由此，研究给出了关键性结论：

我们认为它可以被合理地视作一个早期版本（仍不完整）的AGI。

在此基础上，研究团队还进一步探讨了真正意义上的AGI应该具备哪些要素。

论文全篇超过150页，分别测试了GPT-4的多模态、代码、数学、常识等能力，通过大量实例得出结论。

以测试代码能力为例，GPT-4和ChatGPT会得到同样的提示词，研究人员将会对回答结果进行分析。

GPT-4的一些数据结果非常值得关注。

比如在零样本下，GPT-4代码能力在HumanEval上的精度达到82%。

再比如在现实问题问答中，GPT-4的表现也远好于ChatGPT。

研究还讨论了GPT-4基于自回归架构表现出的局限性。

比如模型本身具备相应的知识能力，但是却会回答错问题，因为预测下一个token的机制使得模型不能进行“内心对话”。

最后，论文作者还提出了对AGI的一系列构想。

这篇论文发表于GPT-4面世的一周后，当时引发业界巨大关注。

“AGI的闪现”让不少人感叹，一切都结束了。

但质疑也不少，很多人觉得这个结论是不是有点夸大其词了？

而且研究团队承认使用的一些测试方法不够科学严谨，他们主要是想展示GPT-4卓越的能力。

不过可以肯定的是，这篇论文成功把GPT-4和AGI强关联，给GPT-4创造了更多讨论热度，也成为AGI讨论热潮的重要推力。

可是谁又能想得到，它现在倒成为马斯克起诉OpenAI的关键了。

马斯克到底想干啥？

马斯克搞事，总是醉翁之意不在酒。

去年他和千名大佬共同呼吁暂停开发AI半年，结果转头自己囤卡、开搞大模型，火速成立AI初创公司xAI。

今年起诉OpenAI，核心的目的就是督促其开源。

号称GPT-4是AGI也是给OpenAI上道德压力。一方面要求他们开源，另一方面提出“AGI算法不应该授权给微软”。

与此同时，马斯克的Grok也还在稳步推进中，目前已发布Grok-2。

值得一提的是，去年OpenAI宫斗前后，马斯克曾在一场访谈中表示，从现在（23年12月）算起，AGI还有不到3年。

但往小了说，写小说和JK罗琳一样好、能发现新物理规律或发明新技术的AI，从现在算起还有不到3年。

当时他还表示觉得山姆·奥特曼很复杂。

目前，OpenAI方面除了否认GPT-4是AGI外，还没有更多回应。

有法律专家认为，马斯克列出的一系列观点，很难当成明确的条款来执行。“诉讼可能比较牵强”，但是提出了“强有力的政策论点”。

有圈内大V还觉得马斯克这么干，有点吃不到葡萄说葡萄酸。

马库斯则调侃说，马斯克这么做逼得OpenAI不得不承认自己没达到AGI，但是可以找第三方来承认。

比如雇我这样的人来拯救他们。

参考链接：
[1]https://www.nytimes.com/2024/03/02/technology/elon-musk-openai-lawsuit-microsoft-research.html?unlocked_article_code=1.Zk0.M61l.NCnK2nvYNoUS&smid=url-share
[2]https://arxiv.org/abs/2303.12712
[3]https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf