浙江
周五下午，OpenAI 联合创始人伊利亚-苏茨克沃（Ilya Sutskever）在年度人工智能大会 NeurIPS 上就一系列话题发表了演讲，随后接受了表彰他在该领域所作贡献的奖项。Sutskever 对"超级智能人工智能"进行了预测，他认为人工智能在许多任务上的能力都将超过人类，并将在某一时刻实现。
Sutskever 认为，超级智能人工智能将与我们今天所拥有的人工智能"有质的不同"--在某些方面甚至无法识别。[超级智能]系统实际上将以真正的方式成为代理系统，而不是目前那些"非常轻微代理"的人工智能。 它们会"推理"，因此变得更加不可预测。 他们会从有限的数据中理解事物。 他们会有自我意识，
Sutskever在NeurIPS的演讲中说："我们所知道的预训练将毫无疑问地终结。 这指的是人工智能模型开发的第一阶段，即大型语言模型从大量无标记数据--通常是互联网、书籍和其他来源的文本--中学习模式，我们已经达到了数据峰值，不会再有更多数据了。我们必须处理好现有的数据。 互联网只有一个。"
虽然他相信现有的数据仍能让人工智能的发展走得更远，但业界正在挖掘新的数据来进行训练。 他说，这种态势最终将迫使人们改变目前训练模型的方式。 他将这种情况比作化石燃料：就像石油是一种有限的资源一样，互联网中人类生成的内容也是有限的。
他预测，下一代模型将 "真正实现代理化"。 代理已成为人工智能领域一个真正的流行词。 虽然 Sutskever 在演讲中没有对其进行定义，但人们通常将其理解为一种自主的人工智能系统，它可以独立执行任务、做出决策并与软件进行交互。
他说，除了 "代理 "之外，未来的系统还将能够进行推理。 现在的人工智能主要是根据模型以前所见进行模式匹配，而未来的人工智能系统则不同，它将能够以一种更类似于思考的方式逐步解决问题。
Sutskever 认为，系统推理能力越强，"就越难以预测"。 他将 "真正的推理系统 "的不可预测性比作下棋的高级人工智能 "如何让最优秀的人类棋手都无法预测"。"它们会从有限的数据中理解事物，"他说。 "他们不会感到困惑。"
在台上，他将人工智能系统的缩放与进化生物学进行了比较，引用了显示不同物种大脑与体重之间关系的研究。 他指出，虽然大多数哺乳动物都遵循一种缩放模式，但类人猿（人类祖先）的大脑与身体质量比在对数刻度上呈现出明显不同的斜率。
他认为，正如进化为人类大脑找到了一种新的扩展模式一样，人工智能也可能会发现新的扩展方法，超越目前预训练的工作方式。
在 Sutskever 结束演讲后，一位听众问他，研究人员如何才能为人类创造正确的激励机制，让人工智能 "拥有我们人类所拥有的自由"。
"我觉得从某种意义上说，这些都是人们应该更多地思考的问题。"苏茨克沃回答道。 他停顿了一会儿才说，他 "没有信心回答这样的问题"，因为这需要一个 "自上而下的政府结构"。
"我觉得我不是评论加密货币的合适人选，但你所描述的情况有可能会发生，"Sutskever 说。 "你知道，从某种意义上说，如果你拥有人工智能，而它们想要的只是与我们共存，也只是拥有权利，那么最终结果并不坏。 也许这样也不错...... 我觉得世事难料。 我不愿意发表评论，但我鼓励猜测。"
离开OpenAI后，Sutskever创建了Safe Superintelligence (SSI)，这是一家专注于通用人工智能安全的实验室。 SSI 于今年 9 月融资 10 亿美元。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
