北京
随着ChatGPT的横空出世，人工智能目前几乎一天一个台阶，向着人类不可预测的方向发展。
近日，加拿大蒙特利尔大学教授约书亚·本吉奥（Yoshua Bengio）嗅觉到了一丝来自人工智能的危险，作为2018年图灵奖（计算机领域的国际最高奖项）得主的他，发表公开信，强烈呼吁暂停所有比GPT4先进的AI系统暂停研发6个月。如今，这一建议已在网上获得了来自各领域超1000人的公开支持。
公开信中，约书亚·本吉奥表示：大量研究证实，能与人在智力方面竞争的AI系统可能对社会和人类构成深远的风险，高级AI虽然可能带来世界生命史上的深刻变化，但也理应受到相应的管理。不幸的是，目前与AI发展相应的规划与管理并不存在，最近几个月，世界各地陷入了无序的AI竞赛。没有人，哪怕创造出这些系统的人也没办法预测甚至有效的实施控制。
目前，人工智能在一般工作上已经变得与人具有同等的竞争力，但我们是否也应该先扪心自问：我们是否应该让它们生产的谎言来充斥我们的信息渠道，我们是否应该自动化所有的工作？我们应该冒着失去我们对文明控制的风险来发展它们吗？
因此，我们呼吁要求所有比GPT4先进的AI系统暂停研发6个月，然后制定对这种超过人类能力东西的对策，并建议，如果不暂停，应该由政府强制暂停。
最后，约书亚·本吉奥还认为AI开发者必须要与监管者合作，开发强大的AI管理系统。比如要有专门负责AI监管的机构，监督并跟踪AI系统的大量计算；以及对AI产出的内容进行水印等标记，帮助人类识别真假；甚至还要为AI的安全研究提供充足的资金，来应对AI可能造成的经济或政治破坏。
目前，约书亚·本吉奥的公开信已经有超过1000多人的公开签名与支持，其中也不乏一些知名人士，如其他计算机领域的专家以及世界数一数二的富豪马斯克，还有苹果公司的联合创始人斯蒂夫·盖瑞·沃兹尼亚克。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
