北京
IT之家 8 月 13 日消息，据外媒 TechCrunch 今天报道，诺贝尔奖得主杰弗里·辛顿、World Labs 联合创始人兼 CEO 李飞飞，以及 Coursera 联合创始人吴恩达，近日分别阐述了自己对 AI 开放的立场。 三人上周在拉斯维加斯举行的 Ai4 大会上讨论了这一问题。具体解决方案虽然各不相同，但三人都提出了充分理由，认为 AI 仍需要保持一定程度的开放。 三人共同担心的是，AI 技术的发展速度最终由少数大型公司掌控。当少数企业垄断一项技术的使用渠道时，就可能出现类似苹果和谷歌控制移动操作系统的局面：创新速度下降，平台所有者也能影响开发者能够在平台上创造什么。 企业天然希望保护竞争优势，也可能通过影响行业规则来实现这一目的。长期发展下去，最先进的 AI 系统可能只有规模最大、资本最雄厚的企业才有能力开发。 辛顿不认为开放权重模型一定有助于维持这种竞争格局。他特别区分了开源软件和开放权重模型：开源软件会公开底层代码，任何人都可以检查和修改；开放权重模型则是将训练完成后的模型参数直接公开。 辛顿表示：“开源很好。代码公开以后，很多人会逐行检查，然后指出，‘哦，这里有个漏洞。’但是，开放权重完全不是一回事，你先训练一个大模型，再把模型权重交给所有人。我反对开放权重，因为基础大模型的训练成本非常高，人们拿到模型以后，却可以用少得多的钱继续训练，让模型从事网络攻击之类的恶意活动。” 辛顿同时承认，关于是否应该允许开放权重模型的争论实际上已经结束。“我认为那场争论已经输了。开放权重模型已经存在，过去阻止大量人获得大模型的主要门槛，也就是训练基础模型的成本，已经消失了。现在已经太晚了。” 接受开放权重模型已经存在，并不意味着可以忽略潜在风险。“担心 AI 可能产生的不良后果，以及比人类更聪明的智能体可能会做什么，我认为并不过分。把所有持这种观点的人都说成是在散布恐慌，才是不公平的。” 辛顿认为，AI 会继续进步，而且总体上会在提高生产力、改善教育和医疗等领域带来积极影响。 吴恩达的关注点不同。他认为，真正的问题不是开放模型有没有风险，而是谁掌握模型使用渠道，以及谁最终能够占领市场，能够以更低成本开发模型的一方会取得优势。“我希望我们能够推动美国的竞争力和开源 AI。我担心的是，美国国内大量的游说和恐慌渲染，让美国开源 AI 越来越难与中国推出的开放权重模型竞争。” 吴恩达同时主张保留多个 AI 供应商，让模型和企业彼此竞争，避免市场被少数参与者控制。“如果只能给一个建议，我会选择推动开放。AI 是一项令人惊叹的技术，我希望所有人都能掌握。我不希望，AI 领域出现限制所有人获取和使用 AI 的‘守门人’。” 李飞飞认为，不应该把问题简化成开放和封闭之间的二选一。“把问题变成从完全开放到完全封闭的二元对立非常危险。无论复杂的软件系统还是科学体系，实际情况都要细致得多。” 李飞飞用核物理举例：科学论文可以公开发表，铀必须受到监管，实验室研究则处在两者之间。她认为，开放并不是只能在“完全开放”和“完全封闭”之间二选一，AI 生态系统的不同层面完全可以采用不同程度的开放。 她还以人类基因组计划为例说明公共机构和私营机构合作的价值：该计划产生的知识成为其他机构继续开展工作的基础，制药企业可以从中盈利，科学家能够进一步推进研究，社会也因此受益。 “我认为，我们必须把 AI 当作类似的基础设施。在科学发现、教育和全球合作中需要一定程度的开放，也需要让创业者拥有能够盈利的商业模式。闭源系统同样可以存在。尤其是‘只能容忍其中一种模式’这种过于笼统的争论，本身就是一个错误命题。我们需要进行更加细致的讨论。” 三人都认同，一定程度的监管仍然是确保 AI 沿正确方向发展的必要条件。辛顿表示：“我们希望 AI 朝着帮助人类的方向发展，监管可以帮助我们做到这一点。不能把 AI 应该如何发展的决定权交给马斯克和扎克伯格这样的人。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
