北京
DeepMind上线了一个新站点：institute.deepmind.com。它的名字叫DeepMind Institute，开篇给出的理由只有一句话——随着我们逼近AGI，迫切需要跨学科的思考，来更好地理解它对人类产生的深远影响。
这个研究所不是发布模型的地方。它更像一个把问题摊开来讲的窗口，讨论的是AGI到来前后，社会该提前想清楚的那些事。
先盯住"思考过程"这扇窗
研究所抛出的第一个议题，关于AI的"思维链"。读一个AI的思维链，等于获得了一扇观察它推理过程的窗口，而我们可以借这扇窗去监测它是否在谋划、是否在欺骗。
结论也很直接：必须努力让这扇窗保持敞开。一旦推理过程变得不可读，监测就无从谈起。
十一套政策，应对经济冲击
第二个议题指向经济。研究所评估了社会可以实施的十一项政策，用来管理由日益先进、日益普及的AI所带来的潜在经济扰动。
这里的关键词是"潜在"和"扰动"——不是已经发生的失业潮，而是需要提前准备的冲击面。
如果AGI要改造社会，先决定改成什么样
第三个议题更根本：如果AGI注定要改造社会，那我们必须决定，究竟想要什么样的改造。
研究所从二十世纪的动荡中吸取教训，提出了一种"务实乌托邦主义"——由谦逊与希望构成。这个提法本身，就是对"技术自动带来好结果"这种想法的修正。
测试前沿模型，要动态地测
第四个议题落在测试方法上。研究所主张用动态的方式测试前沿AI模型的能力，既能支持创新，又能激励负责任的行为。
这四篇内容放在一起看，指向同一件事：AGI不只是一个技术进度条，它同时是经济问题、治理问题和价值选择问题。研究所要做的，是把这些问题在到达终点之前先摆上桌面。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
