前谷歌高管：世界将在2027年进入为期15年的人工智能黑暗时代

莫·盖瓦特（Mo Gawdat）认为，未来12到15年将是黑暗的，但这并非因为机器人，而是源于我们自身的“愚蠢”。

根据莫·盖瓦特的说法，世界正飞速驶向一个在不久的将来不可避免的人工智能反乌托邦（dystopia）。盖瓦特曾是Alphabet旗下“登月工厂”（moonshot factory，前身为Google X）的首席商务官。

“我们将不得不为一个非常陌生的世界做准备，”盖瓦特在《CEO日记》（Diary of a CEO）播客采访中表示，并补充说，诸如自由、人际联系、责任担当、现实和权力等人类的核心价值观，都将因人工智能而面临重大颠覆。

盖瓦特称，这个反乌托邦并非遥不可及，自去年起我们就已开始看到其迹象，明年这些迹象将持续升级。他预测，滑向盖瓦特所描述的反乌托邦的起点将在2027年，并持续接下来的12到15年。

这位前谷歌高管并非一直持此观点：人工智能技术的发展速度使他改变了想法，并使他相信这种短期反乌托邦是不可避免的。

“改变这一局面完全掌握在我们手中，但我必须说，我不认为人类目前有足够的意识去关注这个问题，”盖瓦特说。

但盖瓦特表示，人工智能不一定是这个反乌托邦的主要驱动力，尤其不是以大多数人想象的方式（即由AI完全掌控所带来的生存风险）。相反，盖瓦特认为，人工智能放大了现有的社会问题和“我们人类自身的愚蠢”。

“人工智能本身毫无问题，”盖瓦特说。“问题出在机器崛起时代人类自身的价值体系上。”

目标乌托邦，走向反乌托邦

人工智能的研发初衷并非带来反乌托邦，事实上它曾承载着一个相当乌托邦式的使命。通过进一步自动化日常任务，人工智能有潜力减轻全球数百万各行各业的劳动者的工作负担，有望在不牺牲整体生产力的前提下，还给他们宝贵的个人时间。

然而，对于劳动者来说，事情的发展并非如此。在一个由资本主义凌驾于其他一切价值之上的世界里，那个乌托邦梦想正因对利润的无情追逐而扭曲。一些专家认为，随着人工智能技术开始彻底重塑我们对工作的认知，它对劳动力市场的颠覆已然开始。那些利用人工智能最大化生产力的公司，非但没有减轻人们的工作负担，反而正在裁员或放缓招聘以进一步追求利润最大化，或是对现有员工提出更高要求。

盖瓦特认为这绝非巧合。他相信，所有被创造出来的技术都放大了人类现有的能力和价值观，而当前人类最大的价值体系就是资本主义。

这种预期后果与负面现实之间的脱节，在其他技术进步中也同样存在。

“社交媒体在多少时候连接了我们，又在多少时候让我们更加孤独？手机在多少时候让我们工作得更少？那是诺基亚早期广告的承诺，画面里人们在开派对，那是你对手机的体验吗？”盖瓦特说。

“人性之恶的放大镜”

盖瓦特认为，人工智能将使另一件事升级到失控的地步，那就是“人性所能作之恶”。

对于那些过去一年左右关注新闻的人来说，这并不令人意外。从人工智能生成的深度伪造色情内容，到人工智能在战争中日益增强的存在（利用自主武器最大化杀伤力，在军事领域应用生成式AI），这项技术已成为人类所能展现的最恶劣行为的帮凶。

这一点在本周得到了充分展示：埃隆·马斯克的聊天机器人Grok推出了一项新的图像和视频生成功能，迄今为止其主要用途竟是生成符合男性强烈性幻想、高度性化（sexualized）的女性形象。

人工智能驱动的骗局 —— 尤其是人工智能驱动的加密货币骗局（OpenAI首席执行官萨姆·奥尔特曼本人曾对此发出警告） —— 已呈爆炸式增长。区块链情报公司TRM Labs的一份报告发现，得益于AI深度伪造技术，去年加密货币骗局增长了456%。核战争专家则担忧人工智能可能很快被用于驱动核武器。

人工智能还在大规模地优化公共监控手段。在盖瓦特所说的“权力高度集中”的世界里，这是一个重大隐患。人工智能驱动的公共监控系统目前已在许多国家积极部署，美国政府现在也利用人工智能监控希望入境移民和旅客的社交媒体账户。

并非全恶，但前路艰巨

尽管如此，人工智能确实仍在继续带来积极而显著的变革。人工智能已经对科学发现和进步产生了可衡量的影响，尤其是在医学和药物研究领域。

盖瓦特确实相信，随着此类进步的出现，未来有可能实现人工智能的乌托邦式应用。

但首先，人类必须应对其陷阱。

“更宏观的图景是向政府施压，让他们明白人民的沉默是有限度的，”盖瓦特说。他补充道，政府应该监管人工智能的使用，而不是监管人工智能本身。

“你无法通过监管锤子的设计，让它只能钉钉子而不能杀人，但你可以将用锤子杀人定为犯罪，”盖瓦特比喻道。

人工智能这把锤子如今已在我们手中，并且会一直存在。唯一剩下的问题是，我们是否有决心制定法律来防止谋杀。

如果朋友们喜欢，敬请关注“知新了了”！