浙江
人工智能的风险讨论，正在从科幻式想象进入现实政策和就业问题。围绕人工智能的两条警告，一条来自“人工智能教父”杰弗里·辛顿：如果未来出现比人类更聪明、又无法被有效控制的系统，人类可能面对极端生存风险。
另一条来自 Anthropic 的经济情景研究：即使人工智能带来更高 GDP，也可能让大量知识劳动者失去岗位，劳动者未必能平均分享到增长成果。
辛顿并没有把危险简单描述成一群机器人拿起武器。真正令他担忧的，是人类创造出能力远超现有系统的人工智能，却没有掌握足够可靠的控制方法。风险可能扩展到网络攻击、信息操纵、恶意代码和危险生物技术辅助。
风险在于，人类可能先赋予系统更多权限，之后才发现其目标与行动难以预测。辛顿担心的是能力增长快于安全研究、监管和社会适应。
辛顿表示，人工智能在未来十年导致人类灭绝的概率达到10%，并非不合理的估计。但他同时承认，目前没有公认方法能够把这种极端风险精确计算出来。10%更接近基于技术速度和控制难题的主观判断，不是已证实的科学定论。
辛顿的专业背景让这番话格外受关注。2024年诺贝尔物理学奖由辛顿与约翰·霍普菲尔德共同获得，授奖理由是他们对人工神经网络机器学习作出的基础性发现和发明。这也说明，技术突破具有巨大价值，创造者仍需面对潜在代价。
比人类灭绝更遥远的极端情景，可能先被普通人感受到的，是工作方式和收入结构变化。Anthropic 的研究没有给出唯一预测，而是设置了“温和”“重大变化”和“极端”三种美国经济情景。重大变化情景假设，到2030年人工智能可能完成一半知识工作，其中相当部分可自主完成，但企业未必立即采用。
在极端情景中，模型假定人工智能在绝大多数知识工作上比人类更高效，并被快速部署。相关测算给出知识劳动者失业率17.9%、总体失业率11.9%的结果。关键不在数字必然实现，而在岗位替代速度可能快过转行速度。相关岗位未必整体消失，却可能被拆成任务，由系统承担其中一部分。
极端情景还给出一个争议结果：到2030年，美国 GDP 可能比无人工智能路径高32.4%，劳动份额却可能从约60%降至45.2%，知识工作者工资下降超过10%。社会财富增加，并不自动代表劳动者收入上升。
研究机构提醒，这只是思考模型，结果取决于技术能力、采用速度、任务替代方式和收益分配。模型没有纳入所有政策、周期和金融变量，极端情景更接近思想实验。把它当预言会夸大结论，完全忽视则会错过准备窗口。
把人工智能与核武器并列，是警示性表达，不代表两者的破坏机制和风险证据可以直接换算。核武器的杀伤能力是明确的物理事实；人工智能的极端风险取决于未来能力、使用方式、权限配置和约束速度。
两条警告最终指向三个问题：谁决定能力边界，谁承担失误成本，财富如何分享。安全测试、权限管理、责任追踪、培训和分配，不能拖到系统成熟后再补课。人工智能未必注定走向灾难，也不会自动带来公平。真正需要避免的，是在追逐速度和利润时，把控制权与社会承受能力留在后面。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
