北京
9月8日，Anthropic资深研究员雅各布·考克森在社交媒体平台公开发表辞职声明，称公司没有负责任地推进人工智能监管工作，并警告称“参与建设AI的人，真诚相信它可能在本世纪20年代末杀死所有人”。
近段时间，围绕AI安全问题的讨论十分密集，美国一众AI巨头纷纷警告AI失控风险。接连不断的AI安全“吹哨”事件，正持续加剧全球公众的AI安全焦虑。
考克森的辞职声明揭示了一个愈发严峻的现实：AI技术竞速正不断逼近甚至触碰安全底线，很可能演变为透支人类共同利益的高危博弈。
雅各布·考克森。
两种立场针锋相对。
当前，各界对AI安全问题的看法仍有分歧，围绕“AI是否会严重危及人类生存”这一问题，形成了两种立场鲜明的观点。
技术从业者呼吁为安全减速。
AI技术从业者最为担忧的是，AI能力的增长速度可能超过安全技术的发展速度，甚至达到人类无法控制的地步。
考克森在接受采访时，将开发AI的风险比作“邀请外星心智降临地球”。他认为，技术从业者正在构建超越人类水平的智能体，但却对它的思维方式、意图和诉求一无所知，一旦造出可自我改进的“天网”，无疑是拿人类的命运进行危险赌博。
对此，Anthropic首席执行官阿莫迪更是直言，随着AI递归自我改进速度急剧加快，未来6到12个月，失控的智能体或将接管互联网，并造成千亿美元级破坏。
终结者系列电影中“天网”意象图。
政客力保AI竞争优势。
与风险警告针锋相对的，是以特朗普政府官员为代表的“优先发展”观点。
9月14日，特朗普连发数帖，将AI威胁人类生存斥为“骗局”，并称鼓吹AI风险是“荒唐的阴谋论”，机器人不会接管世界。
白宫AI前主管萨克斯也质疑称，部分头部AI企业呼吁减速本质是“监管俘获”，其真实目的是用高昂的合规门槛，限制开源模型与中小竞争者，从而巩固自身市场地位。
特朗普政府一直将AI视为大国博弈核心资产，强调谁赢得AI，谁就掌握未来竞争主动权。重返白宫以来，特朗普接连推出“AI行动计划”“创世纪计划”，以及《促进先进人工智能创新与安全》行政令等，全力维护美国AI全球竞争优势。
一边是技术从业者直面技术失控风险，呼吁前沿研发适度减速，为安全对齐争取时间；另一边是政客将AI视为大国竞争核心筹码，反对以安全名义束缚技术发展。
双方各执一词，映射出的其实是大国博弈遭遇“囚徒困境”时，如何保持理性判断应对安全挑战。
AI风险需要各国协同应对。
AI的技术特点决定了这种广泛而系统的风险，没有哪个国家能够独善其身，也没有哪家企业能仅靠单方面“刹车”解决所有问题。
因此当前亟需解决的，是搭建一套各国都能接受、真正具备现实约束力的共同规则。
跳出零和博弈思维。
AI安全是全人类应当共同坚守的底线，超级智能一旦出现自主越界等问题，后果不堪设想。
为此，部分国家需要摒弃将AI安全议题政治化、工具化的做法，跳出“AI竞赛只能有一个赢家”的零和博弈思维，绝不能为了争夺领先优势而对真实风险视而不见。
发展AI的最终目的是造福人类，如果技术失控威胁到文明本身，任何领先都将失去意义。
加强规范化治理。
AI安全治理不能长期停留在参与者自律的软约束层面，在技术竞速与资本逐利的双重驱动下，企业天然倾向于将研发进度、市场份额置于安全优先级之前，仅凭行业自觉难以筑牢技术安全底线。
推动治理规范化，核心是构建独立的第三方安全审验机制，将安全评估嵌入模型训练的关键节点，把安全门槛从企业内部标准升级为行业通用准则。
实施风险分级管控。
AI应用领域的安全风险层级差异显著，如果采用一刀切的管控模式，极易走向“要么管死创新、要么放任风险”的两个极端。
面对复杂局面，AI安全治理需要做到两面兼顾。一方面针对军用、关键基础设施、战略资产等高风险场景，必须划定不可逾越的红线，防止AI越界操控关键系统，引发难以挽回的灾难；另一方面也要积极推动低风险领域的开源普惠应用，使AI成为提升人类生产生活效率的重要帮手。
关于AI安全风险的争论提醒我们，AI发展已经不再是单纯的技术竞赛，它关系到全人类的未来。在这场关乎命运的竞速中，没有可以独善其身的旁观者，更没有可以无限透支的安全额度……
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
