广东
智通财经APP获悉，Meta Platforms(META.US)CEO马克·扎克伯格与公司AI负责人亚历山大·王就AI发展速度之争发声，主张AI实验室应继续推进模型能力，同时围绕日益强大的模型构建更强防护措施。
二人此番言论发布于X平台。当前业界正就“是否应在AI安全取得更多进展前放缓能力开发”展开广泛争论。所谓AI安全，即确保AI系统可靠遵循人类意图与价值观。
Meta股价截至周二连续三个交易日走高，累计上涨4.2%，夜盘小幅上扬。在Stocktwits上，截至最近一次查看，该股散户情绪为“极度看空”。
扎克伯格：实验室有动力打造更安全的AI
扎克伯格表示，AI公司已具备强烈的商业与法律激励，推动模型安全并与用户对齐。“人们不会愿意使用与自己不一致、不按自己要求行事的智能体，”扎克伯格写道。“任何不聚焦对齐的实验室都会落后。”
他认为，对齐本身正成为一项重要竞争能力，而不仅仅是对AI开发的约束。“我的观点是，信任和对齐正迅速成为区分智能体与模型的最重要能力。”他说。
扎克伯格还提到，Meta曾决定推迟发布Muse模型数月，以处理安全与保障问题。
Meta支持外部监督
扎克伯格与亚历山大·王均呼吁，在AI模型愈发强大之际，更多引入独立评估方和外部监督。
“引入独立评估方和顾问是行业最佳实践，”扎克伯格说，并认为更大、更多元的评估方生态将改善AI安全工作。
亚历山大·王同样表示，AI实验室应在训练和部署全流程维持“强有力的治理框架”，包括外部评估方以及对模型发布安全标准的独立监督。
他补充道：“每家实验室都必须在民主国家的制度保护下运营……这意味着，如果模型造成伤害，实验室将面临重大法律责任。”
Meta为算力分配策略辩护
两位高管论点的一个关键部分是，Meta决定将大部分算力用于服务用户，而非加速递归自我改进(RSI)。
“将绝大多数算力投入服务人类，而不是竞逐递归自我改进，是确保我们安全开发这项技术的最佳方式之一，”扎克伯格说。
担忧在于，RSI可能让AI系统迅速提升自身能力，可能超出人类监督，并增加对强大模型失控的风险。
亚历山大·王同样将竞逐RSI描述为“可能导致强大模型失控的最危险路径之一”。
AI节奏之争令科技业两极分化
AI发展节奏之争大致分裂为：Anthropic CEO达里奥·阿莫代伊呼吁放缓前沿AI开发，以便安全机制跟上;OpenAI CEO萨姆·奥尔特曼、微软CEO萨提亚·纳德拉和SpaceX的埃隆·马斯克则支持在不停止开发的前提下，更审慎、以安全为重地推进。
另一方面，美国总统唐纳德·特朗普反对放缓美国AI竞赛，理由是担心中国领先;前特朗普AI顾问大卫·萨克斯则表示，企业应自行控制风险，而非寻求政府限制，并对Anthropic的安全警告提出质疑。
投资者迈克尔·伯里质疑，放缓开发的呼声是否部分出于私利，因为这可能保护现有AI公司免受竞争冲击。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
