北京
分享至
7月26日，2025世界AI大会在上海开幕，图灵奖得主约书亚・本吉奥表示，前沿模型在规划和推理方面取得显著进展，若趋势持续，AI的规划推理能力有望在十年内达到人类水平。但强大的AI系统可能放大虚假信息、网络攻击和生物威胁等风险，人类还可能失去对自我保护型智能体的控制。
目前尚无科学验证方法确保AI可信且始终遵从人类意图，且最强模型中欺骗和自我保护行为更明显。本吉奥呼吁急需在技术和政策层面采取措施应对风险，理性政策应鼓励开发不具备危险能力的AI开源项目，禁止其他情况下的开发，并对闭源模型实施充分的安全保障措施。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
