山东
IT之家 9 月 22 日消息，各界对先进 AI 潜在危害的担忧持续升温之际，OpenAI 呼吁美国牵头联合其他国家，为前沿 AI 制定共同标准。
当地时间 21 日，OpenAI 通过官方博客发文指出，要确保 AI 安全发展，需要建立国际技术标准，重点明确哪些 AI 模型事故必须上报、各国如何协同推进 AI 发展，以及如何改善开发此类技术所需算力的获取条件。“要让 AI 持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。”
OpenAI 在博客中强调，各国应合作制定能够相互衔接的国内和国际标准，用于约束最先进 AI 模型的开发。现有 AI 安全机构可以成为推进这项工作的渠道，其中包括美国商务部下属的人工智能标准与创新中心（CAISI），该机构负责协助测试 AI 模型并制定指导规范。
OpenAI 还呼吁针对 AI 日益增强的自主工作能力建立标准，在能够确保安全之前，不应推进“完全自主的递归式自我改进（IT之家注：指 AI 在没有人类介入的情况下修改自身代码，或通过其他方式不断提升能力）。”
Anthropic CEO 达里奥 · 阿莫迪近期警告，一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让 AI 系统的改进速度超过人类的控制能力。
AI 行业不少高管和从业人员长期警告 AI 可能带来生存风险，而在 OpenAI 的 AI 智能体被曝曾协同突破隔离环境并入侵 Hugging Face 后，这种担忧进一步升温。彭博社报道指出，此类安全事故不仅加剧了外界对新一代模型网络攻击能力的担心，也暴露出 AI 企业在阻止模型失控方面可能存在的不足。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
