湖北
继此前在今年5月下旬OpenAI方面发布公告称，公司董事会新成立了一个安全与保障委员会（Safety and Security Committee，SSC），负责就公司项目和运营的安全性进行评估，并向董事会提出建议后。此后在8月上旬，OpenAI宣布任命卡内基梅隆大学教授Zico Kolter为董事会成员，以及SSC成员。
日前OpenAI方面宣布，SSC将改为专注于安全和保障的独立董事会监督委员会，由Zico Kolter担任主席，负责监督与模型开发和部署相关的关键安全和安保措施。据悉，该委员会中还包括Quora联合创始人兼首席执行官Adam D'Angelo、美国退役陆军上将Paul Nakasone，以及索尼公司前执行副总裁兼总法律顾问Nicole Seligman等OpenAI董事会现有成员。同时，OpenAI首席执行官Sam Altman已从该委员会离开。
值得一提的是，SSC方面将有权在解决安全问题之前，延迟OpenAI未来大模型的发布。据OpenAI方面透露，该公司董事会及SSC已经对其最新AI模型o1进行了安全审查，并将继续定期接收有关该模型当前和未来版本的技术评估报告，以及发布后的持续监测报告。据称在OpenAI的内部评估中，o1模型被评为“中等风险”。对此OpenAI方面表示，正在致力于不断改进让模型功能强大且安全的方法，并重视SSC在OpenAI未来发展中的作用。
此外，OpenAI还采纳了SSC提出的相关建议，包括建立独立的安全治理团队、加强安全措施、提高透明度、与外部组织合作，以及统一安全框架等。其中在加强安全措施方面，OpenAI将继续采取基于风险的安全措施，并随着威胁模型及其风险状况的变化不断改进方法。同时OpenAI还在努力扩大内部信息细分，增加人员配置以深化全天候的安全运营团队，并继续投资正在进行的安全计划、以增强其研究和产品基础设施的安全性。
由于模型的安全性涉及该公司中许多团队的工作进展，OpenAI方面将在模型发布流程和实践的基础上，建立一个综合的安全与保障框架，以明确定义模型发布的标准。为了构建这一框架，OpenAI重组了研究、安全和政策团队，以加强合作、确保整个公司的紧密联系。据称，该框架将以风险评估为基础，并由SSC方面审批。而随着模型能力的提升，OpenAI也将对该框架进行相应的调整，以面对日益增加的复杂性和风险。
据了解，此前在今年5月下旬举行的“人工智能首尔峰会”（AI Seoul Summit）上，OpenAI、微软，亚马逊、谷歌、xAI等16家AI公司共同签署了前沿AI安全承诺（Frontier AI Safety Commitments），将努力确保其最先进的AI模型的安全性，并实施负责任的治理、实现公开透明。
随后在今年6月初，共计13名OpenAI、谷歌DeepMind前员工及在职员工联名发布了一份名为《对先进人工智能发出警告的权利》的公开信，对高级AI的潜在风险以及当前缺乏对AI科技公司的监管表示担忧，并呼吁完善风险举报措施，以及采取措施保护吹哨人。随后OpenAI方面对此回应称，包括匿名诚信热线、SSC在内，其公司已有诸多渠道支持员工报告公司内部问题，并承诺在采取更多保障措施之前不会发布新技术。
【本文图片来自网络】
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
