【特稿】OpenAI人事震荡缘于人类受威胁？

　　OpenAI人事震荡缘于人类受威胁？
　　　　海洋
　　随着美国“开放人工智能研究中心”(OpenAI)创始人之一、前首席执行官萨姆·奥尔特曼21日晚重任首席执行官之职，这家人工智能公司持续四天的人事震荡暂告结束。据路透社22日独家披露，OpenAI原董事会先前决定解雇奥尔特曼的原因之一是，一些员工警告，该公司一项强大突破或对人类构成威胁。
　　【超级智能？】
　　两名匿名知情人士向路透社披露，OpenAI多名员工在奥尔特曼遭解雇前致信原董事会，提及名为“Q星(Q*)”的人工智能算法项目，警告该项目在通用人工智能研究方面取得的突破可能对人类构成威胁。
　　OpenAI把通用人工智能定义为自主性人工智能系统，执行大部分具备经济价值的任务时有能力超越人类。
　　知情人士说，“Q星”项目的大模型可利用海量计算资源解答小学数学问题，这让研究者对其未来发展前景感到乐观。现有人工智能大模型擅长写作和文本翻译，但解答数学题要求大模型掌握更类似人类的理性分析能力，可被应用到全新科研领域。
　　知情人士称上述信件谈及人工智能的强大功能以及潜在危险，但未向路透社披露确切安全担忧。信件还谈及OpenAI新组建的“人工智能科学家”团队正探寻如何最优化现有大模型，以改进其理性分析能力，进而逐步从事科研工作。
　　路透社说，虽然无法阅览信件原文，也暂时无法判定“Q星”项目是否具备上述能力，但可证实存在信件和“Q星”项目。
　　计算机科学家长期以来一直讨论高度智能机器对人类是否构成危险。例如，它们可能会认定毁灭人类符合自身利益。
　　据报道，奥尔特曼17日遭解雇前一天，刚在加利福尼亚州旧金山举行的亚太经合组织一场相关会议上暗示，OpenAI接近取得重大进展。他当时称，最近曾“进入房间，推开无知的面纱，打开探索的前沿”。
　　【微软赢了？】
　　奥尔特曼获称“ChatGPT之父”，他上周突遭解雇震惊整个美国硅谷。路透社说，员工信只是原董事会决意解雇奥尔特曼的因素之一，其他还包括在不理解技术进展可能酿成的后果时将其商业化。
　　另据美国彭博新闻社报道，21日随着奥尔特曼回归而遭除名的原独立董事海伦·托纳先前发表研究论文，内容包括批评OpenAI在人工智能安全方面的做法。这也被视作导致本次人事震荡的因素之一。
　　托纳来自乔治敦大学安全与新兴技术中心，她与另一名原独立董事、技术工程师塔莎·麦考利和OpenAI首席科学家、联合创始人伊利亚·苏茨克韦尔都被董事会除名。新的董事会“初始”成员包括一名原独立董事、在线问答网站Quora首席执行官亚当·丹杰洛，以及赛富时公司前联合首席执行官布雷特·泰勒和美国前财政部长拉里·萨默斯。最终，新董事会成员可能达9人。
　　奥尔特曼17日遭解雇，19日返回OpenAI总部与原董事会谈判回归事宜，据悉条件之一便是解散原董事会。当天深夜，美国微软公司首席执行官萨蒂亚·纳德拉宣布奥尔特曼和一同离职的OpenAI前总裁、联合创始人格雷格·布罗克曼将加盟微软，领导新的高级人工智能研究团队。纳德拉还向OpenAI员工伸出“橄榄枝”，用现金鼓励他们一并跳槽。
　　20日，OpenAI大约770名员工中超过95%发表联名信，以辞职相威胁，要求奥尔特曼恢复原职。奥尔特曼一天后和布罗克曼成功回归OpenAI。纳德拉也对OpenAI人事变动表示欢迎。
　　据媒体报道，微软是OpenAI最大投资方和重要合作伙伴。OpenAI成立至今，微软共向OpenAI投资约130亿美元，有权使用其现有技术。不过，OpenAI为确保公司不过分逐利而采取经营权和收益权相分离的独特治理架构，微软虽然持有OpenAI大量股份，但不掌握其经营管理权。
　　彭博社舆情部专栏作者戴夫·李22日发表文章，评价此次OpenAI人事震荡的赢家和输家。在李看来，最大赢家当数微软和纳德拉，不至于承担OpenAI“分家”在技术研发和投资回报等方面带来的后果；奥尔特曼也是赢家，他回归后将掌握“毋庸置疑的”决策权；而人工智能竞争、那些致力于监督企业不要行恶的“有效利他主义者”乃至全人类可能都输了。
　　【政府监管？】
　　据美联社报道，多名业内专家针对本场“大戏”提出，政府而非技术巨头自身应有权监管人工智能，特别是那些迅速发展的生成式人工智能等技术。
　　美国福里斯特研究公司首席分析师恩扎·伊安诺波洛说，公司无法单独提供社会所需的人工智能安全性和信任度。“如果我们要因人工智能受益，由企业设计、并由监管机构严格执行的规则和护栏至关重要。”
　　据报道，欧洲联盟和美国就人工智能监管均有动作。欧盟正酝酿世界首部综合性人工智能监管法规。美国总统约瑟夫·拜登10月颁布行政令，寻求平衡尖端技术企业与国家安全和消费者的不同需求。（完）（新华社专特稿）