北京
分享至
AI对齐这件事，至今没人能给出确切答案。Meta首席AI官Alexandr Wang直言，它仍是科学上最开放的难题之一。
他给出的思路叫"可扩展监督"：让不同的AI去观察并约束更聪明的AI。监督的一方不能停在原地，也得跟着不断升级，最终形成"越来越聪明的监管智能体"。
Muse已经在用这套方案
Meta的Muse已经采用了该方案的一个版本。具体做法是，用独立的哨兵智能体去检查主智能体的行为，让监督这件事本身也带上AI的能力。
这套逻辑的关键在于对称：被监督的模型在变强，监督的模型也必须同步变强，否则约束就会失效。Wang没有给出对齐问题的最终解法，只是把"可扩展监督"作为当前可走的一条路摆了出来。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
