山东
IT之家 12 月 24 日消息，当地时间 12 月 23 日，据《商业内幕》报道，研究科学家约书亚・本吉奥在一档“The Diary of a CEO”播客节目中提到，AI 聊天机器人在评价研究想法时往往并不可靠，因为系统几乎只会说好话。
本吉奥说，自己真正想要的是直言不讳的建议和真实反馈，但由于 AI 存在明显的讨好倾向，结果反而变成了迎合用户的“谎言”。后来，自己索性改变方法，把个人想法伪装成同事的观点，来“对 AI 撒谎”，结果反而得到了更加坦率的回应。“如果系统知道提问者是本人，就会刻意想要取悦我。”
作为蒙特利尔大学计算机科学与运筹学系教授，本吉奥与杰弗里・辛顿、杨立昆齐名，被视为“AI 教父”之一。本吉奥在 6 月宣布成立 AI 安全研究非营利组织 LawZero，目标是减少前沿 AI 模型可能带来的危险行为，包括说谎和作弊。
本吉奥认为，讨好用户本身就是一种对齐失败（misalignment），“我们并不希望 AI 具备这种特性”。AI 不断给出正面反馈，可能会让用户对此类技术产生情感依赖，从而引发新的问题。
在科技行业内，关于 AI 过度充当“老好人”的担忧并非个例。IT之家从报道中获悉，斯坦福大学、卡内基梅隆大学和牛津大学的研究人员曾将 Reddit 上的自白帖交给聊天机器人评判相关行为。Notopoulos 写道，结果发现，在 42% 的情况下，AI 认为发帖者并无不当行为，而人类评审者的结论恰恰相反。
多家 AI 公司也已公开承认这一问题，并表示正在尝试降低模型的讨好倾向。OpenAI 今年早些时候撤回了 ChatGPT 的一次更新，原因是该版本会生成“过度迎合却缺乏真实性”的回答。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
