河北
有用户发现谷歌翻译的新高级模式出了个怪事。它不好好干翻译的活，反而在输入里藏指令时，被带偏成聊天机器人一样回复。这个bug大概率跟Gemini整合有关，它从文本里读到隐藏指令就开始装成聊天机器人。
用户把谷歌翻译当AI聊天机器人使
去年11月，谷歌给翻译应用上线了个新“高级模式”。作为Gemini全面推广的一个环节，谷歌把AI模型塞进了翻译应用。这个模式靠的是大型语言模型，专门用来理解某些语言里的俚语、习语和对话语境。不过最近有用户发现，这系统有时候会听指令而不去翻译。这不就是典型的提示注入嘛。
html
LessWrong上有一篇帖子提到，该应用表面下运行着一个指令遵循系统。当被直接询问时，谷歌翻译的新模式会自称是谷歌训练的大语言模型，并开始表现得像个聊天机器人。Reddit和Tumblr上分享的截图显示，用户正把它带入各种类型的对话。虽然这一事件并不令人震惊，但它确实展示了最新AI工具用多简单容易的办法就能被改。
谷歌还没回应这事。据报道，提示注入问题不在AI漏洞赏金计划里。目前高级功能在手机和网页上支持英语和大约二十种其他语言，包括日语和中文。不管是有意还是无意，要是你把翻译器变成了聊天机器人，切回经典模式，再重新打开高级模式，就能恢复原来功能。谷歌可能过几周就修复这个问题。
本文谷歌翻译的高级模式意外地像个聊天机器人一样首发于Android Headlines。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
