谷歌高管表示，要警惕AI聊天机器人给出错误答案

继不久前因为刚推出的人工智能（AI）聊天机器人Bard在回答查询时给出错误答案，导致其母公司Alphabet股价暴跌后，日前谷歌高级副总裁、谷歌Search负责人普拉巴卡尔・拉加万（Prabhakar Raghavan）在接受采访时，分享了自己对生成式人工智能（AIGC）的看法。

普拉巴卡尔・拉加万表示，“我们现在谈论的这种人工智能，有时会导致出现某种我们所谓的错觉（hallucination），具体表现为机器会给出一个看起来令人信服但却完全是捏造的答案”。此外他还进一步指出，目前人工智能行业的基本任务之一，就是将这种情况控制在最低限度。

在谈及OpenAI推出的AI聊天机器人ChatGPT时，普拉巴卡尔・拉加万表示，“我们显然感受到了紧迫性，但我们也感受到了巨大的责任，并且不希望误导公众”。据悉，ChatGPT于2022年111月30日发布，因具备生成文本、修改代码等能力，在全球引发诸多关注，在不到两个月的时间内实现用户破亿，成为史上最快用户破亿的消费产品。不久前，微软方面通过整合ChatGPT及其背后相关技术，从而推出了全新的必应搜索引擎。

值得一提的是，除因失误导致公司股价暴跌外，日前有消息称Bard的发布还引发了谷歌部分员工的不满，这些员工认为此次产品发布“仓促”、“一团糟”和“不符合谷歌的特点（un-Googley）”。在该公司内部论坛Memegen上，有人写到，“（CEO）桑德尔·皮查伊等管理层该得到Perf NI（该公司绩效评级系统里最低的评级）。在追求‘更聚焦重点’的过程中，他们变得鼠目寸光，简直可笑，而且毫无谷歌风范。”。同时还有人认为，“在恐慌中急匆匆让Bard面世，正好证实了市场对我们的恐惧。”

据了解，对于此次Bard失误引发的风波，谷歌方面表示，“这凸显了严格测试过程的重要性，我们将通过Trusted Tester计划启动这一过程。我们会将外部反馈与我们自己的内部测试相结合，以确保Bard的回应在质量、安全性和现实世界信息的基础性方面达到高标准。”

事实上，此前便已有诸多分析师警告称，AIGC相关技术以及产品仍然存在许多潜在安全问题，其中包括数据安全、数据真实性等。同时，许多ChatGPT的用户，其中包括苹果公司联合创始人史蒂夫-沃兹尼亚克等，也都曾抱怨其经常给出错误答案。对此，研究聊天机器人缺陷的华盛顿大学教授Chirag Shah曾表示，“大公司经常过快地推出新技术，忽视它们的缺陷，然后又试图快速修复它们……但这会造成真正的伤害”。

【本文图片来自网络】