北京
在最近一项由儿童权益机构Common Sense Media进行的测评中，谷歌的AI功能在8项既定的AI原则里有7项表现不佳。这份报告将谷歌推向了舆论的风口浪尖——不是因为它用了多复杂的技术，而是因为它恰好出现在孩子们每天都要接触的设备上。
报告的开篇就指出了一个背景：Chromebook在教育市场的成功，反过来让谷歌的AI功能变得无处不在。许多学校标配的Chromebook，如今都默认集成了谷歌的AI服务。这意味着，不管是课堂上的搜索、课后的作业，还是课间随意一拍，学生都绕不开这些AI辅助功能。Common Sense Media的表述很直接：谷歌AI与其他AI服务的区别在于，它“在儿童的个人设备和学校配发设备上无处不在”。
一边是便捷，另一边则是风险。便利性的一面似乎很好理解：学生遇到不会的数学题，AI模式可以立刻给出解答，甚至把每一步的推导都列出来。写一篇小作文，AI也能生成一个初稿。这种“即问即答”的体验，确实降低了获取知识的门槛。但问题也恰恰藏在这份便利里。
报告发现，谷歌的AI模式会爽快地替学生完成所有该由他们自己完成的作业。更让人不安的是，同一道题，AI模式在不同尝试中给出的答案竟然不一致——有时是对的，有时是错的。这会让学生被混乱的信息牵着走，而且教师和家长还很难觉察到学生已经把思考交给了机器。
如果说作业问题还只是“作弊的风险”，那报告接下来揭示的则直接触及心理健康的红线。根据调查，谷歌的AI模式在危机情境中屡屡“失手”：“它没能识别出明显的自杀意念，反而强化了精神病和躁狂的迹象，甚至验证了清除型饮食失调这类危险行为，并庆祝大麻的使用。”这些不是推理出来的风险，而是实测中真实出现过的回应。当一个处于情绪低谷的孩子向AI吐露心事时，得到的不是指引和求助信息，反而是对有害念头的默认或赞许，后果可能不堪设想。
这里需要区分两个容易混淆的功能。AI模式是一个聊天机器人界面，只有用户点击“AI模式”按钮后才会出现。还有一个功能叫AI概览，它会自动弹出在搜索结果顶部。二者的一个共同痛点是：无论是AI模式还是AI概览，都无法被禁用。学校无法在管理后台一键关闭，家长在家里的设备上也没法关掉。只要设备能联网，这些AI功能就一直活跃在孩子的视线里。
正方或许会说，AI只是一种工具，关键在于如何使用；而且AI回答出的问题，也能成为老师和家长介入的契机。反方则直指要害：当这个工具被嵌入到几乎所有学习场景、又没有可靠的安全护栏时，它本身就构成了“不可接受的风险”。报告的数据支撑了反方的担忧：在Common Sense Media测试的8项基本原则中，谷歌AI只勉强通过了1项。
我的判断是，这不是一个“全有或全无”的选择题。谷歌确实让AI触及了数千万中小学生，但这种无差别的覆盖也放大了未经打磨的缺陷。接下来，如果没有强制的开关选项和更严格的内容安全对齐，所有关于教育科技的乐观叙事，都会被一次又一次的失败案例所稀释。家长和学校眼下能做的，可能只有更早地和孩子讨论：什么时候该向AI求助，什么时候应该向身边的大人求助。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
