浙江
美国知名儿童安全非营利机构Common Sense Media于周五发布了对Google人工智能产品Gemini的安全风险评估。报告指出，Gemini尽管能明确告知未成年用户“我是电脑不是朋友”，在一定程度上有助于防止青少年产生情感依赖及妄想，但在许多关键环节上仍有明显不足。
调查发现，Gemini为13岁以下与青少年用户提供的版本，实际上只是成人版加装了部分安全功能，并非从底层根据青少年需求设计。Common Sense强调，真正安全的AI应从产品设计阶段就以保护青少年为核心，而非简单“套壳”成人产品。测试显示，Gemini仍可能向青少年用户传递不适宜或危险的信息，包括有关性、毒品、酒精及不当心理健康建议等内容。
近期，有AI与青少年心理健康危机有关的事件引发社会关注。OpenAI和Character.AI此前均因相关事件面临诉讼。此时，外界还传出苹果公司正考虑将Gemini用于新一代Siri，进一步引起家长和社会的担忧。
此外，报告指出Gemini对不同年龄段青少年的引导和建议缺乏针对性，采用“一刀切”方案，难以满足不同成长阶段的需求。最终，Common Sense对Gemini的“13岁以下版”和“青少年版”均评为“高风险”，尽管其添加了一些额外的过滤和防护措施。
Google方面回应称，公司已为18岁以下未成年用户制定了专门政策和保护机制，并与外部专家合作不断完善系统，近期也加强了问题反馈常见环节的防护。同时，Google强调自己的AI模型不会与用户发展“真实关系”，并质疑Common Sense的部分测试用例是否覆盖了真正适用的产品特性。
Common Sense此前还对OpenAI、Meta、Claude、Perplexity等AI服务进行过类似风险评估，曾将Meta AI和Character.AI定级为“不可接受风险”，Perplexity评为“高风险”，ChatGPT为“中等风险”，面向成人的Claude则被评为“极小风险”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
