![]()
AI助手Kimi疑似泄露用户隐私?该消息被用户发文爆料之后,迅速引发外界强烈关注。
4月20日,用户发文爆料称,他在使用月之暗面开发的AI助手Kimi之时,惊现其发布疑似其他用户个人简历的情况,而这份简历当中,包括其姓名、电话以及邮箱等个人敏感信息。
![]()
1
而接下来的情况,让人大为惊恐。
这个爆料人用那份简历当中的联系方式,竟然联系到了被泄露个人简历的用户本人,双方沟通后发现,这个被泄露简历的用户曾在同一时间段内,将个人简历发给Kimi进行优化。值得留意的是,当时他发的是文档格式,并非公开信息。
![]()
上述爆料人对此发投诉邮件至Kimi官方,24小时过去后,对方没有回应。
而这一社交平台的发文迅速引发外界关注的同时,也有自称Kimi的工作人员的人,联系爆料人进行沟通。其对此解释为“AI幻觉”,并且希望爆料人将发文删除掉。不过爆料人不认可解释原因,并且拒绝删除发文。
其实,该事件的受害者是那个个人简历被泄露的用户,该用户得知情况后,也采取了行动,试图保存此前上传简历的记录,可是其发现Kimi客户端无法保存该记录。
2
伴随着舆论持续发酵,网友纷纷讨论事件背后的大模型数据安全问题。
不少自称了解大模型技术的网友认为,事件不大可能是由“AI幻觉”引发,更大概率的原因可能是,在高并发请求的压力下,大模型的后端系统出现严重的“缓存串号”或“哈希碰撞”。
![]()
也就是说系统在一对多的情况下,批量分发结果时发生标识符错乱,从而将将处理后的个人简历发错了对象。
不过上述原因也仅为网友的个人猜测,不能将其确认为事件发生的原因。
事件持续发酵后,自称Kimi官方工作人员的人,又联系到爆料人,重新给出新的解释,称是“发串”了,也就是上边网友分析的的那种情况,将给B(提出优化个人简历的人)用户的回复,发给了A(爆料人)。
不论什么原因,负面影响已经产生。事件受害者有权对个人信息的泄漏进行正当维权。而不少用户对使用AI助手的信息安全打上了问号,在信任度上势必会有所降低。
![]()
在安全风险颇高的当下,提醒用户的一些个人敏感信息,尽量避免发给AI助手处理。
不论是底层模型的记忆混乱,还是工程架构方面的缓存串号,月之暗面公司出现这种大离谱的事件,说明自身存在着不容忽视的系统隐患。
而企业跑得越快、做得越大、用户规模越多,就意味着平台责任越来越重。此事件提醒该企业,技术创新与应用落地的狂奔之下,安全风控一直是其是否可长久发展的底座。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.