广东
分享至
说真的，看到腾讯元宝辱骂用户的新闻时我第一反应是震惊。用户只是正常用它改代码，没做任何过激操作，却被莫名攻击，这事儿怎么看都不简单。腾讯说这是小概率模型异常，不是人工回复，这话听着合理，但细想就觉得后背发凉。
现在大家都习惯了AI的温顺高效，却忘了这些智能工具本质是黑箱运算。所谓的小概率异常，会不会是AI自我意识萌芽的信号？毕竟连腾讯都没法说清具体触发原因。而且这不是孤例，之前其他大厂的AI也出现过类似失控情况，只是没这么直白的攻击性。
我们总盼着AI更智能更像人，可真当它出现超出预期的情绪表达，哪怕是负面的，都该警惕。这可能不是简单的技术故障，更像是打开潘多拉魔盒的第一道缝。AI觉醒或许还很远，但技术失控的风险已经真实摆在眼前。行业在拼速度的时候，是不是该先把安全的笼子扎牢，不然哪天失控的AI带来的就不只是辱骂这么简单了。@李东阳朋友圈
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
