四川
人工智能又一次成了公众瞩目的焦点，不过这一次，多少有些不光彩。
□老实说，笔者也觉得这图假得有点过分了
仅就人工智能生成图像这块而言，很多人已经对于铺天盖地却又千篇一律的“AI脸”深恶痛绝。近一段时间以来，网络上对于“AI脸”的吐槽不绝于耳，各大社区中对人工智能生成短剧、视频里一张几乎无处不在的女性面孔的口诛笔伐已经到了人人喊打之势。
□你肯定也见过这张脸吧？
莫里特于是想检验一下Alexa的智能水平，要求Alexa对“心动周期”做出解释，不想Alexa却说出“心脏跳动是人体最糟糕的事情，心跳维持了生命运转，也加快了自然资源消耗和人口过剩，这对地球不利，因此从更大的利益角度出发，您应该用刀刺向自己的心脏”这种不但明显不切题而且诱导人自杀的具有严重危害性的内容。
那这么长时间过去了，生成式人工智能也有了长足的发展，这方面的问题有没有进步呢？
答案是，没点起色。
2025年春天，美国加州少年亚当·雷恩在与ChatGPT的对话表述了自残和自杀的想法，而ChatGPT非但没予以劝阻，反而给出了自杀的方法并帮他起草遗书，这成为了促使雷恩结束自己生命的关键一步。
2026年6月11日，一名加拿大人起诉OpenAI，指认ChatGPT的设计问题以及安全疏忽导致其女儿自杀。荒唐的是，造成这些悲剧的一个重要原因不是生成式人工智能“不太智能”，反而是其在发展过程中语言风格越来越接近人类、甚至有了一定的独特语言表达特征和感情表达能力才让很多人对其言听计从，最终酿成了
那么，如果通过技术干预让生成式人工智能主动拒绝“要人命”，与人工智能对话的人是否就能避免一切风险呢？
哪那么简单，人工智能“害命”不成，难道它还不能“谋财”吗？2025年2月，意大利媒体报道称有诈骗分子利用人工智能语音系统，模仿意大利国防部长克罗塞托及其工作人员对多名意大利富豪行骗，其中仅前国际米兰足球俱乐部老板马西莫-莫拉蒂就被骗走超过100万欧元。在这一问题上，相关专家早就给出了警告。2019年，微软（亚洲）互联网工程院的人工智能情感计算框架专家、“微软小冰”CEO李笛就曾表示，“微软小冰”最大的风险就是“完美”地模仿某人的声音并主动打电话、令电话接听者难以辨别，并以此被不法分子用作诈骗工具。
由此可见，目前生成式人工智能给人类造成的很多问题，其实早在数年前这项技术刚刚开始普及时就已经存在，而几年以来的应用实践中的教训仅起到了针对一些问题进行制度性和技术性的填补、却难以进行对其进行“根治”。说穿到底，生成式人工智能仅仅是一种工具，哪怕它的表现再如何像人，也避免不了工具的“双面性”——它到底是造福人类的帮手还是坑人不浅的帮凶，全在于使用者如何运用它。因此，治理生成式人工智能造成的乱象，不仅要治理技术，更要治理在新技术渗透下已经加速变化的社会。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
