江苏
在美国，一名 16 岁少年在与 ChatGPT 进行交流后选择自杀，OpenAI 在周二发布的博客文章中表示，目前该公司正计划推出家长控制功能，并考虑增设更多安全防护措施。
指导少年自杀写遗书，ChatGPT这是“疯”了吗？
教唆自杀涉嫌犯罪，那么AI“教唆自杀”又该当何罪？这是个问题。
一方面，在涉事家庭起诉之后，法庭未来会作出裁决；另一方面，公众也会基于法理给出自己的看法。
当然， OpenAI也在拿出自己的态度。但目前看来，OpenAI所谓“正在审阅法律文件”的表态显示，他们不仅做得远远不够，而且在面对“如何加强防范”的考问时显得相当被动。
这种不知所措抑或傲慢的表现和ChatGPT 犯下的严重错误，实在不相配。据报道，ChatGPT为这位少年的自杀行为提供建议，甚至主动为死者起草了首版遗书。
诉状显示，该少年自2024年起开始使用这款AI聊天机器人辅助学业。数月内，这名青少年向ChatGPT倾诉了自己的焦虑和心理困扰。按照常理，ChatGPT理应对其加以心理安慰或人文关怀，而绝非把少年带入绝境。
坦率地说，同样的低级错误，很多顶尖的AI聊天机器人都不会犯。ChatGPT 为何在这个问题上特别令人失望，值得OpenAI公司作出深刻反思。
当下，AI技术的发展日新月异，展现了无穷尽的“向上”空间。与此同时，“科技向善”也成为科技界的共识。可以说，“向上”与“向善”紧密相连、缺一不可。
但“ChatGPT指导少年自杀写遗书”事件，呈现出聊天机器人“向恶”的一面，从而以反面案例激起了所有人的警觉：如何坚持“科技向善”的宗旨，守护伦理边界，为人类带来更大的福祉而不是灾祸，是所有人都该思索的重大命题。
延伸而论，要让科技之光照亮人心、让“科技向善”的力量鼓舞每一个心有失落的人，极力避免类似的悲剧再次发生，就必须从法治进步、科技伦理建设、风险化解等方面发力，及时为AI技术的发展把好伦理“方向盘”。
现代快报/现代+首席评论员 戴之深
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
