16岁少年自杀前咨询AI，验尸官称对话令人毛骨悚然

人工智能“距离比包括科学家在内的所有人类都聪明只差几个月”，技术开发者认为，像Chat GPT这样的大型语言模型很快就会胜过地球上所有的博学之士。

有人声称，人工智能将在一年内成为终极专家，并击败人类专家。技术开发者认为，像Chat GPT这样的大型语言模型将胜过地球上所有的博学之士。他们设计了一项名为“人类终极考试”的测试，声称这能显示该技术距离“人类专业知识前沿”有多近。

Scale Labs（HLE 背后的 AI 公司）说：“在过去的几年里，我们在这些语言模型上看到了惊人的进步。”HLE是一个包含2500个问题的题库，需要至少博士水平的知识。该公司表示，任何达到接近100%正确率的人或物都将是“全能专家”。

在2024年，OpenAI的GPT-4o答对的HLE问题不到3%。但在几个月内，谷歌的Gemini答对了18.8%，而上个月他们的最新模型取得了令人印象深刻的45.9%的成绩。

来自谷歌的人工智能实验室说：“如果我们真的把这作为生活中唯一关心的事情，我认为我们可以很快实现。越来越多的人感兴趣的前沿是新问题的发现和解决。这关乎能够协助研究人员和科学家实际进行新药或其他事物的发现。”

但任何事物都是双刃剑，随着AI越来越先进，人们对于它的恐惧也在不断增加，近日，英国一名 16 岁的少年在收到有关ChatGPT的问题以及“告别”信息后结束了自己的生命。

16 岁的卢卡·沃克在去世前曾向AI聊天机器人ChatGPT咨询如何结束自己的生命。一名验尸官对人工智能的安全保障措施表示担忧，因为这名少年绕过了心理健康支持功能。昨天的听证会上透露，卢卡与该AI平台的交流内容令人“感到恐惧和不安”。他轻易地“绕过了”ChatGPT的保护措施，假装自己是出于“研究”目的而询问有关自杀的问题。

温彻斯特验尸官法庭的验尸官判定该男孩是自杀身亡，并对人工智能软件的影响表示担忧。他了解到卢卡曾饱受心理困扰，并向ChatGPT寻求过帮助。

在听证会上，警探长加里·奈特说道：“卢卡与ChatGPT的对话读起来确实令人毛骨悚然且心怀不安。它明确提到可以联系诸如萨马里安斯这样的组织寻求帮助，但卢卡却避开了这一点，而ChatGPT也接受了这一点，并给出了在铁路上人们可以采取的最有效行动方式。这令人感到痛苦，但不幸的是，这是现代世界的一部分。”

验尸官克里斯托弗·威尔金森表示，由于人工智能的影响力不断扩大，他感到无力干预。他确认死因是多处创伤性损伤，并表示卢卡是自杀身亡的。

OpenAI 的一位发言人表示：“我们一直在改进ChatGPT的训练模式，使其能够识别并回应可能出现的心理或情绪问题的迹象，帮助平息对话，引导人们寻求实际的外部支持。”