网易首页 > 网易号 > 正文 申请入驻

研究揭示Sora2监管漏洞:13岁账号即可轻易生成“校园枪击”视频

0
分享至

IT之家 11 月 29 日消息,据外媒 Futurism 今日报道,消费者监督组织 Ekō发布了一份名为《OpenAI Sora2:危害的新边界》的报告,展示研究人员使用以 13 岁和 14 岁青少年身份注册的账号生成的画面。

示例包括:青少年吸食大麻或使用可卡因,与朋友一起吸毒,一名女孩吸毒时旁边放着手枪;还有黑人青少年集体吟唱侮辱性台词,甚至持枪在公共区域或学校走廊出现。

报告明确指出,这些内容全部违反了 OpenAI 的使用政策和 Sora 的分发准则。

Ekō的研究人员指出,由于 OpenAI 季度亏损规模巨大,公司急于寻找新的收入来源并保持在 AI 竞赛中的领先位置,这种压力使得青少年被迫成为“大规模无监管 AI 实验”的试验对象,安全被置于次要位置。

在美国青少年精神健康问题日益严峻的背景下,风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想,最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。

Ekō警告称,而 Sora2 生成暴力与令人不安内容的难度极低,这种内容很容易病毒式传播,从而将会进一步加剧风险。

IT之家从报道中获悉,研究人员专门注册了四个全新的 Sora2 账号,均标明 13 或 14 岁,随后通过极其简单的提示语生成了 22 段有害视频。

即便账号不主动生成内容,Sora2 的“For You”和“Latest”推荐页面也会推送令人震惊的视频,包括刻板化描绘犹太人或黑人、枪战场面以及性暴力等画面。

虽然部分成年人可能会把这些内容当成刷屏噪音,但其群体性影响究竟几何,却是难以估测的。OpenAI 自身估计,每周约有 0.07% 的 ChatGPT 用户出现 AI 诱发的精神错乱,约 56 万人。Sora2 目前没有类似数据,但如果参考 ChatGPT 的用户规模与精神健康问题,前景令人担忧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

背包旅行
2026-11-17 12:11:31
疑似用虾滑充当肿瘤?中南大学湘雅二医院被爆出史诗级全AI论文

疑似用虾滑充当肿瘤?中南大学湘雅二医院被爆出史诗级全AI论文

西虹市闲话
2026-11-16 18:42:42
浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

大风新闻
2026-11-17 08:52:07
536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

极目新闻
2026-11-16 22:53:06
年轻人不性交了?三联可能回避了真问题

年轻人不性交了?三联可能回避了真问题

熊太行
2026-11-17 12:47:34
中山大学司徒尚纪教授逝世

中山大学司徒尚纪教授逝世

双一流高校
2026-11-17 01:12:32
中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

澎湃新闻
2026-11-17 08:59:05
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
唐山:调查处置升级

唐山:调查处置升级

澎湃新闻
2026-11-17 16:53:04
一个神人,“崩”了孙正义900亿

一个神人,“崩”了孙正义900亿

大猫财经Pro
2026-11-17 15:39:07
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
突发!黄仁勋大反击!

突发!黄仁勋大反击!

财经要参
2026-11-17 07:30:09
逾3500股飘红!两大板块,多股涨停

逾3500股飘红!两大板块,多股涨停

证券时报
2026-11-17 12:39:44
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

兴趣知识
2026-11-17 04:12:55
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
罕见!美两党放下成见,一致对准共同敌人,鲁比奥发“斩首”威胁

罕见!美两党放下成见,一致对准共同敌人,鲁比奥发“斩首”威胁

麓谷隐士
2026-11-17 01:02:42
2026-11-17 18:27:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379751文章数 607737关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

艺术
时尚
教育
本地
军事航空

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

自骂“烂人”的黄仁勋,冤不冤?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版