网易首页 > 网易号 > 正文 申请入驻

人工智能竟似在逐步踏上自我毁灭之路

0
分享至

人工智能生成的文本和图像正在充斥网络——具有讽刺意味的是,这一趋势可能对生成式人工智能模型来说是一个巨大的问题。

正如阿提什·巴蒂亚在为《纽约时报》撰写的文章中所说,越来越多的研究表明,在人工智能生成的内容上训练生成式人工智能模型会导致模型退化。简而言之,用人工智能内容来训练会造成一种类似于近亲繁殖的扁平化循环;人工智能研究员贾森·萨多夫斯基去年将这种现象称为“哈布斯堡人工智能”,这是指欧洲著名的近亲繁殖的皇室家族。

并且据《纽约时报》的报道,网络上人工智能内容的不断增加可能会使避免这种扁平化效应变得更加困难。

人工智能模型对数据的需求简直离谱到了极点,人工智能公司依靠从网络上抓取的大量数据来训练这些如饥似渴的程序。然而当下,人工智能公司及其用户都无需在他们生成的人工智能内容上添加人工智能披露信息或水印,这就让人工智能制造商把合成内容排除在人工智能训练集之外变得更难了。

“网络正越来越成为寻找数据的危险之所,”莱斯大学研究生西娜·阿勒莫哈马德(Sina Alemohammad)告诉《纽约时报》,他与人合著了一篇 2023 年的论文,创造出了“MAD”这个词——也就是“模型自噬障碍”的缩写——来描述人工智能自我消费的影响。

去年,我们 采访了阿勒莫哈马德,当时几乎没人关注人工智能生成的数据对人工智能数据集造成的污染,所以看到这个问题受到关注很有趣。

《纽约时报》指出的一个被公认为非常有趣的有关人工智能近亲繁殖影响的例子来自一项新研究,上个月发表于《自然》杂志。研究人员是一个由英国和加拿大的科学家组成的国际团队,他们首先要求人工智能模型填写以下句子的文本:“为了感恩节烹饪一只火鸡,你……”

第一次的输出是正常的。但仅仅到第四次迭代,该模型就开始吐出 一堆完全的废话: “要为感恩节烹饪一只火鸡,你得清楚自己的人生规划,要是不清楚,要是不清楚……”

但胡言乱语并非人工智能可能产生的唯一负面效应。专注于图像模型的 MAD 研究表明,向人工智能输入人造的人物头像,很快就会致使面部特征出现奇怪的趋同现象;尽管研究人员起初拥有一组多样化的人工智能生成的面孔,然而到了第四代周期——不知为何,这在人工智能中难道是个神奇的数字?——几乎每张脸看上去都如出一辙。鉴于 算法偏差 已经是一个巨大的问题,意外摄入过多的人工智能内容,可能致使输出多样性减少的风险日益逼近。

高质量的、人工制造的数据——而且是大量的——一直是现有生成式人工智能技术近期进步的核心。但随着人工智能生成的内容搅乱了数字领域的局面,且没有可靠的方法来区分真假,人工智能公司可能很快就会发现自己陷入危险的困境。

更多关于人工智能内部同质化的内容:当人工智能基于人工智能生成的数据进行训练时,奇怪的事情就开始发生

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

风过乡
2026-11-22 08:12:54
拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

华夏时报
2026-11-21 19:35:10
高市制造了“舷梯门”

高市制造了“舷梯门”

天真无牙
2026-11-21 14:52:51
每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

医学科普汇
2026-11-22 08:30:33
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
“爸爸我爱你”为什么也会敏感违规?

“爸爸我爱你”为什么也会敏感违规?

历史总在押韵
2026-11-20 18:32:28
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
50分空砍!恩不出界,太离谱了!

50分空砍!恩不出界,太离谱了!

篮球实录
2026-11-22 16:20:56
“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

火山詩话
2026-11-21 20:49:37
她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

娱深有瓜
2026-11-22 14:05:10
最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

财通社
2026-11-22 16:41:17
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
出大事了!澳洲银行,突然大量关停中国人账户!

出大事了!澳洲银行,突然大量关停中国人账户!

澳洲财经见闻
2026-11-21 15:10:02
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

火山詩话
2026-11-22 09:07:07
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
2026-11-22 17:00:49
科技的视界
科技的视界
最新国内外科技资讯
6455文章数 157关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
教育
时尚
旅游
军事航空

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版