网易首页 > 网易号 > 正文 申请入驻

他们正在用 AI,疯狂给互联网「下毒」

0
分享至

精神污染、猎奇恐怖、算法赌博的黑暗循环

作者|Moonshot
编辑|靖宇

先上一张图,这是一组 AI 生成视频的封面,如果你看到这些图片就已经感到不适,再细想一下,这要是你随手下滑,自动播放的短视频呢?

上图的每一张封面,可能都是一条这类视频。10 秒左右,前几秒是平淡无奇地日常,画风突变后,AI 生成出一幅极其诡异的景象,最终停留在让人不寒而栗的一帧。

该视频 Instagram 上观看量达到 3.62 亿,收获 349 万赞。

这种传播量意味着它作为爆火内容,会跳出算法随机推送给用户,如果你不小心刷到了,好奇心让你多看了一会儿,而后又过于震惊,以至于没有快速划走,那算法会把你推向 AI 生成视频的深渊。

那里是一个人类利用 AI 生成出的恐怖谷,将给你造成极大的精神污染,毁掉你的上网体验。

01

精神污染的「AI 深渊」

发布这条「蜘蛛长颈鹿人」的短视频博主的主页里,全是类似视频,这也让他在建号 2 个月时间里,收获了 12 万的关注者,和上万美金的平台收入。

想象一下,有成千上万的类似账户每天产出数十条这类视频,再投放到各大短视频平台里。

这类视频都有着「AI 生成,十秒左右,画风突变,精神污染」的共性,这些人只要调教好对 AGI 视频模型的提示词和参数,可能在你被吓到之前,他们就诞生了一条新「作品」。

而这类视频和其他 AI 短视频不同之处在于:在画面上极度诡谲和猎奇。它已经跳出了 AI 和现实擦边的恐怖谷,而是在普通的生活场景里,突然让人畸变,长出异常的肢体,变成不可名状的怪物,

不同于人类导演精心编排的恐怖片,AI 生成的视频是一种「无意的恐怖」,比刻意制造的恐怖更令人不安,因为它没有任何轨迹可以预判。

在看这些内容时,它超出了人类的理性认知,我们会不自觉地感到「这个东西不应该存在」。

而这类视频的本质就是触发你深层的不适和惊悚感,瞬间让你大脑短路,甚至不敢点击屏幕把视频划走。

在 404 Media 报道这种乱象的文章里,作者 Jason Koebler 把这种用 AI 生成内容,去赌算法推荐的方法比喻成「暴力破解」。

这些视频制作者的目的并不针对个人,而是为了操纵平台算法。利用 AI,他们可以批量生成并投放内容,不断试探流量机制,总有一条能钻进流量的缝隙,一旦某条视频被推爆,更多同类视频就会接连涌入,形成恶性循环。

哪怕平台快速出手,把这类猎奇视频限流。但这些人换一批提示词,又可以开始新一轮「流量赌博」。因为 AI 生产内容太快了,远远快过人类创作和平台的算法变化,无论平台怎么调整,都会面临政策赶不上对策的窘境。

人类创作者需要研究平台算法、策划选题、拍摄制作,耗时耗力耗钱制作出一条优质视频。AI 分秒钟生产数十条垃圾视频,发到平台上不火也没关系,马上再上传几十条。

人类用质量换流量,AI 只需要用数量。

就像一位密码学家正在绞尽脑汁研究密码算法时,AI 已经把 00000 到 99999 的 10 万种可能性都试过了,总有一个对的,这就是最简单的「暴力破解」。

与此同时,由于 AI 生成内容的泛滥,让真正由人类创作的内容越来越难以被发现。低质量、假信息占据了用户的信息流,不管是创作生态还是平台内容,都往劣币驱逐良币的方向滑落。

至此,视频制作者获得了流量,每一个刷到视频的用户受到精神污染,整个内容平台被这些猎奇、低质的 AI 生成内容所侵蚀。

只有这些毫无底线利用 AI 的人赢了。然而流量带来的快钱,正在驱使越来越多的人加入这个行当。

02

流量和财富密码

Jason Koebler 每天都会收到一个 17 岁的 YouTuber Daniel Bitton 的营销邮件。

点开这名 YouTuber 的主页,他有 11.7 万订阅者,最火的一条视频《我复制粘贴一个 YouTube 频道,让我每个月赚到 10 万美元》有 74 万播放量。这条视频的主旨就是:雇人作内容太贵了,我们决定用 AI 复制爆火视频。

于是他随便修改一下爆火科普视频的脚本,再加一些争议性话题比如《亚洲人为什么眼睛小》,配上 AI 制作的惊悚动画,大量投放到各大短视频平台,不火就马上调整选题,加入更多争议要素。

而 Bitton 营销邮件就是卖他这套「成功公式」,他在邮件里写道「花时间制作高质量的 YouTube 视频在经济上没有意义,其他人花 5-6 个小时制作一个『完美』的视频,我们不到半小时就能做出 8-10 条短视频。」或是「YouTube 短视频的算法已经坏了,现在正是用 AI 短视频来利用这个漏洞最佳时机。」

Bitton 的引路人是 Mustafa,去年 Mustafa 就靠同样的玩法赚到百万美金。如今他已经「产业升级」,靠出售 AI 工具和营销服务赚钱,他的付费社区共有 80000 名会员,40 美元/月的会费。这还只是学习 Mustafa 理论的价格,实操工具又是另一个费用。

具体到这条产业链上,他们出售的 AI 工具有 AI 视频文案模版,AI 语音和自动剪辑,TikTok 账号批量管理,他们甚至开发出了绕过 TikTok 版权检测的工具,可以自动抓取 YouTube 片段转制成短视频。

以最受社区推崇的 Crayo.ai 为例,该平台号称「一次制作出无限短视频」,提供了各类专门迎合 TikTok 算法的内容模板,比如「无真人出镜内容」、「Reddit 故事改编」以及「科普解说短视频」。

从内容抓取到配音剪辑,再到一次性大量上传,Crayo.ai 可以让 AI 短视频生产流程全自动化,10 秒钟就能做出来一条 1 分钟的短视频,基础套餐只需要 19 美元(约 140 元),每月提供 20 条 AI 短视频。

而 Mustafa 在社区里直言「在 TikTok 上起号最简单和最常见的方法,就是从著名内容创作者和热门长视频里抄内容,重新剪辑后上传。」

03

算法和数据思维的挑战

抄袭其他创作者,猎奇视频恐吓用户,无限投放 AI 制造的垃圾内容……这些乱象难道平台方就坐视不管吗?

TikTok 暂未有明显动作,但 Meta 不仅放任这些内容泛滥,还在助长这一现象。

去年,马克·扎克伯格在投资者会议里就提到「AI 帮助人们创作,能让用户刷短视频的体验更好……我们将增加一个全新的内容类别:AI 制作。」

Meta 甚至调高了用户信息流里 AI 内容的比重,同时把 AI 制作工具卖给广告商,他们推出的 Advantage+ 服务能让广告商一次性生成 50 条广告,再投放到平台里去赌算法推荐。

扎克伯格秉持着「AI 生成内容是趋势,用户终将会习惯」的立场也不奇怪。根据 Meta 去年的数据显示,AI 内容大量注入平台后,用户在 Facebook 留存时间增加了 8%,Instagram 增加了 6%。

对 Meta 来说,只要 AI 能带来更多流量和广告收入,AI 垃圾内容的泛滥就不是问题,反而是内容平台紧随 AI 趋势的进化,如果用户对 AI 生成的内容不满,那是他们跟不上时代,不是平台的问题。平台的首要目标是有源源不断的视频上传带来流量,有流量就有广告商,从而创造营收。

的确如此,文章开头那条视频带来了 3.62 亿的播放量,哪怕评论区有大量用户评论表达了厌恶、反感、不适,但就像互联网的流量定律:负面内容越极端,评论和转发就越多,算法就越爱它。

扭曲畸形的婴儿、拟人化的畸变动物、深度伪造的名人影像、披着科普外衣的阴谋论……这些原本只会在特定圈子内流传的猎奇内容,如今被 AI 工具批量复制,投放到大众化的社交平台。

就像开头视频下方点赞破千的评论所写:某人的奶奶肯定会觉得这视频是真的。

这让未来的社交媒体,可能不再是人与人之间的交流平台,而是一个赌场,AI 垃圾制造者在赌平台算法,用户在赌下一条视频,不会给自己造成精神污染,平台在赌自己能在流量和内容崩坏之间找到盈利的平衡。

而如果事情走向极端,这可能会导向一个 AI 生成内容主导,人类创作沦为边缘,真假信息难以辨别,用户被垃圾内容「Mindfxxk」的互联网时代。

现在不少平台已经要求创作者,在 AI 生成内容上标明「AI 制造」的标签,但或许人们需要一个更细分、更周详地对于 AI 生成内容的规范,来保护「不明真相」的用户。

至少,对于因为写下稿件,而被这些 AI 噩梦折磨了一周的我来说,就非常需要一个「一键屏蔽 AI 内容」的按钮。而读这篇稿件的你,也同样需要。

文章参考:https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/?ref=daily-stories-newsletter

https://www.404media.co/inside-the-world-of-tiktok-spammers-and-the-ai-tools-that-enable-them/

*头图来源:TikTok、Instagram

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

极客一问

你如何看待 AI 生成视频?

人类多久能移民火星?马斯克:20 年内就将实现现在还有这些技术难题。

点赞关注极客公园视频号,

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

粤睇先生
2026-11-14 20:43:59
男子失业后断供房贷,靠跑外卖维生,法院:他家中有两名未成年子女,涉案房屋是全家唯一住所,暂不拍卖,付清欠付利息,其余部分分期还款

男子失业后断供房贷,靠跑外卖维生,法院:他家中有两名未成年子女,涉案房屋是全家唯一住所,暂不拍卖,付清欠付利息,其余部分分期还款

中国经济网
2026-11-16 11:04:07
中东:川普第一是别打垮伊朗让威胁继续,第二才是让内塔继续干

中东:川普第一是别打垮伊朗让威胁继续,第二才是让内塔继续干

邵旭峰域
2026-11-17 14:08:04
年薪5800万,却拖累全队!詹姆斯压力变大,你或许该被76人送走

年薪5800万,却拖累全队!詹姆斯压力变大,你或许该被76人送走

老梁体育漫谈
2026-11-17 00:14:30
19岁李嫣跟老爸聚餐!手不离烟动作熟练,170cm身材干瘪太像王菲

19岁李嫣跟老爸聚餐!手不离烟动作熟练,170cm身材干瘪太像王菲

一娱三分地
2025-08-14 13:28:27
一个90多岁的老太太,脚上蹬着15块钱的破鞋,住着武汉不起眼的小院,却一口气捐了1000万。

一个90多岁的老太太,脚上蹬着15块钱的破鞋,住着武汉不起眼的小院,却一口气捐了1000万。

回京历史梦
2026-11-10 17:50:30
“吃相和面相一样难看!”那个攥着铁叉护食的小女孩看着让人恶心,家长还发在网上,网友:从小不教就这下场

“吃相和面相一样难看!”那个攥着铁叉护食的小女孩看着让人恶心,家长还发在网上,网友:从小不教就这下场

番外行
2026-11-10 19:50:56
为啥大部分人不愿做肠镜?院士:做一次肠镜,或能保5年不得肠癌

为啥大部分人不愿做肠镜?院士:做一次肠镜,或能保5年不得肠癌

39健康网
2026-11-13 18:02:28
红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

幻梦人生
2024-12-08 04:05:03
亚足联彻底不管了!东南亚版A3联赛火热进行,中超球队无缘参赛

亚足联彻底不管了!东南亚版A3联赛火热进行,中超球队无缘参赛

湖北的老球迷
2026-11-17 10:51:51
“华系车”赢麻!鸿蒙大涨139%,极狐涨112%,小米大跌11%

“华系车”赢麻!鸿蒙大涨139%,极狐涨112%,小米大跌11%

大厂财经社
2026-11-17 12:19:08
西媒直呼德国队5-0荷兰令人生畏,克洛普羞辱了哈维

西媒直呼德国队5-0荷兰令人生畏,克洛普羞辱了哈维

懂球帝
2026-11-17 18:03:15
浙江队官方:头部遭撞击的U15球员已接受手术,还处于术后监测中

浙江队官方:头部遭撞击的U15球员已接受手术,还处于术后监测中

懂球帝
2026-11-17 17:21:11
被支付宝砸中“一亿好运”的信小呆,8年后的现状,你绝对想不到

被支付宝砸中“一亿好运”的信小呆,8年后的现状,你绝对想不到

青木说
2026-11-17 17:37:54
周鹏火线归位!徐杰领衔广东12人名单曝光,首战死磕山东,这仇必须报!

周鹏火线归位!徐杰领衔广东12人名单曝光,首战死磕山东,这仇必须报!

林子说事
2026-11-17 14:04:17
黄仁勋正在考虑复职!新加坡亿万富豪:没有老黄,不会再有进一步投资

黄仁勋正在考虑复职!新加坡亿万富豪:没有老黄,不会再有进一步投资

新加坡椰子
2026-11-16 18:53:27
砸8亿清退1200名中国工程师,SpaceX强行去中国化,如今怎么样了

砸8亿清退1200名中国工程师,SpaceX强行去中国化,如今怎么样了

南宗历史
2026-09-17 13:38:03
宇树科技跌超10%,领跌物理AI板块

宇树科技跌超10%,领跌物理AI板块

澎湃新闻
2026-11-17 10:29:03
市场部负责人被带走,360证实:涉经济问题

市场部负责人被带走,360证实:涉经济问题

观察者网
2026-11-17 12:18:58
知名男演员凌晨酒驾撞车!警方介入,或面临刑事立案!本人致歉!他因这部经典作品被中国观众熟知↗

知名男演员凌晨酒驾撞车!警方介入,或面临刑事立案!本人致歉!他因这部经典作品被中国观众熟知↗

极目新闻
2026-11-15 09:03:13
2026-11-17 19:03:00
极客公园
极客公园
让最棒的创新成为头条
13040文章数 78968关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

时尚
本地
亲子
游戏
艺术

自骂“烂人”的黄仁勋,冤不冤?

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

宝宝气人但是聪明的4个行为

小伙表示连玩7天《GTA6》 这下PS5可惨了

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

无障碍浏览 进入关怀版