网易首页 > 网易号 > 正文 申请入驻

「不是,而是」:AI写作留给文字世界的特洛伊木马

0
分享至


本文来自微信公众号: 显影笔记 ,作者:MengZhi,原文标题:《「不是,而是」:AI写作留给文字世界的特洛伊木马》

上个月24日,投资人Druckenmiller在《华尔街日报》发表了一篇对于美国财政部债务回购政策的评论文章,反复使用的"不是,而是"让读者嗅到了AI写作的讯号。随后,Druckenmiller被迫承认使用了AI工具。承载了审慎思考的句式被AI占用,而人类编辑的把控在失效。一个新的问题出现:谁来为内容的可信度负责?

01

一个正在被察觉的AI写作“诡计”

最近,我开始在写作中有意识的避免使用“不是…而是…”的句式,甚至还减少了文章中的破折号。这两个形式正在快速成为AI写作的标识。根据巴伦周刊报道,过去2年,“不是,而是”的句式,在美国大型企业文件中的使用频率忽然翻倍增长,已达到历年的4倍以上。

上个月24日,投资人Stanley Druckenmiller发布在《华尔街日报》Opinion版面的署名文章,可谓对这一数据变化的亲身演绎,开篇即塞进了3次否定排比与并列句,也让读者察觉出AI写作痕迹。


“没有流拍,没有交易商资产负债表挤兑,没有强制平仓,没有任何类似2020年3月美债或2022年9月英国国债那种真正功能失调的情形,那种情形才配得上官方出手。波动得到了控制,交易井然有序——不是故障,而是机器在完成它的工作。”

学者Claudia Sahm使用检测工具Pangram分析,显示这篇内容为100%的AI写作。随后,Stanley Druckenmiller不得已承认使用了AI工具,但否认完全由AI代笔。

熟悉的句式结构被AI“挪用”,读者对于写作的信任也在坍塌,连表达者想要主张的观点也在失焦。就像诺兰电影《奥德赛》中的剧情,当特洛伊遭遇了“木马计”以后,每一次陆地居民看到“海上来的人”,感受到的是恐慌。

02

同一种句式,AI的写法为何让人不适?

“不是,而是”,是人类太过熟悉的表达。它通常服务于上下文全局,先否定一个默认的共识、一项误解,再给出一个判断、一项事实,展现了“一破一立”的叙事智慧。

这样的表达方式,承载了与信任相关的演说、社论、报告,成为了人类的集体记忆。其中,就包括了美国前总统肯尼迪1962年的“阿波罗登月计划”演讲。

这篇长达15分钟的演讲中,“不是,而是”的句式只被使用了1次,成为全篇点睛之笔——我们选择登月,不是因为它容易,而是因为它艰难。这句话高度凝聚了“迎难而上”的精神,驳斥了“安于现状”的幻想,让普通百姓也听懂了举国力支持登月探索的意义。

如今,AI Chatbot 10秒不到即可生成5次“不是,而是”。语气似人非人,无差别使用,仿佛是永动机器的产物。甚至,它不关心在前文刚刚说过什么,不了解现实世界中是否有误解需要推翻,有时候还会虚设一个不存在的反驳目标。

03

“不是,而是”背后的技术原理和商业权衡

在AI生成的内容中,“不是,而是”句式使用的方式五花八门,尚无一个放之四海而皆准的成因答案。但是,从模型的训练数据、训练机制,到生成机制来看,不难展开推测——

1.训练数据:“不是,而是”一直存在于优质内容范例中,作为递进式的洞察引导,比如前面提到的肯尼迪的“登月计划”演讲。对于大语言模型(LLM)来说,在最初的训练数据中即开始大量接触这一“句式”。

2.训练机制:AI对于这一句式的过度使用,则可能来自于后训练阶段的RLHF(基于人类反馈的强化学习)。石溪大学研究AI写作的计算机科学助理教授Tuhin Chakrabarty就对《大西洋周刊》表达过类似观点。

首先,这种结构层次分明、语气笃定的表达,很可能从一开始就赢得了人类标注者的高分评价。到了RLHF阶段,通常会使用一个代表人类偏好的“奖励模型”作为评审,对策略模型进行训练。当“奖励模型”进一步认可了“不是,而是”,就会强化LLM的相关表达,甚至可能被Reward Hacking。

3.生成机制:LLM的内容生成,本质是在做“下一个词的预测”。它结构完整、语义畅通,但无法保证每一句话出现在文章中恰到好处的位置,每一种句式以最适当的频率出现。于是,就出现了AI写下无数个“不是,而是”,而缺乏适当“呼吸与留白”,进一步造成了阅读体验的不适。

此外,在模型厂商的战略能力布局层面,Coding才是核心战场,写作从来不是产品重心。今年年初,Sam Altman回应GPT-5写作质量下滑的问题时表示:OpenAI把5.2版本的绝大部分精力放在了使其具备超强智力、推理、编程和工程的能力上。

04

这是一个产品技术问题,还是信任问题?

技术原因不难推演。值得思考的是,这座“特洛伊木马”应该被放行吗——那些不经披露、未经验证的AI写作,一次又一次冲击内容信任的行为。

因此,这也绝对不仅仅是一个“技术和产品够不够完美”、或者“如何做好Harness”的问题,它指向了「AI治理」。

2026年以来,以长文写作为主要载体的互联网社区,正在采取限制,避免AI冲击平台的信任根基:Substack、Quora上线了AI内容检测功能;Linkedin在8月份上线了对于“疑似AI创作”的举报,停用了AI写作优化功能。回顾近几年,这几大平台都在一定程度上遇到了“AI Slop(垃圾内容)”的困扰。

在围绕公共利益相关的内容主题,8月2日,欧盟《人工智能法案》第50条透明度规则正式生效。它在具体要求中提到,“其部署者须披露该文本系经人工智能生成或操纵”。

“不是,而是”句式的泛滥,用阅读体验上的“刺痛”,让我们有机会重新审视效率“野心”之下,人与AI的能力边界,思考在公开写作中,发布者需要承担的披露与内容责任。

管理AI所带来的内容信任冲击,行动才刚刚开始。也许就像1940年,英国在二战中取得阿拉曼战役大捷后,丘吉尔在演讲中所说的:这不是结束,这甚至不是结束的开始,但这毕竟是开始的结束。Now this is not the end.It is not even the beginning of the end.But it is,perhaps,the end of the beginning.

显影笔记

围绕人与技术,关注那些永恒不变的主题。追踪生成式人工智能时代的技术信任、人机合作边界;探索现象和叙事之下,那些尚待「显影」的逻辑。

封面图:The Procession of the Trojan Horse into Troy,Giovanni Domenico Tiepolo。

参考资料:

·It’s not just one thing—it’s another thing,TechCrunch

·Billionaire Stanley Druckenmiller’s WSJ Op-Ed Criticizing Bessent Was Written With AI,NOTUS

·The Most Famous AI Writing Tic Is Also the Most Mysterious,The Atlantic

·LinkedIn adds a button to report AI-generated‘slop’,TechCrunch

·Article 50:Transparency obligations for providers and deployers of certain AI systems

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4890032.html?f=wyxwapp

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全球富豪榜大洗牌,前十全美国人,马斯克9540亿美元断层第一!

全球富豪榜大洗牌,前十全美国人,马斯克9540亿美元断层第一!

ChicMyGeek
2026-09-25 17:12:26
天涯老帖分享:低收入人群该怎样积累财富,网友:还好还能刷到!

天涯老帖分享:低收入人群该怎样积累财富,网友:还好还能刷到!

另子维爱读史
2026-08-25 19:59:13
78岁连路都走不稳还开演唱会,全网骂声一片,她却扬言回馈粉丝

78岁连路都走不稳还开演唱会,全网骂声一片,她却扬言回馈粉丝

二胡的岁月如歌
2026-04-14 18:43:51
太危险!小孩拿比亚迪1000V闪充枪荡秋千 家长千万看住

太危险!小孩拿比亚迪1000V闪充枪荡秋千 家长千万看住

快科技
2026-10-04 14:49:05
黑色紧身健身套装,贴身面料勾勒熟女饱满曲线

黑色紧身健身套装,贴身面料勾勒熟女饱满曲线

只要高兴就好
2026-09-23 08:15:38
劳务派遣是怎么掏空一个社会的经济的?

劳务派遣是怎么掏空一个社会的经济的?

流苏晚晴
2026-09-29 19:07:54
“酱油大王”跌落神坛?代工厂停产、3年连亏、一家三口成了老赖

“酱油大王”跌落神坛?代工厂停产、3年连亏、一家三口成了老赖

离离言几许
2026-07-15 01:25:50
日本这届亚运会凉透,全世界都学乖了:没中国捧场,生意做不起来

日本这届亚运会凉透,全世界都学乖了:没中国捧场,生意做不起来

怪味历史连连看
2026-09-13 01:39:52
奉劝60‑70岁男人:到这年纪贪色,是人生致命大坑

奉劝60‑70岁男人:到这年纪贪色,是人生致命大坑

观观说事
2026-09-04 22:30:03
刘涛真是美人命苦:替老公还完数亿债务,结果2025年他又亏了12亿,甚至她说,你有外遇了我也不会离开

刘涛真是美人命苦:替老公还完数亿债务,结果2025年他又亏了12亿,甚至她说,你有外遇了我也不会离开

美芽
2026-09-13 18:08:29
谢娜:以为嫁给张杰生3个孩子已够幸福,没成想,如今幸福又升级

谢娜:以为嫁给张杰生3个孩子已够幸福,没成想,如今幸福又升级

草莓信箱
2026-09-04 06:18:30
“没显过人家,开始嫉妒了!”宝妈暗中较劲被嘲:品位差距太大!

“没显过人家,开始嫉妒了!”宝妈暗中较劲被嘲:品位差距太大!

林林先生
2026-09-23 11:17:49
WTT中国大满贯:10月5日赛程公布!孙颖莎迎首秀,梁靖崑战强敌

WTT中国大满贯:10月5日赛程公布!孙颖莎迎首秀,梁靖崑战强敌

陌识
2026-10-05 00:24:00
不出意外,个人存款超过100万的家庭,可能会面临4个问题,很现实

不出意外,个人存款超过100万的家庭,可能会面临4个问题,很现实

叮当当科技
2026-10-01 00:08:27
舆论炸锅!葡足协力邀 C 罗回归本土世界杯,B 费紧急发声劝和

舆论炸锅!葡足协力邀 C 罗回归本土世界杯,B 费紧急发声劝和

看我说体育
2026-10-04 14:52:45
演女主不火,配角次次出圈,《余红旧事》她神似汤唯演技太惊艳

演女主不火,配角次次出圈,《余红旧事》她神似汤唯演技太惊艳

看尽落尘花q
2026-10-05 00:58:27
古巴的现状有多崩溃?人们靠喝水续命,女性靠特殊方式换钱

古巴的现状有多崩溃?人们靠喝水续命,女性靠特殊方式换钱

网络易不易
2026-09-07 11:10:14
农夫山泉,已经不是一家卖水的公司了

农夫山泉,已经不是一家卖水的公司了

刺猬公社
2026-09-18 07:37:36
他是广东省委原书记,1978年被免职审查,晚年享受大军区副职待遇

他是广东省委原书记,1978年被免职审查,晚年享受大军区副职待遇

墨策史
2026-08-21 18:06:32
诺贝尔开奖倒计时1天,中国3位科学家悄悄入围,奖金今年又涨了

诺贝尔开奖倒计时1天,中国3位科学家悄悄入围,奖金今年又涨了

小鋭有话说
2026-10-04 21:29:36
2026-10-05 04:16:49
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
27905文章数 688109关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

30多岁中国夫妇在澳洲遇惨烈车祸丧生 肇事司机仅17岁

头条要闻

30多岁中国夫妇在澳洲遇惨烈车祸丧生 肇事司机仅17岁

体育要闻

32胜0负!德约2-1逆转头号种子兹维列夫 第7次晋级中网四强

娱乐要闻

高晓松悄悄复出:官媒没给他留体面

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

教育
手机
艺术
本地
公开课

教育要闻

一年级只招1人,大批学校撤并,农村小学还有未来吗?

手机要闻

iPhone18 Pro:首销破百万,国产旗舰首销总和不到人一半!

艺术要闻

震惊!吴冠中为何把自己的画展叫“叛徒画展”?真相远比你想的扎心!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版