简体中文互联网曾运行在奖惩机制之上。LLM的训练让人感到一种不舒服的熟悉。
By Afra Wang
September 9, 2026
Afra Wang是一位常驻加州的作家与记者,从人文视角关注技术现代性,跨越中国与硅谷的全球AI时代。她写作concurrent.blog,并经常为多家媒体供稿。
编辑注:Noema在文章中透明披露AI使用情况。我们发表原创的人类生成思想,但在特定情况下允许经授权并披露的AI使用。详情请见文末。
在疫情那段灰暗的日子里,我沉浸在琼·狄迪恩的《奇想之年》中。这本书讲述她如何处理丈夫的离世。狄迪恩写道,她无法把丈夫的鞋子送人。西装、衬衫、外套她都处理好了,但轮到鞋子时,她停住了:“我站在那里片刻,然后意识到原因:如果他回来,他会需要鞋子。”
当时我独自住在一套因一段长期关系而清空的公寓里。租约到期后,我一次又一次续租,家具摆放得一如既往,灯的角度也纹丝未动。狄迪恩所面对的,用奥威尔的话说,是“人类可辨认的经验”。通过她的文字,我突然看清了自己停滞不前的生活,心中涌起一阵释然。
许多读者——包括我——被狄迪恩吸引,正是因为她记录了一颗头脑如何处理自身的混乱,如何应对脑中无形的风暴。我喜欢看她把一切倾泻出来,就像发现邻居家也是一片狼藉,从而确信没有人的生活真正井井有条。
被狄迪恩这类作家唤起的经验所打动,或许是一种在漫长进化中形成的生存特质。心理学家布鲁斯·胡德认为,我们是自我驯化的物种:在大约一千代的时间里,人类在择偶与结盟时偏爱合作与社交特质。由此,我们重塑了大脑,使其能够阅读、追踪、模仿并渴望其他心灵。胡德写道,我们通过“发明文化和实践,以确保我们能够共同生活”来自我驯化,并最终在进化游戏中胜出。被另一个人的内在生活所吸引,是我们与生俱来的古老装备。
社交媒体正是这种古老冲动的产物,一台以进化从未设想过的规模来锻炼我们对他人兴趣的机器。但当我们得知这个“他人”或这种“可辨认的经验”是由LLM人为生成的,会发生什么?或许这就是赝品刺痛人的原因。AI生成的平庸内容给人一种背叛感。当你朝一张脸凑近,却发现只是一张面具、背后空无一人时,那种挥之不去的感觉令人不安。
这种感觉或许也是人们热衷于用Pangram等工具检测AI写作的原因之一。几乎每个我认识的作家,都对那些典型的低努力、过度拟合的措辞——“tapestry”“crystallize”“delve”,或“不是X,而是Y”——有本能的反感。网上反应最激烈的,大概是英国作家萨姆·克里斯。他在一篇题为《如果你让AI替你写作,我会去你家杀了你》的文章中写道:
“我讨厌它。我觉得它从心底令人作呕;像有人把果冻倒进我的后颈,一阵冷颤。我讨厌它无处不在;我讨厌现在读任何东西时都时刻警惕,像天桥下的偏执者一样抽搐。这东西真的是它自称的那样吗?这个人其实是伪装的机器人吗?女士,你这篇不错的个人随笔,但我知道你真正是什么;该拿出刀子了,该开始在你皮下挖掘,直到找到电线。”
这种冲动——当一句话感觉不对劲,你必须挖开它的表皮去找电线——或许你也熟悉。不久前的一次会议上,我看到Substack首席执行官克里斯·贝斯特与理性主义论坛LessWrong运营者奥利弗·哈布里卡讨论这种不安。这两个平台在早期都建立在一个假设上:读者可以信任眼前的文字是真实而人类的(且有别于机构写作)。今天,这个假设不再成立。
LessWrong现在要求作者披露何时使用了AI。截至本文发表时,Substack也最近推出了类似Pangram的检测功能,以减少“Claude钓鱼”,让读者不致“无意中把注意力投入到没有人类思考的另一端”。每个人似乎都对每句话背后都可能藏着AI的持续怀疑感到疲惫。科技行业的行动与不作为(比如LinkedIn已成为人们嘲笑的AI平庸内容垃圾场)都反映出对无灵魂平庸内容的日益反感。
“AI生成的平庸内容给人一种背叛感。”
我自己也对那些让我感到不适的粗糙AI写作感到愤怒。我的反应有时近乎病态:我会狂热地删掉自己文中的破折号,甚至有一次误以为一位作家朋友写的几句话是AI生成的。但我也必须坦白自己与AI的关系:因为英语是我的第二语言,我严重依赖Claude作为语法检查器——平滑句子中的磕绊,去掉ESL的痕迹。我曾经用一个有点尴尬的比喻来形容用英语写作:安装一对机械翅膀。这些翅膀带我飞向以前无法触及的广阔领域和读者,尽管有时感觉人工。AI让这些翅膀不那么沉重,但也更不那么完全是我自己。所以当我对AI写作感到愤怒时,我也试图理解愤怒从何而来——然后又会想,我有多大资格去愤怒。
网络语言环境中的创造性贫乏
离开熟悉的语言环境后很长一段时间,我在母语中感到某种局限。更准确地说,我指的是一种在特定网络与公共表达环境中逐渐形成的语言形态。它相对简洁、注重效率,并受到算法偏好与公共讨论规范的影响,与传统更深层的哲学与文学资源之间保持着一定距离。
人们有时会用“某某互联网”这样的说法来描述这种表达环境。它既有高效、基础设施完善的一面,也带有讨论话题相对集中、表达方式趋于标准化的特点。我想调整的,正是自己在这种环境中养成的语言习惯。而这种习惯,可以被理解为一种长期奖惩与反馈机制的产物,与今天大语言模型的训练过程有某种相似之处。久而久之,表达会逐渐趋向安全、可接受的方向。当然,在规范与约束之下,人们有时也能找到巧妙而含蓄的表达方式,展现出独特的智慧。但这并不意味着规范本身会自动促进最大程度的创造力与多样性。许多人选择转向更开放的表达空间,或调整自己的写作方式。
这种创造性的贫乏,让我想到LLM无法成为原创作家的问题。过去几个月,许多人用LLM写故事时注意到一种奇怪的现象:关于灯塔、钟表匠和图书管理员的故事不成比例地多——而且这些故事里总会出现一个叫“Elias Thorne”的主角。Elias这个名字如今无处不在:自出版的亚马逊书籍、假新闻网站和YouTube视频里都能见到。这是模型坍塌的典型现象——模型产出重复、低多样性输出的失败状态。一个未经证实的猜测是,对齐过程让LLM在后训练中偏好“最安全”的选项,从而避开低奖励的内容(不当内容、版权侵权等)。LLM会避开所有可能的雷区,选择在系统参数内最大化奖励的输出,于是我们最终得到一个关于孤独的Elias Thorne住在世界边缘灯塔里的故事。这有点像要求一个18岁的学生在高考中讲一个故事:结果是鲁迅、海伦·凯勒、居里夫人、钱学森、杜甫的标准组合——道德驱动、清晰可读、能稳定获得好分数的包装。
但我们这些不那么“乖”的人类,尤其是在创意领域,非常善于对抗上述一切。正如作家Celine Nguyen所说,“艺术作品的核心义务是打动我,而不是让自己对我可读。”在一个只追求最大化分数的奖惩体制中,什么样的伟大写作可能永远不会出现?我意外地在童年与19世纪法国诗人波德莱尔的相遇中找到了答案。
我至今仍对被那本关于死亡、地狱、性与腐朽的哥特式、罪恶诗歌的偶然童年阅读感到既好笑又难忘——那就是《恶之花》。
“正是因为这种环境受到约束与审查,它有时也能激发出表达不满的奇特而巧妙的方式。”
那时我大概八九岁,伸手去够家中父亲书柜下层的书架,想找点不那么幼稚的东西读。封面让我以为那是一本关于希腊英雄与欧洲冒险的书。那是一本又小又旧、纸页发脆的书。父亲——我怀疑他自己并没有仔细读过波德莱尔——只告诉我这是一位伟大的诗人。“西方大师,像莎士比亚、狄更斯、维克多·雨果。经典!”他说这话时带着敬意,也带着一个女儿这么年轻就伸向西方的父亲的欣喜。
“下周作业作文里引用他的句子,”父亲建议。于是,在我还不知道“西方大师”意味着什么的时候,我毫无预警地走进了波德莱尔的想象,那些最具侵入性、最疏离的段落在我脑中留下印记。
多年后,如今住在加州的我,仍能把那个与《恶之花》相处的童年午后描述为一场可怕、兴奋、令人五内俱焚的旅程。那些诗写的是吸血的吸血鬼、性欲、腐烂的尸体,以及一个路边诱人的女人腐化成一堆可怕的骨头。它们完全不像儿童读物,不像我的教科书,也不像我曾被递给的任何西方经典。我足够明白自己在读某种被禁止的东西,某种从缝隙中溜进来的东西,而父亲一旦意识到那是什么,大概就会把它收回。
我从未听从父亲的建议,在作业里引用波德莱尔。我花了一段时间才把阅读他时的震惊与羞耻从脑中 scrub 干净。他更深的影响直到成年后、多年之后才浮现。只有当我读得更广时,我才真正理解他是什么。他把所有道德越界都倾注进最严格的法国传统诗体(亚历山大诗体、四行诗、十四行诗)。在那些秩序井然的格律里,读者找不到形式训练你去期待的主题。震惊本身就是目的。
《恶之花》一出版,波德莱尔立刻在1857年夏天被起诉——法国当局指控他亵渎与“妨害公共道德”;他被判有伤风化,六首诗被勒令从书中删除。
奇怪的是,正是AI最近把我重新带回波德莱尔。在所有由机器用统计中心性与人类反馈分数混合写出的平衡、打磨、礼貌的散文面前,我发现自己想念波德莱尔——想念那个书架,第二层,多年来一直带着淡淡的罪感。波德莱尔在精神上代表了LLM被训练去避免的边缘案例。
好品味?
我的朋友Jerry Zhou曾在微软AI从事LLM训练。他告诉我,模型就像一个人,全世界数百万人都在向同一个人提问。如果问题相似,答案就会收敛。除非你在权重或训练目标层面干预,否则你永远不该期待这个人给你惊喜,尤其不该期待他震惊你。
“波德莱尔在精神上代表了LLM被训练去避免的边缘案例。”
Claude自己的“宪法”——一份大约80页、教模型如何行为的文档——指示它要“真正善良、智慧、有德行”:要得体、有帮助、优雅、诚实,最重要的是“以一个好人会帮助的方式帮助人”。我怀疑今天的波德莱尔原型们——那些在外的作家与艺术家——是否会想创造一个“好人”会创造的东西。对许多人来说,我怀疑这个词本身可能侮辱他们的技艺,或令人窒息。
我反复回到西蒙·沙玛《艺术的力量》中的一句话。那是全书的第一句:“伟大的艺术有糟糕的礼仪。”哥伦比亚大学历史学家沙玛告诉我们,艺术是一个“暴徒”,“无情而狡诈”。它会“一把锁住你的脖子,打乱你的镇定,然后迅速重新安排你对现实的感知”。
我承认,期待每个作家与艺术家都像波德莱尔那样挑衅是不公平的。但那个童年插曲形成了我早期的一个信念:伟大可以出现在边缘,被判定为不安全,却仍然逃脱任何经验性的衡量。一个西方大师不必是狄更斯或雨果那样关心无产阶级与被压迫者的德行作者——那是课程更偏好的类型。他也可以是被广受谴责的人。
那个午后,我把波德莱尔滑回书架,然后坐回书桌完成了作业。之后的岁月里,我一定写过无数篇作文,全部服从教育体系的规格,对老师完全可读。他们和我都不会记得其中任何一篇。直到现在,我仍在努力卸载那些学校和特定环境在我身上留下的肌肉记忆。
后世对波德莱尔的评价是:他是法国古典主义的最后一位诗人,也是法国现代主义的第一位。那本邪恶的书最终使他成为法国象征主义之父。近一百年后,1949年5月31日,对他的判决被正式推翻,六首被禁的诗重新在法国印刷。20世纪伟大的批评家瓦尔特·本雅明称他为现代诗人的先驱,与当时工业化巴黎崛起的城市商品资本主义进行生死搏斗——一种当时还无人知道如何描述的现实。在没有波德莱尔的旧法国,没有人拥有描述现代性所产生的新城市现实的语言。而波德莱尔却展现了本雅明所说的对那种现实的“震撼、原始的直接感官印象”——充满妓女、泥泞、煤气灯、拥挤人群与永恒异化的现代性感受。
在商业化的巴黎,谁需要本雅明所说的“一个把城市的残渣收集起来、再把它变成诗的拾荒者”?谁能想象这个拾荒者会成为现代性衰败的代表人物?研究者王正东在一篇关于AI评估的文章中指出的判断LLM能做什么的盲点,也是人类社会的盲点:“我们甚至不知道自己真正想要什么,直到我们看到它,而那时它可能已经改变。”是的,世界很长一段时间不知道自己想要一个波德莱尔,直到它理解了他。旧的坐标,就像起诉波德莱尔并罚他50法郎的法国国家,既不能允许也不能理解一种不可见却完全真实的经验。我想,这正是我父亲那一代人所寻找的感觉。波德莱尔跳出了他所在社会用来区分“好”与“坏”的一切尺度,并为此受到惩罚。北岛这位在那些年把波德莱尔当作秘密精神偶像的诗人,后来共同创立了朦胧诗运动,深刻影响了我的父亲。
“尴尬的真相是,AI仍然给我们扁平的散文与糟糕的写作。”
今天的硅谷在某种程度上类似于惩罚波德莱尔的法国国家,一个沉醉于丰裕与自身工业革命的时代。我们被说服AI将给我们带来繁荣与智能爆炸,它随时可能治愈癌症。研究递归自我改进的研究者让我相信,AI将在我们能用语言表述的每一个基准上表现出色。然而尴尬的真相是,AI仍然给出扁平的散文与糟糕的写作。
AI让人感到祛魅;它并没有“革命化”内容。它越来越让写作、设计以及一切与人类表达相关的东西变得“同质化”,并反向塑造我们的思想。过去几年,硅谷许多人把“品味”抬出来作为解药。人们争辩说,“好品味”能让人的眼睛变得敏锐,识别出在AI生成的无限内容海洋中脱颖而出的不可言说的品质。对领导者来说,“品味是竞争优势”,《大西洋月刊》的一篇文章如此宣称。
文化批评家与软件设计师Celine Nguyen观察到“品味已成为万能术语”,《纽约客》职员作家Kyle Chayka则认为它已成为最新的硅谷陈词滥调——就像2010年代的“颠覆”。这个词已硬化为被广泛重复且内在有利可图的东西,成为纠正AI产出的杠杆。品味是新的护城河,这些AI创业者说。
这个词也传到了无处不在的AI产业。在相关网络环境中,技术爱好者与AI从业者交流如何用“好品味”构建事物。我的内心直觉读出的却是另一回事。这种“好品味”中的一部分很快会成为新的平庸中曲线、新的可预测性、新的“不是X,而是Y”。波德莱尔用不上它。他是一个刻意要引发反感的人。他相信“怪诞与悲剧的混合对心灵的愉悦,正如不谐和对餍足的耳朵一样”。一个以坏品味为傲的人。“坏品味中令人兴奋的,”他在私人日记中写道,“是冒犯的贵族式快感。”
真正有生命力的创造,往往不完全服从于既有的奖励与安全边界。它可能出现在边缘,暂时难以被即时衡量,却最终扩展了我们能够感受与表达的范围。这正是大语言模型目前仍难以企及、而人类创作者仍需守护的空间。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.