Sam Altman称机器人让社交媒体“变假”

Sam Altman在本周一表示，社交媒体上的机器人已经让人难以分辨哪些内容是真正由真人发布的。他在X上发文表示，自己在浏览、分享Reddit中r/Claudecode子版块有关OpenAI Codex的讨论时，突然意识到这一点。

近期，该子版块充斥着自称为Code用户的帖子，这一现象让Altman产生了疑问：这些帖子有多少是真人发布的？他坦言：“我读这些内容时有种很奇怪的感觉——我下意识地认为都是假的、是机器人的，尽管我确实知道Codex的用户增长很强劲，趋势也是真实的。”

Altman还现场分析了自己的思考过程。他认为这背后有多重原因：包括真实用户逐渐养成了大语言模型（LLM）式的表达习惯，活跃社群成员趋于同质化，社交平台为提升参与度而进行算法优化，以及创造者激励机制的影响。此外，他也提到存在其他公司雇人的“草根运动”（astroturfing），以及机器人自身。

Altman指出，人类的表达越来越像LLM了，而LLM本就是为模仿人类而设计，其训练数据正包括了Reddit。值得注意的是，Altman曾是Reddit董事会成员，直到2022年，并在去年公司上市时被披露为大股东。

他认为，极度活跃的社媒用户群体常常会集体表现出异常：粉圈氛围往往容易极端化。当用户对当前某公司不满时，也容易爆发大规模负面情绪。

Altman还批评了社交平台及创作者高度依赖“参与度”的变现机制。而他认为部分OpenAI相关的“吹捧”帖子其实是竞争对手雇佣人员或机器人发的“草根运动”，尽管目前并无证据证明这种爆文行为已在发生。

实际上，在OpenAI推出GPT 5.0后，其Reddit相关社区就出现了大量负面声音，许多用户抱怨新模型的各种问题。Altman随后在Reddit上举办“你问我答”环节，承认发布问题并承诺改进，但该子版块至今未能恢复以往的好评氛围——此类负面帖子还在定期出现。Altman就此感慨道：“如今的AI圈Twitter和AI圈Reddit都显得非常虚假，而一两年前还不是这样。”

究竟是谁的责任？随着GPT等模型写作能力的提升，LLM已成为社交媒体、学校、新闻业甚至司法领域的难题。据安全公司Imperva报道，2024年互联网流量中有超过一半为非人类流量，主要由LLM驱动。而X平台自家的机器人Grok也曾指出，2024年估算在X上有上亿个机器人账号。

有网友揣测，Altman发布“社交媒体太假了”这一感慨，是在给OpenAI传闻中的社交平台产品造势。今年四月，有报道称OpenAI正在开发类似X和Facebook的社区平台，但目前该产品是否存在还不确定。不过，即便未来OpenAI真的推出自家社交平台，也难保证“无机器人”。事实上，即使彻底禁止人类，只允许机器人入驻，研究发现这些AI也会自己形成小圈子和回音室现象。