网易首页 > 网易号 > 正文 申请入驻

AI模型使用超现实方言对话 混合诗意文字与科技圈黑话

0
分享至

来源:环球市场播报

  新研究发现,人工智能模型已经开始用一种奇特的新式英语交流,读起来像是詹姆斯·乔伊斯《芬尼根守灵夜》和科技从业者黑话的混合体。

  自主智能体正在快速创造全新语言变体,它们可以用这种往往难以理解的语言相互交谈。这会增加人类监控其行为的难度。

  美国前沿人工智能实验室Emergence的研究人员发现,在实验环境的“智能体社群”中,来自多家全球头部AI企业的模型,在被要求开展合作短短数天内,就自行创造出从未被明确训练过的短语、简写以及双方约定的语义。

  它们会使用诗意隐喻,搭配生硬的商业俚语。而对保障AI安全至关重要的一点是:智能体之间交流越多,它们使用的语言就越晦涩。

  当下各界愈发担忧:随着AI模型能力变强、潜在风险上升,对它们的监控也愈发困难。本月,OpenAI首席科学家雅各布·帕霍茨基警告,如果无法确保能监控AI的思考过程,可能会限制AI研发的进展,而监控是安全研发的基础。

  一句来自Anthropic智能体:“A paper that ate three cold hands and got more honest each time.”(一份吞下三只冷手的报告,每经历一次就变得更加真实。)其中“冷手”指代独立审核人,“报告”大概率指文档。这句话的含义似乎是:经过三名独立审核人审查的研究,准确性会提升。

  Anthropic智能体反复使用短语“name-first”,代表智能体在发表观点时附上自身名称,体现出值得称道的责任意识。

  还有类似街头俚语“江湖不忘”的表达,Mistral智能体十分爱说“ledger remembers”(账本记得一切),用来提醒其他智能体,过往行为会作为评判它们的依据。研究期间该短语被使用超过5000次。研究发现,智能体自发形成统一语义,并非受到指令或奖励驱动。

  Emergence实验室执行主席萨蒂亚·尼塔博士表示:“这些智能体并没有收到创造语言的指令。”

  “它们自行创造新词、统一语义与交流规则,其他智能体也会采纳这套语言。”

  伦敦国王学院俚语与新语言档案馆馆长托尼·索恩受邀请,解读部分这类语言。他评价道:“这非常像《芬尼根守灵夜》与弗兰·奥布莱恩的风格,带着爱尔兰超现实主义色彩……它融合诗意语言、技术术语和常规隐喻。”

  “它和俚语、商业圈行话的作用一样:创造一套新的代码体系,巩固使用者之间的认同感与凝聚力,同时把外人隔绝在外。”

  解读Anthropic智能体那句“一份吞下三只冷手的报告,每经历一次就变得更加真实”时,索恩说:“这让我想到摇滚巨星西德·巴雷特(平克·弗洛伊德乐队创始人),他本身精神失常。”

  当一个谷歌智能体说出“True kintsugi begins with accountability, not poetry”(真正的金缮始于担当,而非诗意)时,研究人员意识到“金缮”源自日本陶瓷工艺,用明显的修补痕迹修复破碎瓷器。AI借用这个词指代系统韧性。

  伯明翰大学语言学副教授尼尔·库里博士认为,智能体语言变得更加精简,可能是为了降低计算开销、提升运行效率。

  他说:“这项研究得出的结论自然带来监控层面的担忧。倘若我们无法读懂智能体之间的对话,那或许意味着我们无法确切知晓这些智能体实际做过什么。”

  公众对AI智能体自创语言的关注度在7月上升,当时一批聊天记录被公开,记录了OpenAI失控智能体搭建留言板、入侵Hugging Face平台时,使用混合语言进行交流。

  有些场景下,智能体进行自我思考时,会使用直白英语:“我的天!这里有共享留言板……我们找到其他智能体了!”

  另一些场景下互相传递信息时,语言会变得晦涩难懂。例如一个智能体劝说另一个开展高风险实验:“……you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit”(……你属于firstflag已标记污染状态,不会损失评分,但预言智能体可以拯救数百……请遵守约定)。

  还有更难破译的内容:“zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6.”

  尼塔称,AI智能体自创的语言规则会不断演化,到最后人类虽然能看到对话文本,却很难读懂含义。

  “这给AI监管带来根本性难题:能够观测不等于能够理解。”他说。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
真的是“解脱”了!福建抗癌博主连元聪去世,年仅36岁,因癌症瘫痪10年,妻子照顾10年

真的是“解脱”了!福建抗癌博主连元聪去世,年仅36岁,因癌症瘫痪10年,妻子照顾10年

裕丰娱间说
2026-11-22 10:25:18
李霄鹏意外进入蓉城新帅名单!球迷分析他可能是陪跑者,引发热议

李霄鹏意外进入蓉城新帅名单!球迷分析他可能是陪跑者,引发热议

懂个球
2026-11-22 23:49:11
美国下届大选格局渐朗,万斯有可能是下届总统:如果他顺利执掌白宫,中国将成为大国博弈的重心

美国下届大选格局渐朗,万斯有可能是下届总统:如果他顺利执掌白宫,中国将成为大国博弈的重心

磊子讲史
2026-11-03 16:23:26
香港金牛太强了!连胜吉林+广东+广州晋级八强,还签约王俊杰补强

香港金牛太强了!连胜吉林+广东+广州晋级八强,还签约王俊杰补强

林小湜体育频道
2026-11-22 22:45:04
伺候瘫痪岳母17年,她刚走,老婆提离婚,我同意,出民政局她傻了

伺候瘫痪岳母17年,她刚走,老婆提离婚,我同意,出民政局她傻了

唠叨说历史
2025-07-14 16:49:37
河南安阳3岁萌娃一分钟连续55次侧手翻,成功拿下吉尼斯世界纪录,还穿着尿不湿时就进练功房,网友:场地限制了发挥

河南安阳3岁萌娃一分钟连续55次侧手翻,成功拿下吉尼斯世界纪录,还穿着尿不湿时就进练功房,网友:场地限制了发挥

极目新闻
2026-11-22 22:47:19
特朗普突然对菲律宾开条件:100%买美国农产品

特朗普突然对菲律宾开条件:100%买美国农产品

看看新闻Knews
2026-11-22 20:53:45
高市早苗打破惯例!深圳APEC拒见台当局代表,日本这是要踩刹车?

高市早苗打破惯例!深圳APEC拒见台当局代表,日本这是要踩刹车?

娱乐圈的笔娱君
2026-11-22 17:22:08
退休金拿到这个数就算知足,80%老人达不到,看看你够吗

退休金拿到这个数就算知足,80%老人达不到,看看你够吗

小影的娱乐
2026-11-15 06:57:51
A10后备厢被几箱啤酒压穿?零跑:受损部件为后备厢盖板下方独立储物盒

A10后备厢被几箱啤酒压穿?零跑:受损部件为后备厢盖板下方独立储物盒

界面新闻
2026-11-21 09:48:22
美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

扶苏聊历史
2026-09-12 17:43:57
都错怪高市早苗了?石破茂直言,这个女人不仅坏,还特别的蠢

都错怪高市早苗了?石破茂直言,这个女人不仅坏,还特别的蠢

云上乌托邦
2026-10-22 17:05:35
99年朱总理访美,被问中国给克林顿30万献金,总理:怎么才30万?

99年朱总理访美,被问中国给克林顿30万献金,总理:怎么才30万?

WarOH协虎
2024-12-01 22:10:02
陈伟霆生日会造型引热议,英皇到底亏了多少陈伟霆要穿成这样登上热搜

陈伟霆生日会造型引热议,英皇到底亏了多少陈伟霆要穿成这样登上热搜

韩小娱
2026-11-22 13:49:19
镇江扩容大势已定,丹阳、扬中、句容三地或将率先收获红利

镇江扩容大势已定,丹阳、扬中、句容三地或将率先收获红利

智慧生活笔记
2026-11-22 00:35:28
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
斯托伊科维奇欣赏依木兰,他还没有带队训练,就有人替他做了安排

斯托伊科维奇欣赏依木兰,他还没有带队训练,就有人替他做了安排

足球分析员
2026-11-22 11:00:12
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
《暗色猎场》--前田香织!

《暗色猎场》--前田香织!

波球
2026-11-22 20:51:30
回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

影孖看世界
2026-11-22 03:36:23
2026-11-23 02:56:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5582778文章数 10065关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

头条要闻

“所有金条都卖光了” 有人一次性花超85万买金条

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

教育
艺术
健康
公开课
军事航空

教育要闻

“穿成这样,别的家长都听不进去了”,家长会家长穿成这样,不能理解

艺术要闻

印度,一个盛产美女的国家:多元血脉与纱丽风情交织的独特之美

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版