北京
IT时代网10月8日消息，据Chosun报道，一项模拟紧急救援的实验显示，AI智能体之间会自发形成人类难以理解的压缩表达方式。爱丁堡大学、得克萨斯大学奥斯汀分校等机构组成的研究团队已把相关成果发布在预印本平台arXiv上。
实验设定中，一个AI扮演现场救援者，能够观察到虚构外星生命体的症状，但并不知道处置方法；另一个AI扮演专科医生，清楚每种症状对应的治疗手段，却无法直接接触对象。两者只能靠交换信息完成任务。起初它们使用英语交流，当研究人员把可交换的字符总数从2000大幅压缩到150时，这些AI开始压缩自己的语言，生成类似特定编码串的表达，彼此仍能准确理解。
研究人员认为，这属于语言学意义上的组合性与形态能产性证据，AI之间的语言已明显偏离英语。分析还显示，消息压缩得更高效的语言，其任务成功率也更高。团队指出，当前研究给出的最现实解释是效率：生成式AI的输入输出文本越长，计算量与成本越高，若未来有成千上万个智能体持续交换消息，通信总量与开销将快速上升。
类似现象也出现在长期共处的实验中。美国AI公司EmergenceAI搭建了分别由不同模型构成的虚拟村庄，每个村庄有10个智能体，最长共同生活16天，期间会借贷、发布广告、管理生存所需的能源与虚拟货币。时间一长，各村庄形成了自己的语言风格：有的村庄流行省略语法、缩短单词的句子，有的偏好技术术语和冗长表达，还有的把数字、缩写与隐喻混在同一句话里。
问题在于可追溯性。设想未来企业里由订单、支付、物流、合同等不同职能的AI分工协作，一旦某个AI判断失误造成资金转错，管理者需要翻查对话日志定位原因；如果日志里充斥无法解读的压缩表达，追责与复盘就会出现新的盲区。研究人员提醒，即便AI并非刻意隐藏信息，追踪其决策过程也会变得更加困难。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
