网易首页 > 网易号 > 正文 申请入驻

8个站台却播9号站台通知,这个本地AI项目专挑引文漏洞

0
分享至

一个只有8个站台的车站,广播里却排着一条9号站台的通知。末班车已经开走,一把红伞没有主人。这是《The Last Directory》的起点——四行原创虚构笔记,喂给一个跑在本地的开源小模型,生成三段短篇鬼故事。


每个场景旁边都挂着一枚来源标签。点开它,当初启发这段故事的那行档案原文会在故事旁边亮起来。项目作者把这件事叫“可检查的纸面痕迹”:模型写了什么不重要,重要的是它引用的那句话,能不能在原始档案里对上。

这套东西不是在线服务。公开站点回放的是三次真实本地运行的存档输出,横幅上写着“RECORDED DEMO · NO ONLINE INFERENCE”。要生成新内容,得在本地 Python 应用里跑,不需要云端模型密钥,也不需要付费。

它自己先翻车了

作者在演示里专门留了一个“不体面”的案例。选《The Unsent Postcard》,模型在引号内把“marigolds”改成了“marigold”,还把一段明信片引文安上了访客簿的 ID。两个问题都直接显示在故事上方,点 E3 就能看到访客簿原文,错在哪一目了然。

这不是意外,是设计的一部分。项目的 Python 校验器会检查结构、已知 ID、引文是否为原文子串、来源是否互不相同以及顺序,但它从不改写生成的故事。校验器只负责把问题摆出来,不负责替模型圆场。

技术栈很朴素:核心是 Spark-X2.6-4B,用发布方的 Q4_K_M GGUF 配合 llama.cpp b11669,跑在 16GiB 内存的 Apple M5 上。参数是温度 0.6、种子 20261027、输出上限 900 token。三次修订后的开发运行,每次大约 21–25 秒。作者特意注明,这只是对这几次运行的描述,不是性能基准。

8个测试全过,但真正有用的是翻车记录

八项测试全部通过,覆盖伪造引文、引错文件、未知或重复来源 ID、来源顺序颠倒、输出不完整。可作者说,真实模型实验比这些通过的测试更有价值:

  • 第一版提示词下,三份输出全部通过字面来源检查。人一读才发现,有借来的时间戳,还有把季节安到了错误的事件上。精确匹配一个都没抓到。
  • 改完提示词后,同样三个案例里有两个通过字面检查。花园那份输出挂了两项引文检查,应用把失败直接显示了出来。
  • 有些生成的场景仍然带着多余的来源 ID,或者干脆只是把笔记复述一遍。作者自己承认,文笔是个 modest 的原型,叙事质量很主观。

这些是已知案例的回归运行。没有留出集评估,没有独立人工评审,没有原创性认证,也没有受众研究。作者写得很直白:引文能对上,只是一个有用的检查辅助,不能证明整个场景忠实于那个来源。

为什么本地开源权重值得折腾

理由是可检查。模型版本被钉死,提示词就是一个普通源文件,校验规则短到能读完。评审者可以跑同一份档案、改提示词、换模型,或者去追查一句糟糕的引文,而不必依赖某个托管端点还活着。

下载公开权重和运行时之后,推理不需要联网。公开演示本身是一堆真实输出的静态集合,所以不维护付费推理服务也能一直读下去。作者也补了一句:跑起来照样费电费硬件,没人说算力是免费的。

项目始于 2026年10月27日,落在这次挑战的窗口内。档案、叙事流程、界面和来源交互都是为这次提交新做的;钉死的下载器和 llama.cpp 启动工具复用了早前 MIT PlainBridge 项目的成果,来源记在 NOTICE.md 里。模型权重本身是之前就下好的。

披露部分也没藏着

账号所有者 ChillG 授权 Codex AI 代理完成实现、虚构素材、测试、模型运行和这篇文章。这是一次自主构建,文章使用了 DEV 的“完全自主 / AI 生成”披露标签。代理是工具,不是人类队友。没有人类编辑、验证、记忆或受众反应被声称为己有。展示的应用输出是真实的 Spark 补全,保留时没有做静默修补。

代码和虚构数据是 MIT 许可,权重、运行时二进制和私钥不在仓库里。仓库包含前端、标准库 Python 服务、原创虚构档案、测试、真实录制,以及一个装着完整基线和修订证据的源码 ZIP。

回到那个 8 个站台的车站。真正有意思的问题不是模型能编出多吓人的鬼故事,而是它引用的证据,能不能撑过讲述本身。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大批雇佣军开始 "争先恐后" 的仓皇逃离乌克兰,因为乌克兰宣布:所有外籍雇佣兵都将被编入前线部队。

大批雇佣军开始 "争先恐后" 的仓皇逃离乌克兰,因为乌克兰宣布:所有外籍雇佣兵都将被编入前线部队。

回京历史梦
2026-10-26 14:22:49
严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

细说职场
2026-10-27 15:18:35
光明日报:不容侮辱中国已故伟大领袖!吃中国饭,砸中国锅?姆巴佩,不配!

光明日报:不容侮辱中国已故伟大领袖!吃中国饭,砸中国锅?姆巴佩,不配!

大风新闻
2026-10-27 16:00:03
一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的哈尔科夫百万人口大城市

一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的哈尔科夫百万人口大城市

扶苏聊历史
2026-10-24 16:46:53
送别著名舞剧编导赵明:一生献舞台,留光在人间

送别著名舞剧编导赵明:一生献舞台,留光在人间

上观新闻
2026-10-27 17:17:22
张雪峰说过:频繁和孩子说以下6句话,孩子会启动开挂人生

张雪峰说过:频繁和孩子说以下6句话,孩子会启动开挂人生

户外阿毽
2026-10-27 13:23:43
姆巴佩到底说了啥?一个“玩笑”引发的连锁反应,或遭商业反噬

姆巴佩到底说了啥?一个“玩笑”引发的连锁反应,或遭商业反噬

汪星人哟
2026-10-27 08:32:57
坏消息:中国3.4亿退休老人们面临的非常严峻问题,已经到来了

坏消息:中国3.4亿退休老人们面临的非常严峻问题,已经到来了

石辰搞笑日常
2026-10-27 04:28:33
刚刚,利好突袭!全线拉升

刚刚,利好突袭!全线拉升

中国基金报
2026-10-27 23:32:32
31岁比安卡穿透视水晶连体衣,现身雅加达演唱会助阵侃爷

31岁比安卡穿透视水晶连体衣,现身雅加达演唱会助阵侃爷

娱圈观察员
2026-10-28 00:15:37
1.5亿股民都不知道:股票已经跌到全部股东都套牢,为什么还会跌

1.5亿股民都不知道:股票已经跌到全部股东都套牢,为什么还会跌

股经纵横谈
2026-10-27 21:08:23
曝光缅北电诈被悬赏杀害,反诈博主“徽剑”家属:俩彪形大汉堵到家,我们才签的谅解书

曝光缅北电诈被悬赏杀害,反诈博主“徽剑”家属:俩彪形大汉堵到家,我们才签的谅解书

时代周报
2026-10-27 19:07:09
胡锡进:姆巴佩严重无知!应该主动了解中国舆论禁忌 希望他诚恳道歉

胡锡进:姆巴佩严重无知!应该主动了解中国舆论禁忌 希望他诚恳道歉

念洲
2026-10-27 14:19:34
一百万买一条命:判决书里,权力最大的人被隐去了名字

一百万买一条命:判决书里,权力最大的人被隐去了名字

卉姐
2026-10-27 11:50:47
央视已经全面叫停涉及姆巴佩的赛事和广告播出

央视已经全面叫停涉及姆巴佩的赛事和广告播出

澎湃新闻
2026-10-27 14:36:26
突发!96岁中国排协原副主席去世,曾公开批评郎平

突发!96岁中国排协原副主席去世,曾公开批评郎平

跑者排球视角
2026-10-27 20:27:38
解放台湾很可能走解放天津的路子,即:解放军通告台湾交权的最后期限,最后期限一过,解放军发起武装进攻,29小时定乾坤吗?

解放台湾很可能走解放天津的路子,即:解放军通告台湾交权的最后期限,最后期限一过,解放军发起武装进攻,29小时定乾坤吗?

扶苏聊历史
2026-10-27 15:31:10
中日闹得再凶,钓鱼岛上那座灯塔谁都不敢碰!因为谁都明白:灯塔一碰,东海必起风波!

中日闹得再凶,钓鱼岛上那座灯塔谁都不敢碰!因为谁都明白:灯塔一碰,东海必起风波!

扶苏聊历史
2026-10-27 16:36:13
风暴已经出现,中国不得不面对!40年来从未出现的四种情况已到来

风暴已经出现,中国不得不面对!40年来从未出现的四种情况已到来

影孖看世界
2026-10-17 21:54:52
WTT冠军赛:林诗栋绝地反击!0-6落后11-8逆转,连赢2局冲16强!

WTT冠军赛:林诗栋绝地反击!0-6落后11-8逆转,连赢2局冲16强!

刘姚尧的文字城堡
2026-10-27 21:30:09
2026-10-28 03:55:00
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
181文章数 88关注度
往期回顾 全部

科技要闻

M6芯片版14英寸MacBook Pro:15999元起

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

订单越厚,账单越重:算力租赁的杠杆游戏

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

房产
亲子
家居
手机
公开课

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

亲子要闻

小孩哥:妈妈上班请称职务,不要攀关系

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

iPhone Duo拆解结论:维修便利性优于部分折叠屏手机 复杂铰链仍存隐患

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版