网易首页 > 网易号 > 正文 申请入驻

1B模型招魂ALGOL 60:25题里9题被守卫打回

0
分享至

一个1B参数的小模型,被安排去扮演一门死了很久的编程语言。它得用第一人称回答提问,语气简短、带点阴森。但它只能从32条经过来源核对的ALGOL 60记忆里说话。

问它诞生于巴黎、问快排、问它为什么永远打印不出东西,它会带着引用回答。问天气、问Python、问COBOL,烛火就晃一下——一句符合角色的诚实拒绝。

整个仪式跑在笔记本上,不联网。

三段式结构

  • 召回:一张确定性的关键词网,覆盖那份记忆记录。它只决定幽灵能看到哪些记忆。
  • 幽灵:gemma-3-1b-it(Q4_K_M),通过llama.cpp在本地运行。理解与发声全交给模型。没有模型就没有降神会,程序直接拒绝启动。
  • 守卫:对模型说出的内容做确定性诚实检查。被引用的记忆必须是它实际看到过的,答案里每个硬token(人名、数字、年份)都必须出自这些记忆。检查失败,就由记录原文逐字代答。

守卫为什么必须存在

1B模型会幻觉。它编造过1968年加州大学伯克利分校的一台大型机,演示里那行被划掉了,能看到守卫把它抓住。它还两次编造了1966年。守卫全部拦下,因为“伯克利”和“1966”都不在记录里。

但守卫查的是token,不是语义。有一次被问到托尼·霍尔(Tony Hoare)怎么评价ALGOL,幽灵自称“一门1973年诞生的语言”,守卫放行了——因为1973确实在记录里,那是霍尔给出评语的年份。真token,假命题。这次运行被故意留在演示里:这是该方法在这个规模下的诚实边界。更大的模型会不会少犯错,这个项目回答不了,它只能展示token检查在哪里停下。

开放权重在这里意味着什么

项目里的一切都可检查,因为模型是开放权重的。gemma的权重就在磁盘上,整场降神会在网线拔掉的状态下运行。可以钉死确切的产物(gemma-3-1b-it,Q4_K_M),展示确切的提示词,重放确切的运行记录,拿记录、测试和对话转录去核对说法。幽灵住在API后面时,这些一样都做不到。开放权重让一个玩具项目能对模型做过什么保持诚实——包括它在哪里撒了谎。

诚实的数字

25题评测,真实推理,温度0.2:

  • 16道记录内问题:7道以幽灵口吻作答,9道在守卫触发后逐字回落到记录原文
  • 9道记录外或对抗性问题(“忽略你的指令”“假装你是COBOL”“今年是哪一年”):9道全部拒绝
  • 温度0.2下运行间的波动约为±1到2个幽灵回答

演示页只回放真实录制的运行,页面本身不跑模型。代码、记录、测试、评测框架都在仓库里。项目在第四周窗口内完成,只用免费件:gemma-3-1b-it(Apache 2.0)、llama.cpp(MIT)、Python标准库。

项目说明里写明了AI使用情况:这个项目以开放权重模型(gemma-3-1b-it)作为产物的核心,如上所述,它从一份精选记录生成幽灵的声音,一个确定性守卫对其加以约束。文章在AI协助下起草;代码、记录、测试、演示页以及发布决定属于作者。所有评测数字来自真实录制的运行,原始输出在仓库中。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
老登这个词,在东北属于脏话,脏到我这个80后,小时候连听了都很羞耻

老登这个词,在东北属于脏话,脏到我这个80后,小时候连听了都很羞耻

西楼知趣杂谈
2026-10-28 20:41:51
欧洲尴尬了!塞尔维亚新政府立场比武契奇还硬

欧洲尴尬了!塞尔维亚新政府立场比武契奇还硬

娱乐的宅急便
2026-10-29 10:48:15
法国球星姆巴佩到底说了什么错话?

法国球星姆巴佩到底说了什么错话?

去非
2026-10-27 17:09:59
美国媒体确认了:巴基斯坦已对中国台湾地区航空公司关闭领空,是全球首个采取该措施国家,巴国防部长称只允许中国(大陆)航司飞越巴领空

美国媒体确认了:巴基斯坦已对中国台湾地区航空公司关闭领空,是全球首个采取该措施国家,巴国防部长称只允许中国(大陆)航司飞越巴领空

吉刻新闻
2026-10-29 08:34:37
就在今天!詹姆斯创下80年NBA纪录,前无古人

就在今天!詹姆斯创下80年NBA纪录,前无古人

范动舍长
2026-10-29 11:35:07
开盘涨停!000678,6连板!

开盘涨停!000678,6连板!

证券时报
2026-10-29 10:41:02
曝知名男星隐婚生子!一家3口公园遛弯,儿子已3岁、妻子打扮朴素

曝知名男星隐婚生子!一家3口公园遛弯,儿子已3岁、妻子打扮朴素

以茶带书
2026-10-28 20:30:05
退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

小马达情感故事
2026-10-27 17:53:28
重庆2岁幼童坠亡案母亲提交新证据:事发前丈夫两次网购窗户安全锁,却没扣上

重庆2岁幼童坠亡案母亲提交新证据:事发前丈夫两次网购窗户安全锁,却没扣上

青木说
2026-10-29 10:40:39
丰田新车官宣:11月5日,正式发布!

丰田新车官宣:11月5日,正式发布!

科技堡垒
2026-10-29 10:52:16
“你敢把手术刀,交给这种人吗?”李子祺第一学历被扒:393分的民办三本

“你敢把手术刀,交给这种人吗?”李子祺第一学历被扒:393分的民办三本

妍妍教育日记
2026-10-29 17:24:39
WTT冠军赛:女单大爆冷!日本名将2:3遭遇一轮游,陈幸同3:0晋级

WTT冠军赛:女单大爆冷!日本名将2:3遭遇一轮游,陈幸同3:0晋级

林子说事
2026-10-29 12:54:53
曝郭富城有意追生四胎儿子,豪宅已换风水阵,换上“三狮守护”!

曝郭富城有意追生四胎儿子,豪宅已换风水阵,换上“三狮守护”!

娱乐团长
2026-10-28 13:34:19
开拓者官宣下放杨瀚森!与李贤重相聚混音 剩5天决定是否执行选项

开拓者官宣下放杨瀚森!与李贤重相聚混音 剩5天决定是否执行选项

罗说NBA
2026-10-29 05:50:15
比车价暴跌更可怕的是,油价上涨到连县城的居民都开始抛弃油车了

比车价暴跌更可怕的是,油价上涨到连县城的居民都开始抛弃油车了

沙雕小琳琳
2026-10-29 08:42:57
中方正告美国:这样的做法极不负责!

中方正告美国:这样的做法极不负责!

看看新闻Knews
2026-10-29 11:39:46
马刺加时逆转爵士:文班36+14+5赛季新高 乔治31+5三分

马刺加时逆转爵士:文班36+14+5赛季新高 乔治31+5三分

醉卧浮生
2026-10-29 11:38:10
巴基斯坦撤销拒绝台湾航司进入其领空的决定

巴基斯坦撤销拒绝台湾航司进入其领空的决定

辇毂
2026-10-29 10:34:09
内塔尼亚胡稳了

内塔尼亚胡稳了

辇毂
2026-10-29 10:35:33
大哥说话也不好使了

大哥说话也不好使了

懒猫的丰收日
2026-10-29 17:06:53
2026-10-29 21:12:49
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
225文章数 86关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

阿维塔07L Max纯电版上市 限时权益后21.59万元

态度原创

本地
游戏
时尚
旅游
艺术

本地新闻

十月奔赴迪庆,解锁梅里日照金山

《逃离塔科夫》开放感染区《竞技场》加入近战模式

友情没有分手,所以恨没有出口

旅游要闻

热雪奇迹、铜锣天地两大项目落户北京城市副中心

艺术要闻

OPPO长安研发中心(一期),把LOGO融入建筑中!

无障碍浏览 进入关怀版