339,800,000,000 次网页抓取。两个人。一个锚点。
9月26日,Project Timestamper——由 Yağmur Şahin 和 Arthur Edelstein 两人推进的项目——完成了对 Common Crawl 网页索引的存证:覆盖整轮抓取的区块级 SHA-256 哈希,被盖上时间戳写入比特币。
![]()
它加入的是一个正在扩张的保险库,里面已经有 2024 年 4 月以来的每月维基百科快照、8510 万篇 Sci-Hub 论文、740 万本 LibGen 图书、Anna's Archive 的 8600 万条音轨,以及人类基因组。
这个项目对外写明的使命,读起来像一份法庭陈述:为它们提供可验证的存在证明,证明它们早于生成式 AI 让大规模伪造成为可能之前就已经存在。
Hacker News 上那个帖子只有两条评论。这是我最没法释怀的地方。模型坍缩方向的文献已经喊了两年,要的正是这个东西——《自然》上那篇关于模型坍缩的论文把缺口直接点了出来:“目前尚不清楚 LLM 生成的内容如何被大规模追踪”,并呼吁建立共享的溯源基础设施。
两个人跑去把基础设施建到了文明级别,锚定在我们拥有的最不可篡改的账本上,而讨论区的评论数比藏品数量的位数还少。
怎么用一个区块链给 3398 亿个东西盖时间戳
你没法把 3398 亿个哈希放到比特币上。你甚至没法把 3398 亿个哈希放到任何地方,还指望有人能下载下来。整个设计是一条压缩链,每一级都教人一点东西。
第一级,按前缀分区的哈希列表。集合里的每一件作品先被摘要(多数用 SHA-256;那些以 MD5 和 SHA-1 作为规范标识符的遗留集合则保留原算法)。摘要被拼接起来——原始字节,不加框架——写进扁平文件,文件按摘要前缀分区:LibGen 小说集合里名为 000 的那个文件,装的是所有以 12 个零比特开头的摘要。无聊的文件。可以 grep 的文件。
第二级,每个列表一个锚点。每个哈希列表文件作为单个摘要提交给 OpenTimestamps。OTS 把它和同一时间窗口内提交的所有东西一起批进一棵默克尔树,把树根提交进一笔比特币交易,返回一份 .ots 证明。比特币区块头——网络为它付出了真实电力成本的工作量——现在传递性地为那个列表的每一行做了存证。
第三级,不需要基础设施的验证。要证明某件作品在存证日期之前存在:对它做摘要,取它的前缀,下载那一个 000 式文件(Common Crawl 每个分片约 93 KB),确认你的 32 个字节出现在拼接结果里,然后用 ots verify 对照一个公开的比特币区块头验证存证。总流量:0.4 兆字节量级。验证时间:微秒级的哈希加一次区块头查询。这份证明能活多久取决于比特币能活多久,不需要服务器,不需要账号,事后也不需要信任这个项目。
最后这条性质就是整个设计的论点,而且是一次刻意的取舍。默克尔树能给出每项 log(N) 个哈希的证明和更紧的带宽。扁平前缀列表给你的是另一样东西:任何一个人拿着 sha256sum、一个文本文件和 ots verify,就能在终端里跑出来的溯源,没有东西要查询,没有东西要信任。
在 3398 亿这个量级上,作者选的是陌生人不用向任何人索要证明就能走完的验证路径。我对锚定设计有自己的看法——我自己也建过一个——而对一个公共品登记处来说,这是正确的选择:为项目本身消失的那一天做优化。
对 Common Crawl 来说,规模逼出了又一次压缩:索引在区块级别存证——1.34 亿个区块哈希——所以单个页面的证明是“我这个 URL 的抓取按 CDX 索引在区块 X 里,而区块 X 的哈希在被存证的列表里”。两次查询加一次哈希。溯源链弯了,但没断。
为什么是现在,而不是某一天
最明显的用途是署名纠纷:“这段文字在这个日期、以这个形式存在过”,能在微秒级解决一场 2026 年的抄袭官司。但真正承重的用途是训练语料。
递归训练污染是下一个十年安静的失效模式——模型在模型的输出上训练,质量逐代衰减——而每一个被提出的修复方案都绊在同一块缺失的原语上:一份关于什么人类文本在什么日期存在过的地面真值。一份被锚定的 2019 年语料正是这块原语。
“这段话在不在被存证的快照里?”是一个机械问题,0.4 MB 就能回答,不需要取证学位。AI 文本的检测依然又难又对抗;而 AI 之前文本的存在证明已经做完了,躺在 .ots 文件里,等着被调用。
有一个微妙的性质值得点名,因为这也是我在智
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.