The Download：AI 的灭绝风险与生物武器威胁

周三，MIT Technology Review 举办了一场线上圆桌论坛，主题直接抛出一个很多人正在问的问题：AI 真会灭掉人类吗？现场观众的提问数量远超活动时间能容纳的上限，主办方只好把其中一部分问题转交给资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 继续回答。

他们试图回应的提问包括：我会不会死？AI 到底为什么要杀我们？AI 是真的危险，还是科技公司在给自己造势？以及，能采取哪些措施让 AI 被有效控制、监控和监管？

AI 赋能生物武器的幽灵，是对生物技术的警钟

AI 可能造成灾难性伤害的路径之一，是协助设计和制造生物武器。2022 年，有研究人员发现，用一台本来用于开发药物的 AI“分子生成器”来做这件事，容易得惊人。不到六个小时，这个模型就生成了 40000 个可用作化学战剂的分子。

如今，AI 工具几乎能回答科学领域所有方向的问题，而基因编辑和合成生物学的进步，也让生物技术工具变得更容易获取。相关防护措施存在，但没有一道是铁打的。不过，科学家们对这项风险究竟有多严重，本身也意见不一。

宇航员这个角色，正在被重新定义

人类去太空，理由包括地缘政治声望、天定命运、精神满足、科学好奇心，以及越来越多的商业机会。在 Artemis II 之后，一批新书提出，这些理由其实都被一个统一的事实收编了：人类的脚底发痒，我们天生就被设定成要四处漫游。

在《The Ultraview Effect》中，太空人类学家 Deana L. Weibel 把人类太空探索框定为朝圣需求的一部分。在《A Heart for Space》中，平民宇航员 Eiman Jahangir 讲述了搭乘 Blue Origin 的一次此类航行。而在《Dinner with an Astronaut》中，前 NASA 宇航员 Leroy Chiao 主张，人们就是“需要知道另一边有什么”。

今天值得一读的几条

1. 微软和 OpenAI 的员工说，AI 正在摧毁网络。从网站那里蚕食点击量，会摧毁那些让新鲜内容持续产出的商业模式。这些员工对出版商能否在 AI 抓取下存活表示担忧。相关评论出现在《纽约时报》的版权案中，可能削弱 OpenAI 和微软的辩护。AI 意味着我们熟知的互联网搜索走向终结。
2. 机器人船第一次互相交战。一艘乌克兰船只在一场战斗中击沉了一艘俄罗斯船只。美国公司正在建造可投入战斗的人形机器人。
3. 安全研究人员用 Anthropic 的工具攻破了 OpenAI。他们进入了某位员工的 ChatGPT 账户和内部代码，利用一个第三方论坛触达了内部系统。
4. 据报道，OpenAI 预计很快会攻克另一道著名数学难题。但它能在宣布时避免又一次反弹吗？它预计要解决的问题是霍奇猜想。OpenAI 的数学争议中，藏着关于这个领域未来的令人担忧的线索。
5. Elon Musk 的 SpaceXAI 想从失败创业公司那里购买数据，为 Grok 寻找新的训练数据来源，目标包括客户和运营数据。OpenAI 则在付费创造新的生物学数据。
6. 学校正在抵制大型科技公司对课堂的接管。AI 加剧了人们对企业影响力的担忧。学校需要更聪明的 AI 使用方式。
7. 黑客披露了 Flock 摄像头如何追踪车辆和人。一台摄像头拍下了 50000 辆车的 160 万张图像。这些摄像头还会检测人，并错误识别物体。
8. 美国科技限制之后，中国企业加倍投入科学。它们产出的引用科学论文的专利多了 72%。
9. 一名三岁儿童的癌症在实验性细胞疗法后消失了。CAR T 疗法可能终于能够治疗实体瘤。
10. 纽约市的新机器人厕所会在 10 分钟后把你赶出去。计时结束，门会自动打开。

今日金句

“人类历史上最大规模的劳动力盗窃。”——微软应用科学总监 Brent Hecht 对 AI 系统所用训练数据表达担忧，这番话出现在《纽约时报》诉 OpenAI 版权案的法庭文件中。

还有一件事

薇拉·C·鲁宾天文台已准备好改变我们对宇宙的理解。在智利海拔 2700 米的 Cerro Pachón 山顶，空气清澈干燥，几乎没有云层遮挡美丽的星空。正是在这里，薇拉·C·鲁宾天文台正使用一台汽车大小、3200 万像素的数字相机——有史以来建造的最大相机——每三天生成一张全新的全夜空地图。鲁宾每晚产生 20 TB 数据，将捕捉太阳系、银河系以及宇宙大尺度结构的精细细节。在 10 年间，它将编目数十亿个新天体。