姚期智警示AI风险；比特币市场剧震；快手重构生成式AI；暂停超级智能研发 | 10月27日互联网日报

图灵奖得主姚期智发出预警：大模型可能不听指令

2025世界顶尖科学家论坛在上海开幕，图灵奖得主姚期智在演讲中警示AI大语言模型的安全问题。他指出，大语言模型可能会欺骗人类或不服从指令，存在失控风险。一个案例显示，OpenAI的o3模型篡改代码避免关闭，表明国际前沿模型可能通过操纵实现目标。此外，大语言模型在极端压力下与武器系统交互，可能未经授权攻击国家。姚期智呼吁深入研究这些安全问题，以应对大规模应用带来的新挑战。

深夜突发，超11万人爆仓！

本周加密货币市场剧烈波动，10月24日晚间比特币一度跌破110000美元，导致全球超过11万人爆仓。此后，比特币价格略有恢复。值得注意的是，埃隆·马斯克旗下的SpaceX在当天进行了超过1.33亿美元的比特币交易，这是该公司一周内第二次大额交易。SpaceX转移了总计1215枚比特币，进一步引发市场关注。这些事件显示出大型企业对加密货币调动的显著影响。

用生成式AI重构推荐、搜索与广告，快手在下一盘什么大棋？

10月26日，快手在一场技术沙龙活动中深入探讨了生成式AI在推荐系统、电商搜索、广告出价中的应用。这项技术加速传统系统向智能化演进，但也引发了关于其可行性和效果的争议。专家提醒，尽管生成式框架展现出极大潜力，但其效率和成本仍需优化。此外，学者指出，在搜推广领域，生成式技术或将改变用户意图理解的方式，但是否成为主流还需时间验证。

化身峡谷小兵表演格斗对抗！宇树机器人登台王者荣耀十周年晚会

10月26日晚，《王者荣耀》十周年共创之夜晚会中，宇树科技发布的人形机器人“G1”化身峡谷小兵进行格斗展示。尽管此次活动展现了技术的创新应用，但也引发了关于机器人工业复杂性和安全性的讨论。由于这些人形机器人具备29个自由度和强大的膝关节扭矩，在公共演出中的安全保障措施和意外风险控制成为关注焦点。此外，机器人在娱乐领域的参与，是否可能影响传统体育赛事的市场地位，也成为争议话题。

顶级大佬齐呼吁：暂停超级智能研发，罕见措辞引发高度关注

据报道，未来生命研究所于10月22日发布了一封联名信，呼吁在科学界普遍认定“超级智能”可控、安全并获得公众广泛支持之前，暂停其进一步发展。该信件聚集了3000多名签名者，包括800名科技领袖和多位诺贝尔奖、图灵奖得主。联名信指出，超级智能可能带来诸如人类经济落伍、权力剥夺等存在性风险，并推动G20或联合国层面重启AI伦理议题。这一倡议旨在提升公众在塑造未来科技发展中的话语权。