AI存在性危机爆发，但科技公司仍在加速前进

本周，Anthropic研究员Jacob Coxon因担忧人工智能实验室在“拿人类生命做赌注”而辞职，此事引爆了关于AI是否正朝着危害人类生存方向发展的长期争论。

不仅是他一人在Anthropic内部持此观点——该公司负责对齐科学的负责人也认同在未来十年内AI有超过10%的可能性导致“杀死所有人类”——OpenAI也加入了讨论，其首席科学家呼吁放缓AI研究步伐。据报道，首席执行官萨姆·奥特曼曾告诉员工，公司正考虑放慢前沿AI研发，并希望其他公司也能效仿——前提是政府认为这不构成反垄断问题。

我们还需观察这些存在性担忧是否真的会带来实际改变，但眼见为实。就在本周，几乎和往常一样，仍有大量新模型、智能体和应用蜂拥而出——来自Meta、OpenAI（两次）、中国的DeepSeek等等。我理解这种矛盾的原因，尽管对于AI末日论者仍持一定怀疑态度，因为他们缺乏关于AI为何无法被控制的具体理由，但这里确实存在明显的脱节。

无论如何，数据中心日益增长的反对声浪可能会让事情放缓。在一篇新的深度报道中，Paul Gillin深入探讨了为什么AI需要如此庞大的算力——以及为什么短期内没有解决办法。科技巨头们要说服社区不要扼杀下一轮技术创新浪潮，前面还有许多工作要做。

顺便说一句，别小看欧洲在AI领域的表现：Mistral AI本周融资近35亿美元。总部位于巴黎的初创公司Arlequin AI则获得2800万美元投资，用于探索一种全新类型的AI模型。

甲骨文看起来终于从AI热潮中受益，其云基础设施营收增长超过一倍，股价在盘后交易中上涨4%，而此前在大盘表现惨淡的一天里，其常规交易时段股价曾下跌超过这一幅度。Adobe本季度表现也不错，但由于前景指引偏弱，周四盘后股价小幅下跌。

正如预期，自主软件工程公司Cognition AI又完成了一轮大规模融资，本轮E轮融资达32亿美元，估值高达480亿美元。

Positron AI认为，它可以通过一款使用普通内存而非昂贵且稀缺的高带宽内存的设备来解决AI领域的内存紧缺问题，为此完成了8.75亿美元的C轮融资以验证这一想法。通常我可能会对这种说法持保留态度，但像Silicon Graphics的Jim Clark、Forest Baskett和Tom Jermoluk这样经验丰富的老牌投资人参与其中，说明这件事值得关注。

对了，苹果发布了新款iPhone，包括一款价格不菲的折叠屏手机。我对此有些提不起兴趣，但相信大多数产品仍会表现良好。

下周还将迎来一波活动热潮：Salesforce在旧金山举行的Dreamforce大会、在圣克拉拉举行的AI Infra Summit（汇聚众多AI领域重量级人物）、在拉斯维加斯举行的Workiva Amplify，以及在阿姆斯特丹举行的以智能体为主题的开发者大会AGNTCon + MCPCon。

以下是本周来自SiliconANGLE、theCUBE、theCUBE Research及其他渠道的全部企业与新兴技术新闻：

分析、观点与思考

AI对电力永不满足的渴求背后的复杂物理与经济学问题

深度分析：超越共担责任——当AI行动时，谁来承担“爆炸半径”？

Gartner：到2029年，因被AI取代而被裁员的员工中，有30%将被重新雇佣——而且往往薪资更高。

AI与数据：AI仍可能杀死我们所有人——AI公司自己这么说

Anthropic研究员辞职引发广泛的AI安全讨论。Wired披露了该研究员的更多细节。另一位Anthropic离职员工则提出了另一种视角，认为我们忽视了当今AI真正的问题：批判性思维的丧失。

那么“消灭人类”这种事到底可能如何发生？《华尔街日报》和Axios给出了两种不同视角。

另一则警告：Anthropic称，AI如今已能让单独行动者发起国家级黑客攻击行动

OpenAI将在智能体接管一个维基页面事件后制定错位披露规则

OpenAI首席科学家呼吁放缓AI研究

新模型与新服务

Meta推出“安全设计”个人AI智能体Muse

OpenAI的ChatGPT图像功能提速，细节更清晰、编辑更精细

OpenAI推出面向华尔街银行家的新版ChatGPT

DeepSeek发布V4.1-Flash，称其表现优于旗舰版V4-Pro

亚马逊面向Windows和macOS桌面端正式发布其智能体AI平台Quick

Databricks新增自适应搜索模型，加速智能体检索

Salesforce推出企业AI Harness与AI控制平面

Lightbits即将发布KV缓存引擎，以提升GPU性能

Cloudera将Mistral AI的前沿模型引入其安全混合数据环境

CoreWeave推出新工程服务，助力企业实现物理AI落地

独家：Cfo.ai为企业创始人推出智能体化CFO

Writer推出面向企业信息与AI记忆的通用触点

Atlassian升级AI编程智能体，实现全天候软件开发

Extreme Networks的Agent ONE Coworker将AI网络管理从仪表盘升级为智能问答

Typewise编排客户服务AI智能体

Certinia推出新的“行动系统”，作为自主服务运营的基础

Geordie推出成本智能功能，将AI支出与智能体活动关联

据《华尔街日报》报道，谷歌云与埃森哲成立新部门，将AI工程师派驻客户现场

资金动态

开源AI开发商Mistral完成30亿欧元融资

AI编程初创公司Cognition以480亿美元估值融资20亿美元，营收接近9亿美元

Harvey再获5.5亿美元融资，用于开发面向法律团队的AI工具

Forus完成1.5亿美元C轮融资，估值达30亿美元，用于自动化处方流程

AI原生CRM初创公司Lightfield融资4700万美元，打造可供AI智能体使用的Salesforce替代方案

Arlequin AI完成2800万欧元融资，打造能够大规模学习复杂关系的新型AI模型

Lightsage获得400万美元融资，帮助软件厂商直接向自主AI智能体销售产品

企业动态：甲骨文获AI红利

财报动态

甲骨文因云基础设施营收激增，股价上涨

Adobe第三季度业绩超预期，但第四季度营收指引不及预期，股价下滑

芯片公司Positron获8.75亿美元融资，用消费级内存加速推理

高通与亚马逊达成AI芯片及光网络合作协议

Bending Spoons将以13.6亿美元收购数字规划平台Miro

Analog Devices将以13.5亿美元收购Alif Semiconductor，增强物理智能处理平台

Celero为其相干数字信号处理器融资2.75亿美元

Ayar Labs再获1.5亿美元后期融资，助力打造更大规模的AI芯片集群

Anthropic投资方领投离网AI电力初创公司TAR的1.2亿美元融资

销售自动化初创公司Clay完成1.15亿美元融资，估值升至71亿美元

Bluecore Energy融资5000万美元，打造首个浮动核能系统

Piston Technologies融资1500万美元，拓展面向重型卡车司机的无卡支付技术

新产品与新服务

独家：Compute Exchange新增GPU库存管理器，简化AI基础设施采购

据Wired报道，Kepler Computing称已“破解”内存短缺难题

AWS Elemental新增多视图与广告插入功能，助力广播商实现个性化与商业化直播

Orchid Security为企业提供针对失控AI智能体的“紧急停止”开关

Pigment推出AI生成界面，拓展业务规划能力

网络安全动态：比特币再起风波

攻防对抗

黑客从Liquid Network窃取3.2亿美元比特币，在漏洞修复后归还大部分资金

谷歌称攻击者利用AI智能体在不到六小时内窃取凭证

Radware发现Web DDoS攻击数量翻倍，修复窗口期正变为负值

Cisco Talos发现ClickFix攻击已扩展至浏览器及WebDAV

新服务

Gravwell新增五个AI智能体，可自主收集调查所需上下文

JumpCloud扩展智能体化IAM，新增针对自主AI智能体的控制功能

Rubrik将数据保护能力扩展至AWS上的Apache Iceberg表

资金动态

Cylake在下一代网络安全产品公测前完成2.45亿美元融资

Cymphony推出新服务，融资3000万美元，用于追踪AI智能体的可达范围

投资者可能错过的Netskope最新季度五大要点

SailPoint第二季度财报超预期

科技动态：苹果推出折叠屏产品

苹果发布折叠屏iPhone，同时推出新款18 Pro、手表及AirPods

谷歌DeepMind的AlphaGenome图谱绘制了人类DNA全部90亿种可能变异

埃隆·马斯克的The Boring Co.以230亿美元估值融资30亿美元，由阿联酋方面领投

国防初创公司Mach Industries在扩大生产之际融资6亿美元

Maven Robotics携1亿美元融资推出，扩大其工业机器人业务

纳斯达克向Kraken母公司Payward投资1亿美元，推进代币化股权业务

高光谱卫星初创公司Pixxel获得1亿美元投资

前Uber首席执行官Travis Kalanick重返机器人出租车赛道

General Robotics的GRID平台实现自我工程设计，将机器人部署时间缩短至数小时

IonQ推出面向量产的量子计算机Superion 256

Antioch融资3200万美元，将机器人测试转向仿真环境

独家：Team8发现小型风投基金在后互联网泡沫时代的融资环境降至新低

人事变动

明星AI研究员Andrew Tulloch即将离开Meta，据《华尔街日报》报道，其去向尚未公布

WordPress联合创始人Matt Mullenweg被Automattic解职

网络安全专家Kevin Mandia将加入亚马逊董事会

未来展望

活动预告

9月15日至17日：Dreamforce，Salesforce年度盛会，旧金山：SiliconANGLE将现场报道全部新闻

9月15日至17日：AI Infra Summit，圣克拉拉：SiliconANGLE将现场报道亮点内容

9月15日至16日：Workiva Amplify*，拉斯维加斯：theCUBE与theCUBE Research将现场进行访谈与分析（*为赞助内容）

9月17日至18日：AGNTCon + MCPCon，阿姆斯特丹

Q&A

Q1：Anthropic研究员为何辞职？

A：Anthropic研究员Jacob Coxon因担忧人工智能实验室在“拿人类生命做赌注”而辞职，此事引发了关于AI发展方向是否危害人类生存的广泛讨论。

Q2：AI是否真的存在“消灭人类”的风险？

A：Anthropic负责对齐科学的团队认为，未来十年内AI有超过10%的可能性导致“杀死所有人类”，OpenAI首席科学家也因此呼吁放缓AI研究步伐，但目前各大公司仍在加速推出新模型和产品。

Q3：Positron AI打算如何解决AI内存短缺问题？

A：Positron AI通过一款使用普通内存而非昂贵稀缺的高带宽内存的设备来解决AI内存紧缺问题，并为此完成了8.75亿美元的C轮融资。