网易首页 > 网易号 > 正文 申请入驻

Google扩展TPU家族推出8tx与8i Max芯片

0
分享至


谷歌公司今日为其第八代张量处理单元架构家族推出两款专用人工智能芯片,旨在提升计算密度并加强安全推理能力。

在2026年4月的谷歌云Next大会上,谷歌已在同一代产品中推出两款专用TPU:面向大规模训练的8t和专为实时推理设计的8i。彼时该公司表示,推出这些芯片是为了应对AI工作负载中两项主要任务的严苛需求:构建模型与运行模型。

今天的扩展为更多系统带来了两款新的专用芯片:面向超大上下文窗口及机架最高计算密度的TPU 8i Max,以及专为安全与保密推理设计的TPU 8tx。

TPU 8i Max:应对内存瓶颈

谷歌表示,TPU 8i Max旨在扩展计算与内存能力,相比TPU 8i实现了计算能力翻倍、SRAM容量翻倍以及高带宽内存翻倍。这使处理器能够拥有尽可能多的内存来处理数据,而无需频繁换出数据。

此外,该公司补充说,8i Max能在相同机架空间内容纳两倍的芯片数量,从而降低了数据中心每平方英尺及每瓦特所占用的空间。

这使得第八代TPU能够为客户提供专为更大模型及当前行业对超大上下文窗口的追求而打造的专用加速器。

上下文窗口相当于AI模型的工作空间:即模型在回答问题时能够考虑的数据量。更大的窗口让模型能够处理更长的文档、对话历史、音频文件、视频或代码集合。但扩大窗口也需要付出代价。处理并反复查阅更多信息会对芯片提出更高要求,需要更频繁地换入换出数据,从而需要更多片上内存以及在处理器间传输数据的更强连接。

增加片上内存可以减少处理器之间的数据传输需求,从而降低延迟并减少AI模型"思考"信息所需的功耗。

谷歌表示,其在为Gemini前沿模型推动超大上下文窗口的同时,也开发了8i Max,该模型支持业内标准的100万Token。这大约相当于75万个单词或1500页文本。尽管旗舰模型能够处理100万Token,但较小的模型通常仅支持介于12.8万至25.6万Token之间的较窄窗口。

TPU 8tx:专注保密性

谷歌表示,其针对安全保密推理对TPU 8tx进行了优化,该芯片专为希望在处理最敏感数据的同时运行前沿模型或专有模型及自主智能体的受监管企业和政府机构而设计。

通常情况下,数据在存储或通过网络传输时是加密的,但当AI模型处理这些信息时,必须对其进行解码。8tx基于与TPU 8t相同的架构构建,配备定制AMD中央处理器主机,并直接在硬件层内置了安全隔区,用于保护和隔离敏感数据及模型权重。

该公司表示,这一架构将训练级计算能力与快速推理相结合,这意味着企业机构可以在单一保密系统上运行和定制模型。这种组合使受监管的服务和行业能够利用私有数据微调模型,将大模型蒸馏为小模型,并通过强化学习训练智能体。

所有这些操作都无需在独立集群之间迁移数据,从而避免了敏感信息因此而泄露的风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

西昆仑Bruce
2026-11-19 16:57:57
深夜,集体跳水!美联储,加息大消息!黄金、白银、铜、镍、锌,全线下挫

深夜,集体跳水!美联储,加息大消息!黄金、白银、铜、镍、锌,全线下挫

券商中国
2026-11-19 02:14:46
机动车年检大局已定?2027正式实施,私家车年审或面临3大变化?

机动车年检大局已定?2027正式实施,私家车年审或面临3大变化?

云霄纪史观
2026-11-20 00:56:06
长鑫科技:拟25亿元-50亿元回购股份,回购价格不超过人民币63.78元/股

长鑫科技:拟25亿元-50亿元回购股份,回购价格不超过人民币63.78元/股

界面新闻
2026-11-19 18:28:19
流亡的阿萨德一家何去何从?俄罗斯近日表明了明确态度:即便法院判了死刑,阿萨德也休想离开俄罗斯

流亡的阿萨德一家何去何从?俄罗斯近日表明了明确态度:即便法院判了死刑,阿萨德也休想离开俄罗斯

人生录
2026-10-22 00:20:08
主动给杨瀚森补钱!虽然是新加盟,但确实有球队老大的样子

主动给杨瀚森补钱!虽然是新加盟,但确实有球队老大的样子

德译洋洋
2026-11-19 12:10:33
反了!森林狼联盟第一防守!爱德华兹或无缘3亿顶薪

反了!森林狼联盟第一防守!爱德华兹或无缘3亿顶薪

篮球实战宝典
2026-11-19 15:15:49
生育大局已定:不出意外的话,2026年中国新生人口将迎来3大变化

生育大局已定:不出意外的话,2026年中国新生人口将迎来3大变化

就一点
2026-11-19 21:39:58
日本东京万人集会抗议高市政权政策

日本东京万人集会抗议高市政权政策

新华社
2026-11-20 00:29:26
中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

荆楚寰宇文枢
2026-10-27 22:10:25
NBA乱套了!随着火箭119-104,掘金105-101,湖人97-109不敌爵士,西部排名出炉!

NBA乱套了!随着火箭119-104,掘金105-101,湖人97-109不敌爵士,西部排名出炉!

锐评利物浦
2026-11-19 18:54:53
合肥警方凌晨收网,8人悉数落网!

合肥警方凌晨收网,8人悉数落网!

环球网资讯
2026-11-19 14:57:48
兵马俑在地下面积那么大,埋得又那么浅,为啥2000多年都没人发现?

兵马俑在地下面积那么大,埋得又那么浅,为啥2000多年都没人发现?

犀利辣椒
2026-11-18 23:36:04
利润大跌60%,曾经国民零食第一股,快被街边量贩店干懵了

利润大跌60%,曾经国民零食第一股,快被街边量贩店干懵了

李砍柴
2026-11-19 21:49:58
兵败如山倒!国产新能源或已经证明:中国根本不需要二线豪华品牌

兵败如山倒!国产新能源或已经证明:中国根本不需要二线豪华品牌

命运自认幽默
2026-11-19 04:59:29
万万没想到!普京在深圳感慨万千,俄罗斯熬了五年才证明,自己仍然是顶级大国,引发舆论热议!

万万没想到!普京在深圳感慨万千,俄罗斯熬了五年才证明,自己仍然是顶级大国,引发舆论热议!

林杰论事
2026-11-19 12:36:26
韦世豪5个月无球可踢!或再度联手郑智,目睹蓉城丢冠后或洗心革面

韦世豪5个月无球可踢!或再度联手郑智,目睹蓉城丢冠后或洗心革面

奥拜尔
2026-11-19 14:04:27
离称霸,字节只差一个聊天软件了!

离称霸,字节只差一个聊天软件了!

城事堂
2026-11-17 14:09:44
U17世界杯:U17国足迎战西班牙,1950万欧VS41万欧,身价差距巨大

U17世界杯:U17国足迎战西班牙,1950万欧VS41万欧,身价差距巨大

开成运动会
2026-11-19 19:50:33
22岁毛东东和17岁毛甜懿嬉戏打闹,妹妹古灵精怪,哥哥很憨厚

22岁毛东东和17岁毛甜懿嬉戏打闹,妹妹古灵精怪,哥哥很憨厚

喜文多见01
2026-11-12 11:59:34
2026-11-20 02:48:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23553文章数 49740关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

游戏
时尚
本地
亲子
房产

《GTA6》智能手机太强太沉浸!R星官方解释原因

被叫老板娘7年,张萌终于翻脸

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

每个男孩妈妈都有一段很难走的路

房产要闻

2.5亿!丁村侨中,新动作来了!

无障碍浏览 进入关怀版