北京
谷歌云把TorchTPU开源了。这套原生PyTorch栈现在挂在GitHub上，同时放出的还有TPU Agent Suite的早期预览版。
TorchTPU由谷歌与Meta的PyTorch团队联合开发。它把Cloud TPU——具体是v5e、v5p、v6e和v7（Ironwood）——和GPU、CPU并列，作为PyTorch的原生后端选项。开发者可以用现有的标准API和开源工具，在TPU上训练、微调和部署PyTorch模型，代码改动量很小。
安装方式很直接，通过pip拉取最新的torch_tpu版本，要求Python 3.11以上。官方给出的步骤是先建虚拟环境并激活，再执行安装命令，索引地址指向PyTorch的CPU wheel源。
开箱即用的几块拼图
TorchTPU保留了PyTorch的原生体验：在eager模式下用.to("tpu")就能调试模型，切到生产级性能则靠torch.compile()，背后是自定义的ATen内核和XLA编译缓存。
生态集成方面，Hugging Face的Transformers v5里传入device_map="tpu"即可部署主流开放权重模型，Diffusers也有原生支持。高吞吐服务侧提供vLLM和SGLang的原生PyTorch后端，配合llm-d在GKE上做前缀缓存感知的Kubernetes集群路由。
分布式训练和规模化强化学习同样有对应方案：TorchTitan（含SimpleFSDP和自定义Pallas内核）、用于后训练与RL对齐的VeRL，以及做异构计算编排的Ray。
Agent套件想解决上手和调优
TPU Agent Suite以预览形式开源，提供多智能体技能、路由协议和工具的声明式打包，可在多种编码智能体框架中原生编译安装，目前包括Claude Code和Antigravity，Codex与Cursor的支持还在路上。
启用tpu-agent技能后，可以直接在编码环境里用自然语言提示词完成几类自动化操作：
- 模型接入与基准测试：在torch_tpu上拉起vLLM推理服务器，跑测试补全，测TTFT、ITL和吞吐。
- 性能分析与诊断：解析XProf剖析数据，定位内存瓶颈和TPU算力利用率。
- 内核优化：优化自定义Pallas内核，并运行自动化的自我改进基准循环。
两个项目的仓库都在google-pytorch组织下，官方文档和发布博客也一并放出。谷歌云方面表示，欢迎开发者试用，迁移负载遇到问题、对agent技能有反馈，都可以在评论区回复或在GitHub上开issue。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
