GPU云市场一直被大买家塑造,它们能签下多年合同,锁定稀缺的加速卡。随着AI负载从训练向推理倾斜,一些新型云厂商押注:下一波需求会来自更广泛的客户群。
![]()
Comet Cloud公司创始人兼首席执行官托马斯·加藤(Thomas Kato)把机会押在中小企业身上。他的判断是,超大规模云厂商已经把这类客户排到了GPU分配的队尾。
加藤说,超大规模云厂商过去按小时、按天或按周出租GPU算力,现在情况变了。“你现在去找AWS,他们要的是多年合同,他们在挑客户。”他补充说,中小企业根本不在这些厂商的考虑范围内,而这正是Comet Cloud的切入点。
这番话出自他在戴尔科技纽约研讨会上接受theCUBE Research的戴夫·韦兰特(Dave Vellante)采访时的表述,该采访由SiliconANGLE Media的直播工作室theCUBE播出。
从支付生意走到GPU集群
Comet Cloud进入AI基础设施的路径始于支付。加藤的信用卡处理业务把他带进了比特币挖矿,他逐渐把挖矿看作一种电力套利,而电力成本同样是AI计算的关键变量。
公司现在提供的是专属集群,而非共享算力。这种模式面向的是需要把数据与其他客户隔离的客户,比如医疗机构和律师事务所。
“我们做的事是把集群搭起来,然后交给一整家公司使用。他们所有的信息、所有的安全措施,全部在这个集群里,没有其他人连接进来。”加藤这样描述。
目前,Comet Cloud向Andromeda这样的合作伙伴提供裸金属基础设施。Andromeda是一个算力交易市场,最近用Weka NeuralMesh统一了50多家GPU供应商的存储。加藤表示,公司计划继续向软件栈上层走,把站点变成“token工厂”。
价格是主打卖点
价格在推销中占很大分量,尤其是英伟达的B300系统。“超大规模厂商大概会收你每小时15美元、20美元,甚至更多。你来找我们这样的公司,价格能降到每小时4美元。这个差距是天文数字。”加藤说。
随着推理负载超过训练,低价变得更关键。加藤预计,中小企业需要token来处理营销、客服这类日常任务。借助其支付商户和关联渠道——其中包括一个服务5万家肿瘤诊所的合作方——Comet Cloud可以把第三方AI软件连同运行它的算力一起交付给中小企业。他说,这些企业中的大多数目前除了消费级聊天机器人之外,还没有用上AI。
“随着大家都在开发这些AI工具,会让企业更高效、更赚钱……等这些工具成熟、我们能提供给它们的时候,那才是真正改变一切的时刻。”加藤补充道。
算力背后的电力、配额与资金
要建成这样的算力,需要电力、GPU配额和资金。Comet Cloud在西海岸签下了300英亩土地,并开始与戴尔科技建立合作,后者的AI工厂业务已走到一个拐点。
融资是另一道坎。加藤给出的数字是:一个由48个机架组成的英伟达下一代Vera Rubin系统集群,可能需要10亿至12亿美元的合同收入才能拿到融资。这些经济账将决定一家面向中小企业的GPU云能走多远。
“我们需要把token的价格降到足够低,低到每个人都能在自己的生意里用上这些token。那才是我们应该到达的地方。”他说。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.