网易首页 > 网易号 > 正文 申请入驻

众筹300万美元的Agent盒子,想彻底解决你的算力焦虑

0
分享至

作者 | 张子怡

编辑 | 袁斯来

AI硬件赛道,似乎一夜之间跨入新世界。

上一个月,投资人还在打听硬件大厂高P创始人,这一个月,他们已经开始寻觅“下一个Mac mini”。

狂欢的起点,来自开源智能体框架OpenClaw(圈子里称为:龙虾)。从抢购大内存的Mac mini到各类软硬大厂的联名主机,FOMO恐惧症席卷着所有人。承载AI的硬件,如今成了不可错失的入口。

此前更多在极客圈子里风行的Agent Box忽然被推到前台。简单说,Agent Box就是⼀台面向个人用户的AI专用设备,其存在的唯⼀目的是在本地运行大模型和自主代理。

市面上已经有数家推出Agent Box的公司,包括Pamir、Violoop、Tiiny等等。Pamir估值超过2500万美元,而Tiiny AI推出的首款产品Tiiny AI Pocket Lab,在Kickstarter上众筹金额已达280万美金。有行业人士预计其最终众筹金额可能会超400万美金。

Tiiny AI Pocket Lab重量约300克,尺寸约一部手机大小,早鸟众筹价为1399美元,支持一键部署大模型(最高支持120B)不依赖云端、服务器或高端GPU,也不产生额外的Token消耗费用。

Tiiny AI无疑踩中风口,毕竟用户只需要花单次硬件的钱,便能无限量地使用“龙虾”。

不过,Tiiny AI副总裁兼商业化负责人Eco Lee在采访中曾反复强调:Tiiny AI Pocket Lab不是专门为Open claw设计,它是为个人设计的AI基础设施设备。

这听起来很迷人,甚至有些难以置信。人们必须展开新的想象,agent原生意味着什么,要实现什么?当制约我们使用AI的只剩下高昂的Token费用,我们又如何冲破这一限制?

Tiiny AI尝试给出一个答案。

01 何谓Agent Box

在理解Tiiny AI之前,需要厘清一个新的产品概念——到底什么是Agent Box(智能体盒子)?

在过去一年里,为了在本地运行开源大模型,人们们尝试过各种方案:有人用淘汰的旧电脑,有人抢购顶配的Mac mini。

这笔硬投入相当高昂。倘若用户想在本地端运行超过120B的大模型,购买PC电脑要凑近80GB的显存,整机成本超过5万元;即便选择苹果的Mac Studio(选配96GB统一内存版),也要花费超过2万元。

“你是否愿意买台电脑,只用来跑大模型?现在很多几万元的AI电脑,一旦启动本地大模型的时候,内存与算力就被过度占用,你甚至连一个网页都打不开。更别提打游戏或者看视频。”Eco说到。

除了设备本身开销之外,随着Token价格水涨船高,高昂的持续使用成本,也让“本地化部署”成为行业刚需。

因此,在Tiiny AI的产品构想里,其产品必须是台专门的AI设备,能够支持本地大模型和智能体7×24小时后台运行。其设计逻辑并非替代用户的个人电脑,而是作为外接独立设备,供手机、PC、平板或机器人等终端设备接入调用。系统默认将用户数据、凭证和工作流保存在本地,敏感操作无需上传云端,除非明确要求调用更强的云端模型。

在软件生态方面,设备将内置Agent Store,目前已适配OpenAI OSS、Qwen、GLM 等50余款开源大模型,以及 OpenClaw、n8n 等超百款智能体开发工具。

为构建丰富的端侧生态,Tiiny AI计划于今年7月推出模型格式转换工具,除了Tiiny官方支持的SOTA开源模型外,用户也可自行从Hugging Face等开源社区下载、转换并导入其他开源模型和用户自己的微调模型,并能上传分享给其他Tiiny用户。

“我经常给用户打个比方,云端的大模型就像瓶装矿泉水,好喝也要喝,但普通用户有大量高频、重复、贴近个人习惯、又不需要顶级智力的AI需求,就像用矿泉水洗手洗澡就太奢侈了。Tiiny的存在就像属于用户的‘AI水龙头’,你可以随意使用、token边际成本为0。”Eco告诉硬氪。

在Eco看来,云端大模型专注处理高智力、高精度、关键性任务,本地大模型则聚焦日常高频、个性化、带用户长期记忆的持续交互场景——这种“端云协同”模式,正是Tiiny AI,也是Agent Box最核心的价值所在。

在期待、掌声与纷至沓来的投资人邀约中,Tiiny AI难免要面对质疑。它必须回答的第一个问题,就是以并不昂贵的售价,如何实现前沿的产品理念,以及120B的参数模型?

02 是玩具还是工具

在海外reddit论坛上,对Tiiny AI Pocket Lab的评价两极分化。有人说这只会是玩具,甚至有人通过宣传照逆向工程了Tiiny AI的产品,认为其所宣称的功能很难真正实现。

他们质疑的点在于,Tiiny AI并未公布其所用的SoC(系统芯片)品牌,也没有使用高端的GPU,却能在本地运行120B的大模型。

这令人觉得不可思议。

“我们是一家AI Infra公司,核心是通过系统性底层优化,把有限硬件的每一分算力与资源,全部聚焦于LLM推理与Agent运行,这与其他做硬件的思路有本质不同。”Eco表示。

Tiiny AI Pocket Lab里使用的芯片是一颗SoC外加一颗dNPU,并通过Tiiny AI最核心的技术PowerInfer来实现媲美Nvidia、AMD等高端GPU芯片的本地模型推理能力。

PowerInfer是用于端侧的异构算力推理加速技术,Tiiny AI团队通过大量的数据测算和语料训练发现,大模型推理过程中,参数激活模式分为两类:“热激活参数”(每次与模型交互都会调用的核心参数,约占20%)和“冷激活参数”(仅在用户问到医学、法律等特定领域问题时激活,约占80%)。这种冷热激活的特性,恰好适合在端侧异构算力架构下优化分配。团队开源过PowerInfer的示例:用单个NVIDIA RTX 4090 GPU,运行参数量175B的大模型,速度能达到传统方案的11倍。

这些都属于AI Infra层面的技术积累。从芯片层到Agent调度层,再到模型训练层,都需要深厚的knowhow支撑。

在具体的落地场景中,Tiinny AI团队从Kickstarter的留言区中发现,其用户主要是使用如OpenClaw一类开源应用的普通用户、对数据隐私有刚需的专业人士和AI极客。即使在断网的离线环境下,该设备依然可以运行多步推理、Agent工作流、内容生成以及针对敏感数据的安全计算。“傻瓜式”的开箱即用、0token费的24/7 Agent和完全的自主控制权是这些人选择Tiiny的核心理由。

并且,该设备在系统内引入了长期记忆功能。用户的交互偏好、历史文件与对话记录,均能通过加密形式直接存储在本地硬件中。

“隐私是Agent Box的加分项,但核心在于本地模型的部署,它能够结合你的长期记忆主动做事情,这件事最重要。”Eco告诉硬氪。

Tiiny AI的产品预计在2026年8月交付。需要注意,Tiiny是AI Agent出身的团队,其最终产品呈现仍然是硬件。他们有合作供应商,但也需要应对量产中的突发情况。

硬件生产有太多需要趟过的河流,考验团队的并非融资,而是真正兑现诱人的承诺:在一个300克的盒子上,实现本地算力自由、不受Token价格束缚、完全私密。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
油价大跌!一夜降温,11月17日全国92,95汽油“2连涨、大涨近8.5毛/升”后降下来,11月已降近0.55元/升后,下次11月26日调价“或大降”!

油价大跌!一夜降温,11月17日全国92,95汽油“2连涨、大涨近8.5毛/升”后降下来,11月已降近0.55元/升后,下次11月26日调价“或大降”!

猪友巴巴
2026-11-17 09:18:13
蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

LULU生活家
2026-09-02 19:51:47
创137年纪录!荷兰遭队史最惨1败:3天内从7-0到0-5,46岁哈维懵了

创137年纪录!荷兰遭队史最惨1败:3天内从7-0到0-5,46岁哈维懵了

我爱英超
2026-11-17 06:12:26
巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

巨亏百亿!小米汽车销量“赢麻了”,生意咋亏麻了?

大厂财经社
2026-11-16 11:14:16
72岁约翰·特拉沃尔塔谈育儿:我可以无憾离开这一生

72岁约翰·特拉沃尔塔谈育儿:我可以无憾离开这一生

热搜摘要官
2026-11-14 03:01:53
天呐!全球资本抄底中国房地产,不出意外,现在一线城市房价全线下跌!

天呐!全球资本抄底中国房地产,不出意外,现在一线城市房价全线下跌!

新国学文化
2026-11-17 11:27:15
昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

皓皓情感说
2026-11-16 07:51:03
明年开始,若房价继续下跌,中国50%的家庭或要面临3个问题

明年开始,若房价继续下跌,中国50%的家庭或要面临3个问题

云霄纪史观
2026-11-17 04:14:58
双预警齐发,中央气象台:今晚到明晚,吉林、黑龙江有中雪,山东、河北、重庆、四川、湖北、湖南、浙江等地有小到中雨,广东局地大雨

双预警齐发,中央气象台:今晚到明晚,吉林、黑龙江有中雪,山东、河北、重庆、四川、湖北、湖南、浙江等地有小到中雨,广东局地大雨

吉刻新闻
2026-11-17 08:16:36
石家庄以北的河北人,为什么不说自己是河北人呢?

石家庄以北的河北人,为什么不说自己是河北人呢?

笔墨V
2026-11-17 05:32:43
说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

今夜繁星坠落
2026-11-15 23:17:03
弗里克哭晕!巴萨头号巨星惨遭重创!诺坎普核心恐彻底崩盘

弗里克哭晕!巴萨头号巨星惨遭重创!诺坎普核心恐彻底崩盘

奶盖熊本熊
2026-11-17 08:45:20
巴拉圭主帅:日本是世界前十强队,这是长期积累的结果

巴拉圭主帅:日本是世界前十强队,这是长期积累的结果

懂球帝
2026-11-17 16:28:07
监控画面曝光!莫桑比克一中国人经营的超市遭4名持枪男子抢劫,两名保安被逼跪地

监控画面曝光!莫桑比克一中国人经营的超市遭4名持枪男子抢劫,两名保安被逼跪地

扬子晚报
2026-11-16 12:06:10
36岁女子只因拿不出五百房租,就被房东赶出房间,被朋友做局欺骗,负债百万,如今身上五十块都拿不出,在路边崩溃大哭!

36岁女子只因拿不出五百房租,就被房东赶出房间,被朋友做局欺骗,负债百万,如今身上五十块都拿不出,在路边崩溃大哭!

捣蛋窝
2026-11-16 15:56:18
股市大局已定!如无意外,今年中国股市或将迎来四大变化

股市大局已定!如无意外,今年中国股市或将迎来四大变化

星语者056
2026-11-17 08:46:48
1993年冯巩看望张学良,少帅盯着他许久,颤抖着问:冯国璋是你什么人?听完回答,他背过身流泪

1993年冯巩看望张学良,少帅盯着他许久,颤抖着问:冯国璋是你什么人?听完回答,他背过身流泪

磊子讲史
2026-11-17 18:09:27
对华立场摆上桌!欧盟出手限制中国设备,没想到给自己出了个难题

对华立场摆上桌!欧盟出手限制中国设备,没想到给自己出了个难题

最新声音
2026-11-17 18:52:39
马来西亚男子拒替不认识2华女付餐费 华女发声:马来西亚是中国的

马来西亚男子拒替不认识2华女付餐费 华女发声:马来西亚是中国的

环球趣闻分享
2026-11-16 13:00:24
“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

蝴蝶花雨话教育
2026-11-17 00:05:18
2026-11-17 19:39:00
36氪 incentive-icons
36氪
让一部分人先看到未来
152981文章数 2849426关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

时尚
数码
游戏
家居
教育

自骂“烂人”的黄仁勋,冤不冤?

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

小伙表示连玩7天《GTA6》 这下PS5可惨了

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

无障碍浏览 进入关怀版