昆仑芯欧阳剑：Token应成基础设施 成本每年至少降一个量级

3月17日晚，亚布力中国企业家论坛第二十六届年会开幕。

昆仑芯CEO欧阳剑表示，当Token（词元）成为社会的基础设施，其成本应该每年要以至少一个量级的速度下降，否则无法支撑不断增长的Token调用量。

Token将成为新刚需 迅速增长将消耗大量社会资源

公开资料显示，昆仑芯是一家AI芯片企业。在开幕式上，欧阳剑围绕Token展开话题，他表示，Token会成为AI时代的“水电煤”，是以后生产和生活的新刚需。

什么是Token？欧阳剑解释称，有了大模型后，Token是所有形式的统一描述。无论是文本、图像、语音都可以用Token来描述，统一描述使得信息的表达和计算变得非常简洁。同时，Token也是大模型使用量的直接度量。

“我们统计了当下用到AI Token的几类人，每个月大约要在Token上花多少钱。普通人每天要跟‘Chatbox’工具聊天，可能要消耗几万个量级的Token，每个月支出大约为几元或者几十元。如果是要用图像、视频等的内容创作者以及要写代码的开发者，Token调用量更大，花的钱也更多。” 欧阳剑称，根据一些机构统计的数据，过去一段时间，Token每个月或每半年都会迎来一个量级的增长，还有统计显示， Token每年增速超200%。

Token增长这么快，是否意味着其对社会资源的消耗非常大？欧阳剑认为，答案应该是“是的”。更严重的是，模型还会越来越大，因此，单个Token的计算代价也会越来越大。很多人都担心，这样发展下去，大部分电以后是不是都得用来算Token？正常的工业、农业生产和生活，是否需要为AI让路？这是当下人工智能发展要解决的问题，既是新挑战，也是新机遇。

让Token成为核心基础设施 带动相关产业发展

在开幕式上，欧阳剑提出了一个观点：当Token成为社会的基础设施，其成本应该每年以至少一个量级的速度下降，否则无法支撑不断增长的Token调用量。

如何解决这一挑战？欧阳剑从技术层面和社会层面进行了分析。

就技术层面，欧阳剑表示，AI到来迎来了更大的科技爆发，需要在多个环节创新。比如，软件系统为了降低Token成本，出现了很多极致的芯片推理框架；在算法和模型层面，行业创新速度也非常快，包括结构和算法上的创新。

从社会层面来看，欧阳剑认为，一定要大规模降低Token的成本，让Token成为核心的基础设施，带动相关产业发展。

“今天，我们提到能源发展、电算融合，也是在这一背景下提出来的。如果没有AI对电消耗的极致要求，这些方向的创新或许难以如此快地出现。”欧阳剑表示，另外，Token也会带动半导体、零部件生产领域的规模化发展。未来，就像用手机要给运营商交话费一样，对Token的运营是否会出现新的商业模式，也值得期待。

新京报贝壳财经记者 潘亦纯

编辑 王进雨

校对 卢茜