网易首页 > 网易财经 > 正文

中信证券:Kimi长文本模型对行业意味着什么?

0
分享至

(原标题:前瞻|Kimi长文本模型对行业意味着什么?)

文|陈俊云  贾凯方  刘锐  高飞翔

近期月之暗面旗下对话类模型Kimi迎来重大升级,支持200万字超长文本输入和更复杂指令,引发市场关注。此次升级刷新了业界文本输入长度纪录,充分展现了Kimi在工程优化和算法设计方面的突出实力。长文本处理能力的突破,为Kimi在多模态融合、Agent任务处理等方面奠定了坚实基础。我们判断,超长文本支持已成为大模型多模态升级的关键前提。在Kimi示范效应下,越来越多厂商有望效仿其技术路线,加大研发投入,推动长文本处理在今年内成为行业标配。随着多模态理解能力的提升,AI有望在UGC内容understanding、复杂任务处理等场景实现新突破,为产业智能化升级注入新动力。我们看好Kimi引领的这轮大模型技术革新浪潮,同时随着对超长文本、多模态数据的支持需求提升,我们预计软硬件基础设施将迎来新一轮升级,以满足海量非结构化数据的存储和计算需求。因此,我们持续看好AI算力赛道的投资机会,特别是商业应用加速落地背景下,推理侧算力有望实现快速增长。

▍事件背景:

北京时间3月18日,月之暗面旗下对话类模型Kimi迎来重大升级,支持200万字的长文本处理和更复杂指令,引发市场强烈反响。Kimi Chat作为专注长文本处理的对话助手,凭借20万汉字的超长上下文和优秀性能,自去年10月发布以来持续受到市场青睐。今年2月的功能升级进一步增强了网站与多问题搜索能力,带来更佳用户体验。Similarweb数据显示,Kimi Chat网页端访问量近期屡创新高,峰值达34.6万人次。据AI产品榜统计,2月份Kimi Chat国内访问量排名第三,日活跃用户同比翻倍,全球增速位列第一。在本次3月份的长文本版本更新后,数据显示最新周访问量创新高,3月18日-3月24日访问量243万,环比增加45%。

▍Kimi主要突破:支持长文本输入,更强的工程与成本控制能力。

大模型的输入文本长度是一个重要的工程挑战。随着输入序列长度的增加,模型推理过程中注意力层的计算时间呈指数级增长。以Llama-7b模型为例,处理100万字的输入需要数分钟之久。因此,更长的上下文窗口不仅意味着模型具备更强大的基础能力,还需要在工程实现上进行特殊优化,并将成本控制在合理水平。横向比较当前市场上的大语言模型,GPT-4支持3.2万字Tokens输入,Gemini公开版本支持13万字,而Kimi的200万字上下文长度无疑刷新了现有的最高纪录。为实现更优的长文本无损压缩性能,月之暗面在发布会上透露,其研发团队从模型预训练、对齐到推理的各个环节进行了原生级的重新设计和开发,摒弃了“滑动窗口”和“降采样”等折中方案,攻克了诸多底层技术难题,才取得了这一突破性进展。我们认为,Kimi展现的超长文本处理能力印证了其在工程和算法优化方面过硬实力。

▍市场影响判断:多模态能力升级的必然前提,将引起更多厂商效仿。

Kimi将输入文本长度拓展至200万字,绝非为刷新纪录而作出的简单改动。长文本处理能力直接决定了模型的多模态融合水平,是构建能处理复杂任务的AI Agent的必要基础。相较于纯语言模态,图像、视频等非结构化数据蕴含的信息更为丰富,需要更长的上下文才能有效表征和理解。因此,超长文本输入已成为支持多模态处理的基本前提。从技术实现角度看,长文本处理主要涉及工程优化和成本控制两大挑战。我们预计,在Kimi的示范效应下,越来越多厂商将效仿其超长文本处理的思路,加大在算法架构、数据压缩、推理加速等方面的研发投入。随着业界的技术积累和创新突破,长文本支持有望在今年内成为大模型的标准配置。

▍风险因素:

AI核心技术发展不及预期风险;科技领域政策监管持续收紧风险;私有数据相关的政策监管风险;全球宏观经济复苏不及预期风险;宏观经济波动导致欧美企业IT支出不及预期风险;AI潜在伦理、道德、用户隐私风险;企业数据泄露、信息安全风险;行业竞争持续加剧风险等。

▍投资策略:

本次月之暗面更新的Kimi长文本版本取得了实质性技术突破,将输入文本长度的上限提升至200万字,刷新了当前业界的最高纪录。我们认为,Kimi的这一进展将引领大模型厂商掀起新一轮技术革新浪潮。长文本输入能力是实现多模态处理的关键前提,而多模态内容,尤其是视频和图像的UGC(用户生成内容),仍然是AI应用层面的核心增长点。从技术实现角度看,长文本处理主要受限于工程优化和成本控制能力。随着业界对超长文本的支持需求不断提升,我们预计硬件基础设施也将随之升级,以满足海量文本数据的存储和计算要求。因此,我们持续看好AI算力层面的投资机会,特别是在商业应用日趋成熟的背景下,推理侧算力有望迎来更大的增长空间。

相关推荐
热点推荐
乌军总司令:“前线困难重重,局势有恶化趋势”

乌军总司令:“前线困难重重,局势有恶化趋势”

参考消息
2024-04-28 20:12:13
确保问题全部整改到位!李强听取情况汇报,提出重要要求

确保问题全部整改到位!李强听取情况汇报,提出重要要求

政知新媒体
2024-04-27 22:09:03
热搜第一!鸡被砸死、美女隆起大包…广州龙卷风已致5死33伤

热搜第一!鸡被砸死、美女隆起大包…广州龙卷风已致5死33伤

魔都囡
2024-04-28 01:55:27
新冠疫苗之父杨晓明被抓,带队研制科兴疫苗,曾9个月抽60管血!

新冠疫苗之父杨晓明被抓,带队研制科兴疫苗,曾9个月抽60管血!

闲事杂说
2024-04-28 02:12:03
广西一男子飞到兰州一次购买52万元黄金,兰州警方:涉嫌为电信诈骗洗钱

广西一男子飞到兰州一次购买52万元黄金,兰州警方:涉嫌为电信诈骗洗钱

上游新闻
2024-04-28 20:51:17
到底是谁丢了底线?多地严查小店卖创可贴,原来我们误会执法者了

到底是谁丢了底线?多地严查小店卖创可贴,原来我们误会执法者了

顾礼先生
2024-04-28 16:00:30
回族女性为什么要剃毛,何为剃毛?是有什么原因吗?

回族女性为什么要剃毛,何为剃毛?是有什么原因吗?

牛锅巴小钒
2024-04-28 16:03:55
11年云南女学生捐骨髓救人,患者康复后却大骂:她就不是个东西!

11年云南女学生捐骨髓救人,患者康复后却大骂:她就不是个东西!

小金鱼的眼泪
2024-04-27 08:56:20
冰雹砸车,龙卷风袭击,保险赔吗?广州多家财险公司回应

冰雹砸车,龙卷风袭击,保险赔吗?广州多家财险公司回应

新快报新闻
2024-04-28 20:21:04
胜了吗?荷兰政府宣布:取消ASML对中国出口禁令!

胜了吗?荷兰政府宣布:取消ASML对中国出口禁令!

搞笑的阿票
2024-04-28 16:34:45
该来的还是来了,傅崐萁抵京,级别高过马英九,大陆高层亲身接见

该来的还是来了,傅崐萁抵京,级别高过马英九,大陆高层亲身接见

娱乐的宅急便
2024-04-28 16:22:56
万达集团创始人王健林宣布退出公司并将全部股权转让给中国儒意

万达集团创始人王健林宣布退出公司并将全部股权转让给中国儒意

鹏飞深文
2024-04-22 12:19:28
AEB不等于华为智驾,选择问界要看清楚

AEB不等于华为智驾,选择问界要看清楚

车市观察
2024-04-28 17:18:56
董军在上合见7国防长,唯独没搭理印度,苏杰生的担忧正成为现实

董军在上合见7国防长,唯独没搭理印度,苏杰生的担忧正成为现实

说天说地说实事
2024-04-28 17:27:47
目瞪口呆!“新冠疫苗之父”被抓,网友:这下各种后遗症说得通了

目瞪口呆!“新冠疫苗之父”被抓,网友:这下各种后遗症说得通了

今日养生之道
2024-04-28 11:37:00
郯城县公安局回应“警车进村喊话村民涉嫌嫖娼”:警方让中间人联系当事人 是因多次传唤不到

郯城县公安局回应“警车进村喊话村民涉嫌嫖娼”:警方让中间人联系当事人 是因多次传唤不到

红星新闻
2024-04-28 15:33:22
重庆“燃气表跑得快”联合调查组:只有极个别表失准

重庆“燃气表跑得快”联合调查组:只有极个别表失准

中国经营报
2024-04-28 09:32:24
田馥甄内地复出失败!音乐节宣布取消其演出,本人发声强撑体面

田馥甄内地复出失败!音乐节宣布取消其演出,本人发声强撑体面

萌神木木
2024-04-27 22:17:58
990万元!周鸿祎迈巴赫成交!半个车圈到场

990万元!周鸿祎迈巴赫成交!半个车圈到场

证券时报e公司
2024-04-28 19:42:38
油价“跌翻天”!4月29日:调价后92/95号汽油价格,猪价如何

油价“跌翻天”!4月29日:调价后92/95号汽油价格,猪价如何

猪友巴巴
2024-04-28 14:26:26
2024-04-28 21:48:49

财经要闻

上财万字报告深度解读Q1经济

头条要闻

周鸿祎的二手迈巴赫以990万元成交 半个车圈到场

头条要闻

周鸿祎的二手迈巴赫以990万元成交 半个车圈到场

体育要闻

赢了!詹皇末节14分制胜咆哮 压力给到KD

娱乐要闻

张杰谢娜发文为何炅庆生,亲如家人!

科技要闻

特斯拉生死时速,马斯克西天取经

汽车要闻

鸿蒙首款行政旗舰轿车 华为享界S9实车亮相车展

态度原创

本地
时尚
教育
手机
公开课

本地新闻

云游中国|苗族蜡染:九黎城的“潮”文化

张元英、Jennie带火的“蛋糕裙”,减龄又时髦,难怪潮人都跟风!

教育要闻

孩子长大能赚多少钱,看父母就知道

手机要闻

苹果警告:睡觉时切勿将iPhone放枕头、身体下充电

公开课

父亲年龄越大孩子越不聪明?

无障碍浏览 进入关怀版
×