网易首页 > 网易号 > 正文 申请入驻

复旦MOSS团队谈最新进展:从大语言模型到多模态大模型

0
分享至

自去年发布MOSS并在4月开源以来,由复旦大学自然语言处理实验室开发的这个大模型有何最新进展?

在22日举行的2023年度复旦大学“十大科技进展”评选会上,复旦大学邱锡鹏教授团队的通用可信人工智能模型MOSS获选十大进展之一,该研究团队在大模型的多模态扩展和可信提升方面开展了深入研究,联合发布人工智能治理开放平台“蒲公英”,系统揭示了文本、图像、视频模型的可信问题并创新提出“六维评测框架”,推动解决了全球人工智能治理落地难的问题。

复旦大学校长、中国科学院院士金力为2023年度复旦大学“十大科技进展”获奖团队颁奖,复旦大学供图

团队成员复旦大学黄萱菁教授对第一财经介绍,基于MOSS他们有几个新进展,其中一个正在做的就是希望各类信号符号化,“目前我们正在探索多模态大模型不同的解决思路,一个思路就是把一切符号化,不管是图片、还是音乐,都要转变到一个统一的符号空间。”

她对记者解释,他们提出一个模型叫AnyGPT,能理解和推理多模态内容,如文本、语音、图像和音乐。利用离散表征统一处理各种模态,通过两阶段生成框架实现高效多模态对齐预训练。给出一段语音提示,AnyGPT 能够生成语音、图像、音乐形式的综合响应,给出文本 + 图像形式提示,AnyGPT 能够按照提示要求生成音乐。

除了上述进展之外,今年1月份,基于MOSS他们还上线了“眸思”(MouSi)”。“希望它能对视障人群提供服务,我们还开发了一个应用叫 ‘看见世界’,它能够告诉你商店里有什么商品可以购买,在路上怎么导航,另外还可以有一些娱乐模式,目前已经和一些社区展开服务。”黄萱菁说。

针对目前大模型需要的数据和算力,黄萱菁解释道,“大家知道大模型需要给它喂 ‘燃料’,也就是所谓的数据。我们收集了各种跨语言多来源的数据进行各种预处理,抽取高质量的数据来训练模型,之后还研究了人工智能反馈的对齐。”

而在算法方面,他们提出了低内存优化算法,“因为大模型训练开销非常大,世界知识永远在更新,这种算法就降低了训练大模型所需要的算力资源。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
当今教育十大发明,绝对是教育的悲哀!

当今教育十大发明,绝对是教育的悲哀!

李老师讲最真教育
2026-06-20 18:01:12
今年高考数学满分率为0

今年高考数学满分率为0

新浪财经
2026-06-22 16:59:55
穆斯林不吃猪肉,猪饲料又有何用?伊朗:从美国采购大豆并不现实

穆斯林不吃猪肉,猪饲料又有何用?伊朗:从美国采购大豆并不现实

AI商业论
2026-06-23 13:25:07
奖金10万元!郑钦文2-1世界第56:排名升至138位 感谢总监发外卡

奖金10万元!郑钦文2-1世界第56:排名升至138位 感谢总监发外卡

风过乡
2026-06-22 23:15:28
鲁尼被征服!梅西世界杯双响破纪录:再质疑GOAT的人,该醒醒了!

鲁尼被征服!梅西世界杯双响破纪录:再质疑GOAT的人,该醒醒了!

体育闲话说
2026-06-23 06:24:05
林高远公布重大选择,不留遗憾再战赛场,薪资曝光,王励勤承重压

林高远公布重大选择,不留遗憾再战赛场,薪资曝光,王励勤承重压

观察鉴娱
2026-06-23 11:19:21
闹大了!央视被冤枉了!日球迷:侮辱旭日旗等同嘲讽全日本

闹大了!央视被冤枉了!日球迷:侮辱旭日旗等同嘲讽全日本

安海客
2026-06-23 11:14:14
36岁工地大哥:分房睡3年,半夜路过老婆卧室门口,我自扇几巴掌

36岁工地大哥:分房睡3年,半夜路过老婆卧室门口,我自扇几巴掌

施工员小天哥
2026-06-22 11:43:07
张亮与19岁儿子天天合体拍摄,“张亮天天共用一张脸”登上热搜

张亮与19岁儿子天天合体拍摄,“张亮天天共用一张脸”登上热搜

韩小娱
2026-06-22 11:52:50
斯塔默宣布辞职不到12小时,英国新首相浮出水面,对华立场已曝光

斯塔默宣布辞职不到12小时,英国新首相浮出水面,对华立场已曝光

铁锤简科
2026-06-23 13:01:16
上海550万退休老人养老金即将迎来调整,看看过去三年变化多大?

上海550万退休老人养老金即将迎来调整,看看过去三年变化多大?

虎哥闲聊
2026-06-22 17:45:26
四川1000余万退休人员养老金将迎调整,看看过去3年是如何变化?

四川1000余万退休人员养老金将迎调整,看看过去3年是如何变化?

虎哥闲聊
2026-06-22 13:08:49
真相来了!高市早苗怪不得喜欢挤眉弄眼,原来如此

真相来了!高市早苗怪不得喜欢挤眉弄眼,原来如此

白日追梦人
2026-06-23 13:35:04
梅西18球的真相:封神背后,被刻意忽略的三个历史偶然性!

梅西18球的真相:封神背后,被刻意忽略的三个历史偶然性!

落夜足球
2026-06-23 11:52:02
总分781.8分,物理满分!四川励志少年先天重度视力障碍,视力仅0.04,靠“听书听课”圆梦中考

总分781.8分,物理满分!四川励志少年先天重度视力障碍,视力仅0.04,靠“听书听课”圆梦中考

环球网资讯
2026-06-23 09:30:25
万万没想到,伊朗带头发起“五国联盟”倡议:对以色列已恨之入骨

万万没想到,伊朗带头发起“五国联盟”倡议:对以色列已恨之入骨

闻识
2026-06-23 06:40:38
他是中国首个倒台的省革委会主任,与许世友结怨,79年被开除党籍

他是中国首个倒台的省革委会主任,与许世友结怨,79年被开除党籍

旧史新谭
2026-06-23 08:13:16
他是杨采钰老公,福建某集团富三代,比她小帅气多金,郎才女貌

他是杨采钰老公,福建某集团富三代,比她小帅气多金,郎才女貌

以茶带书
2026-06-22 15:38:16
中国顶格制裁菲防长后,菲律宾国内琢磨了十天,终于读懂了信号

中国顶格制裁菲防长后,菲律宾国内琢磨了十天,终于读懂了信号

阿讯说天下
2026-06-23 13:13:48
先3-0再2-0!比起梅西的世界杯18球,让姆巴佩更难受的,还在后面

先3-0再2-0!比起梅西的世界杯18球,让姆巴佩更难受的,还在后面

海棠尝金桔
2026-06-23 11:41:06
2026-06-23 14:16:50
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
256869文章数 622765关注度
往期回顾 全部

科技要闻

48名中国开发者联名举报苹果

头条要闻

山西沁源新任县委书记上任 就"82死矿难"表态

头条要闻

山西沁源新任县委书记上任 就"82死矿难"表态

体育要闻

哈兰德国家队52场59球 世界杯狂刷6大纪录

娱乐要闻

喜剧大师曝光肖战拍戏状态!

财经要闻

智谱万亿市值,国产Anthropic真来了?

汽车要闻

华为智驾ADS限时优惠月底结束 7月1日前下订立省3000元

态度原创

本地
手机
健康
亲子
公开课

本地新闻

吃一次广东龙舟饭,才懂什么是豪华盛宴

手机要闻

苹果iPhone 18 Pro升级相机 机身厚度略微增加

粽子还没吃完?专家教你“清库存”

亲子要闻

一封家书令人动容!孩子确诊发育迟缓 深圳父亲辞职全职带娃

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版