网易首页 > 网易号 > 正文 申请入驻

Llama 3拿下“赛点”?大模型角力场,开源与闭源之争仍在继续 |大模界

0
分享至

开源与闭源之争延续到大模型时代。在寻找“新大陆”的路上,开源与闭源的辩论,就像是一场关于AI未来的“航海策略”讨论。

开源一派认为,开源能够促进全球科研人员和开发者的协作,加速AI技术的迭代与创新。同时,开源让更多人参与到模型的改进和优化中,通过集体智慧解决复杂的技术难题。

闭源的倡导者则看重其在商业化、技术保护和产品差异化方面的优势。闭源模型使得企业能够控制产品的开发节奏和市场策略,保护其商业利益。此外,闭源也有助于企业维护其技术优势,避免竞争对手模仿或超越。

Llama 3的发布让开源大模型在与闭源的竞争中再度“扳回一城”。从测试结果来看,Llama 3的成绩大幅超越了Llama 2,也胜过了GPT-3.5。

在AI这场没有硝烟的“航海竞赛”中,大模型已然成为眼前的灯塔,未知的是,这座灯塔究竟是向所有航海者开放其光芒,还是仅为特定的船只照亮前行的航道。

Meta继续押宝开源

Meta正沿着开源路径继续前进。

近日,Meta推出开源大模型Llama 3系列,发布8B和70B两个版本。Meta CEO扎克伯格在同一天宣布,基于Llama 3,Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了网站。

与Llama 2相比,Llama 3进行了几项关键的改进:使用具128K token词汇表的tokenizer,可以更有效地编码语言,从而显著提升模型性能;在8B和70B模型中都采用分组查询注意力(GQA),以提高Llama 3模型的推理效率;在8192个token的序列上训练模型,使用掩码来确保自注意力不会跨越文档边界。

据Meta介绍,Llama 3已经在多种行业基准测试上展现了最先进的性能,提供了包括改进的推理能力在内的新功能,是目前市场上最好的开源大模型。

此外,Llama 3发布后,微软Azure、谷歌云、百度智能云等陆续宣布其平台上线Llama 3。百度方面此前对《每日经济新闻》记者表示,百度智能云千帆大模型平台在国内首家推出针对Llama3全系列版本的训练推理方案,便于开发者进行再训练,搭建专属大模型。

工业和信息化部工业文化发展中心AI应用工作组执行组长、行行AI董事长李明顺在接受《每日经济新闻》记者采访时表示,Meta的Llama3的发布可能会带来更多AI应用落地机会和场景,它通过提供更大词汇量的Token词典、更长的输入上下文长度以及优化的模型结构,增强了模型的编码效率和推理效率。“现在,比起Llama 2,Llama3在代码能力和逻辑推理能力上有显著提升,这可能会促进相关AI应用的性能,尤其是在需要复杂逻辑和代码理解的场景中去落地。”

OpenAI在GPT-2之后调转船头走向闭源,Meta则成为开源界的引领者。


图片来源:视觉中国-VCG31N2008743681

从2020年发布GPT-3,到引发轰动的GPT-3.5,以及2023年3月发布的GPT-4,都是闭源模型。此前,马斯克起诉OpenAI时曾直言:“如果OpenAI改名为ClosedAI,我就撤销诉讼。”

李明顺认为,OpenAI的转变可能与其商业战略和市场定位有关。“初期开源有助于快速吸引关注和社区参与,但随着公司的发展,我估计奥特曼的野心和商业梦想越来越膨胀了,闭源可以更好地让它融资,包括和微软的合作,保护领先的技术优势。”他表示,从OpenAI的转变中也可以看出,开源与闭源的选择并非固定不变,而是需要根据公司战略目标、市场环境和产品发展阶段灵活调整。“天下没什么事情是绝对的,很多开源公司也是拿着次优代码开源,独家秘方闭源。”

在追逐AGI(人工通用智能)这颗明珠的道路上,迄今为止,Meta依旧持续沿着开源的路径前行。

2024年初,扎克伯格在Meta第四季度及2023全年财报电话会议上表示:“长期以来,我们的策略是构建并开放源代码通用基础设施,同时保留我们的具体产品实现为专有技术。”

他认为,开源带来了几个战略好处。首先,开源软件通常更加安全可靠,并且因为社区的持续反馈、审查和开发,更加高效。其次,开源软件经常成为行业标准,“当企业开始基于我们的技术栈建立标准时,这使得将新创新融入我们的产品变得更加容易。这种微妙的优势,能够迅速学习和改进,是巨大的竞争优势,而成为行业标准正是这一能力的关键”。第三,开源在开发者和研究人员中极受欢迎。

开源与闭源并不矛盾

开源还是闭源,也许是全球人工智能信徒长久的辩题。在Llama 3诞生前几天,国内同样在进行一场“辩论”。

4月11日,百度董事长兼首席执行官李彦宏在其内部讲话中直言,大模型开源的意义不大,闭源模型在能力上会持续领先,而不是一时领先,做模型的创业公司既做模型又做应用的“双轮驱动”不是一个好的模式。在一周后的Create 2024百度AI开发者大会上,李彦宏再度提到,“大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的,所以开源模型会越来越落后”。


图片来源:企业供图

360公司创始人周鸿祎则持不同的观点。“网上有些名人胡说八道,大家也别被他们忽悠,说开源不如闭源好。一句话,今天没有开源就没有Linux(

操作系统内核),没有Linux就没有互联网,就连说这话的公司自己都借助了开源的力量才成长到今天。”

这段发言被解读为对李彦宏观点的回怼,周鸿祎随后澄清道:“我一直是开源的信徒,但是我说开源好,是(4月)13号在哈佛讲的,李厂长(指李彦宏)说闭源好,是(4月)16号在北京讲的。”

生数科技联合创始人兼CEO唐家渝站在闭源的一边。在4月18日举行的“2024中国生成式AI大会”上,唐家渝谈到,开源带来的最大价值是生态的价值,基于技术不断突破,开源界人人都可以去贡献力量。而大模型需要大规模数据、大规模的算力去训练、迭代,参数量越大效果越好,是偏中心化的事情。“原来开源界非常有益的模式到这里割裂了。在我们看来,开源、闭源商业生态上都有各自可以做的商业生态,但是从模型能力的提升来说,或者持续走到前列来说,闭源还是会走到开源的前面。”

昆仑万维董事长方汉的观点是,开源模型与闭源模型之间的差距正在不断缩小。4月16日,方汉在接受《每日经济新闻》记者在内的媒体采访时表示:“闭源模型的确(是)第一,但是开源大模型的接近程度在2023年到今年这一年间,从落后两年以上,已经进化到落后4—6个月以上。”

此外,方汉认为,在应用侧,闭源对于产品特性和长尾需求的满足都落后于开源大模型,开源大模型是一种生态构建器,更利于满足用户的长尾需求。“我个人认为开源大模型和商业大模型是一个生态的组成部分,不是谁压倒谁,大家都有自己的生存空间,也都有更好的明天。”

不过,从商业化上来讲,闭源和开源也许并不矛盾。启明创投合伙人周志峰就认为,“开源闭源在过去几个大浪潮当中没有很大的冲突,我不太理解为什么很多人愿意把闭源、开源在AI时代看成对立”。但他也提到,从技术角度,开源模型及背后的公司更容易统一资源训练出符合“Scaling Laws”的模型。

李明顺的观点则是,在当前强应用导向的背景下,开源模式具有显著优势,能够吸引全球范围内最广泛的人参与,从而使其创新性保持在较高水平。相较之下,尽管一些闭源大型模型在技术上具有领先地位,但其成本太高。不过他也强调,开源与闭源在不同公司和应用场景中可以相互转换。一些基于开源的产品在发掘到独特优势后,可能会通过闭源策略建立竞争壁垒。同时,一些闭源公司也会不断将其部分产品开源。“这两个应该都是共存的,未来开源可能用户量级上更大,但是行业内,商业化做得比较好的公司,往往还是闭源的多一点。”

在开源与闭源的辩论中,也许答案并非非此即彼。AI的未来可能既不是完全开放的“自由港”,也不是彻底封闭的“孤岛”,而是一个既包含开放协作也包含封闭竞争的“混合生态”。在这个生态系统中,开放与封闭不是对立的两极,而是一枚硬币的两面。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
宫鲁鸣正式顶替姚明,广东队克星签约超级外援,孙铭徽碾压胡明轩

宫鲁鸣正式顶替姚明,广东队克星签约超级外援,孙铭徽碾压胡明轩

宗介说体育
2024-06-16 17:48:17
高僧说:在这世上,有4种人在临终前不生病受苦,安然离世福报大

高僧说:在这世上,有4种人在临终前不生病受苦,安然离世福报大

娱乐小可爱蛙
2024-06-13 16:38:36
没人敢模仿的10位网红,看他们挣钱,我是一点也不眼红

没人敢模仿的10位网红,看他们挣钱,我是一点也不眼红

音乐时光的娱乐
2024-06-14 19:14:02
感动!曝胡明轩降薪留在广东宏远,只为拿到总冠军

感动!曝胡明轩降薪留在广东宏远,只为拿到总冠军

祝晓塬
2024-06-16 23:23:04
英国教授:我始终想不明白,中国靠什么维系了数千年的文明大统一

英国教授:我始终想不明白,中国靠什么维系了数千年的文明大统一

蜉蝣说
2024-06-16 23:43:56
区委书记空缺,多人行贿百万竞争,秘书只送40万就当选,这是为何

区委书记空缺,多人行贿百万竞争,秘书只送40万就当选,这是为何

老黄有话
2023-10-25 08:00:12
收视率全国第一,《新闻联播》花24秒强推,央视这部黑马大剧炸了

收视率全国第一,《新闻联播》花24秒强推,央视这部黑马大剧炸了

糊咖娱乐
2024-06-12 11:39:56
外媒称中国不对等报复汽车产业,对欧盟换了打法,若实施将是噩梦

外媒称中国不对等报复汽车产业,对欧盟换了打法,若实施将是噩梦

说天说地说实事
2024-06-16 10:26:06
1-1斯洛文尼亚,丹麦队史欧洲杯首战4平5负,仅2012对荷兰取胜

1-1斯洛文尼亚,丹麦队史欧洲杯首战4平5负,仅2012对荷兰取胜

直播吧
2024-06-17 03:30:16
美国可能需要神舟飞船,从空间站救出星际客机人员,这次帮不帮?

美国可能需要神舟飞船,从空间站救出星际客机人员,这次帮不帮?

嘿哥哥科技
2024-06-16 18:03:12
一名美国签证官写给中国拒签者的信:我不会无故拒签一个人

一名美国签证官写给中国拒签者的信:我不会无故拒签一个人

小刀99
2024-06-13 20:24:25
特朗普放弃抵抗,美大选提前终结?奥斯汀罕见对华交底,果不简单

特朗普放弃抵抗,美大选提前终结?奥斯汀罕见对华交底,果不简单

全民历史观
2024-06-16 09:19:07
当了酒店前台才知道的秘密!网友:瓜太多,根本吃不过来!

当了酒店前台才知道的秘密!网友:瓜太多,根本吃不过来!

奇特短尾矮袋鼠
2024-06-14 10:56:00
军援俄罗斯

军援俄罗斯

求实处
2024-04-30 21:30:03
6月中旬属猴的人要小心了,可能会遇到重大挑战

6月中旬属猴的人要小心了,可能会遇到重大挑战

书中自有颜如玉
2024-06-16 19:43:20
妻子深夜与情人开房,激情时接到丈夫电话:我在跑步,你少管我

妻子深夜与情人开房,激情时接到丈夫电话:我在跑步,你少管我

第7情感
2024-06-16 14:04:46
“蓝营”参加海峡论坛大会,派出连胜文,换掉夏立言,为什么?

“蓝营”参加海峡论坛大会,派出连胜文,换掉夏立言,为什么?

乡野小珥
2024-06-16 17:21:00
辛酸!队友绝杀之后拜合拉木迅速捡球 这次他没敢庆祝

辛酸!队友绝杀之后拜合拉木迅速捡球 这次他没敢庆祝

球事百科吖
2024-06-16 12:02:51
A股:要有所准备,请重点关注两个消息,周一市场已到关键时刻!

A股:要有所准备,请重点关注两个消息,周一市场已到关键时刻!

兵哥闲聊
2024-06-16 19:21:42
太离谱了!《墨雨云间》追剧日历更新,竟然减更了,严重的剧缩力

太离谱了!《墨雨云间》追剧日历更新,竟然减更了,严重的剧缩力

娱乐寡姐
2024-06-16 21:08:06
2024-06-17 03:48:49
每日经济新闻
每日经济新闻
中国主流财经全媒体平台。
936438文章数 2698362关注度
往期回顾 全部

科技要闻

iPhone 16会杀死大模型APP吗?

头条要闻

冷藏货车违规乘人致8人窒息后遇难 河南叶县通报

头条要闻

冷藏货车违规乘人致8人窒息后遇难 河南叶县通报

体育要闻

没人永远年轻 但青春如此无敌还是离谱了些

娱乐要闻

上影节红毯:倪妮好松弛,娜扎吸睛

财经要闻

打断妻子多根肋骨 上市公司创始人被公诉

汽车要闻

售17.68万-21.68万元 极狐阿尔法S5正式上市

态度原创

手机
教育
健康
亲子
公开课

手机要闻

荣耀X60i入网:配置全面升级,能否满足你的所有期待?

教育要闻

北京高考阅卷进行中,语文已有多篇作文有望拿满分!

晚餐不吃or吃七分饱,哪种更减肥?

亲子要闻

玩这个游戏的都是勇士

公开课

近视只是视力差?小心并发症

无障碍浏览 进入关怀版