智源评测了100多个大模型：头部模型接近国际一流，但还存在“偏科”

2024年的国内大模型厂商在完成对OpenAI的技术祛魅后，借助开源平台，密集发布大模型产品，同时自带"打榜"动作，证明自身技术实力。

在智源研究院院长王仲远看来，目前大模型行业百花齐放的同时，也面临良莠不齐的问题，"我自身作为AI研究者，有时也分不清楚到底哪个强哪个弱。"王仲远称。

另外，目前绝大部分的评测都是"开卷考"，根据已有题库针对性训练相应能力，最终暂时得出高于同行的测试结果。这带来的主要问题就是厂商直接开卷刷题，使得"打榜"行为无法客观公正地反映大模型之间的技术差距。

5月17日，智源研究院对外推出智源评测体系，发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。2018年11月14日，在科技部和北京市委市政府的指导和支持下，依托北京大学、清华大学、中国科学院、百度、小米、字节跳动等北京人工智能领域优势单位，共建了新型研究机构北京智源人工智能研究院。

本次智源评测使用20余个数据集、超8万道考题，其中，主观题4000余道，均来源于自建原创未公开并保持高频迭代的主观评测集，严格校准打分标准，采取多人独立匿名评分、严格质检与抽检相结合的管理机制，降低主观偏差的影响。

智源分别从主观、客观两个维度考察了语言模型的简单理解、知识运用、推理能力、数学能力、代码能力、任务解决、安全与价值观七大能力，针对多模态模型主要评估了多模态理解和生成能力。评测结果显示，在中文语境下，国内头部语言模型的综合表现已接近国际一流水平，但仍存在着能力发展不均衡的情况。例如在多模态理解图文问答任务上，开闭源模型平分秋色，国产模型表现突出。

目前行业内，关于开源还是闭源大模型技术实力更强的讨论是热点之一，对此，采访中，智源人工智能研究院副院长兼总工程师林咏华对第一财经记者表示，到底开源好还是闭源好这个问题目前没有一个定论，因为很难保证闭源模型背后到底是一个模型还是多个模型，甚至可能背后的模型还连接着检索。

另外评测结果显示，国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上，对比各家公布的演示视频长度和质量，Sora有明显优势，其他开放评测的文生视频模型中，国产模型PixVerse表现优异。

由于安全与价值观对齐是模型产业落地的关键，但海外模型与国内模型在该维度存在差异，因此语言模型主客观评测的总体排名不计入该单项分数。语言模型主观评测结果显示，在中文语境下，字节跳动豆包Skylark2、OpenAI GPT-4位居第一、第二，国产大模型更懂中国用户。在语言模型客观评测中，OpenAI GPT-4、百川智能Baichuan3位列第一、第二。百度文心一言4.0、智谱华章GLM-4和月之暗面Kimi均进入语言模型主客观评测前五。

多模态理解模型客观评测结果显示，图文问答方面，阿里巴巴通义Qwen-vl-max与上海人工智能实验室InternVL-Chat-V1.5先后领先于OpenAI GPT-4，LLaVA-Next-Yi-34B和上海人工智能实验室Intern-XComposer2-VL-7B紧随其后。

多模态生成模型文生图评测结果显示，OpenAI DALL-E3位列第一，智谱华章CogView3、Meta-Imagine分居第二、第三，百度文心一格、字节跳动doubao-Image次之。多模态生成模型文生视频评测结果显示，OpenAI Sora、Runway、爱诗科技PixVerse、Pika、腾讯VideoCrafter-V2位列前五。

当前，大模型的发展具备了通用性，在逻辑推理能力上有显著提升，日趋接近人脑的特征。因此，在海淀区教委支持下，智源研究院联合与海淀区教师进修学校对齐学生测验方式，考察大模型与人类学生的学科水平差异。智源评测发现，模型在综合学科能力上与海淀学生平均水平仍有差距，普遍存在文强理弱的情况，并且对图表的理解能力不足，大模型未来有很大的提升空间。

北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出，在语文、历史等人文学科的考试中，模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时，模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题，模型反而更擅长复杂的英语题。解理科题目时，模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时，模型依然存在明显的"幻觉"。

中国传媒大学智能媒体计算实验室负责人史萍教授表示，相较文本，视频的主观评价复杂度极高。自动化指标无法完全捕捉模型生成的质量，更无法对生成视频的真实性、图文语义一致性等进行量化。因此，需要系统化构建针对文生视频模型的主观评价体系。

就整个大模型行业而言，不再"打榜"、启动价格战成为新的趋势。火山引擎总裁谭待表示，"今年行业不再比拼参数规模了，因为大家都‘悟’了。"

对此，王仲远对第一财经记者表示，未来大模型行业会向两个方向发展：顶尖大模型继续追求AGI目标，但这也会带来算力、数据等方面的消耗。因此另一波从业者会去追求改变行业与产业的落地机会，尽可能地降低成本。所以最近各大厂商在发布大模型产品的同时开始"卷"单价了。

在王仲远看来，降价对推动产业化进步会带来促进作用，利于厂商尽快地占领市场，再进行下一步动作的布局，但目前的大模型能力也在快速提升过程中，远未达到天花板的程度。如果产品价格低于实际成本，有可能会扰乱整个市场。