专访清华朱军：大模型“投毒”怎么防？技术法规社会三管齐下

从年初 Seedance2.0引爆行业变革，到“养龙虾”热潮引发的工作焦虑，再到“315大模型投毒”暴露的安全隐忧，人工智能正以前所未有的速度渗透进我们的生活。

在这一系列热点背后，一边是技术迭代日新月异，一边是安全治理迫在眉睫。

如何平衡技术创新的步伐与风险防控的力度，让AI这匹“马”跑得更稳、更远？新京报贝壳财经记者就此采访了清华大学人工智能研究院副院长、生数科技创始人朱军。

清华大学人工智能研究院副院长、生数科技创始人朱军。受访者供图

治理与发展两条腿走路，防范是为了更好发展

新京报贝壳财经：前段时间市场掀起一波“养龙虾”热潮，不少人担心自己的工作会被替代掉，你怎么看？

朱军：关于替代问题，大家讨论很多。随着AI的智能水平提升，这个想象空间太大了。几乎所有工作都可能会受到影响。从正向看，是促进；从反向看，会担心工作被代替，面临失业。

但我觉得，AI不是替代人，AI发展给我们提供了更好的工具，也会解放很多人力。过去我们很多想法受限于各种条件无法实现，今天如果打开思路，会让我们更有想象力、创造力，做更多工作。

从这个角度来看，我并不担忧替代问题。但更好的方式是，大家要拥抱、适应、学习、掌握人工智能技术，站上一个更高的平台。

新京报贝壳财经：当前各地都积极推出政策鼓励“养龙虾”，同时不少部门也在呼吁防风险，如何看待该现象？

朱军：我们国家做人工智能的规划是强调治理与发展并重，两条腿走路。

像“养龙虾”这种现象，是一个具体案例。一方面，我们看到技术快速进步确实给大家带来很多便利，在很多场景里，智能体能够直接解决很多工作。

但与此同时，在早期，系统、模型算法的安全问题可能还没有被深入关注。不过我相信，这个问题很快会被反复讨论，很多专家学者、产业从业者会一起分析这个问题，围绕“龙虾”的系统级安全防护软件或工具很快会出现，这是一个相互促进的过程。

总体来看，现在人工智能发展速度很快，整个行业还是以发展为主流，同时治理也要跟上，两者相辅相成。

AI如何重塑影视就业？每个人都能为自己打工

新京报贝壳财经：怎么看待未来几年AI从生成内容到理解世界、决策行动的演化路径？

朱军：可以从大模型发展的路径来做一些借鉴和判断。

语言模型从2018年前后起步，到标志性的ChatGPT广泛可用，大概用了5年时间，目前能力还在不断演进。

类似的，视频模型从Sora出现开始，我们很快做了第一个完全对标的模型，中间大概只差了两个月。到现在算下来，视频模型的发展还不到两年，但迭代速度非常快，甚至比语言模型更快，已经到了可用和大规模商用的阶段。

这说明，现在的智能模型，只要数据架构摆好、条件具备，后面的迭代速度会非常快。从这个角度来看，我相信在具身智能的基础模型上，速度也会非常快，可能未来一两年就能达到一个非常高的水平。

在这个过程中，相比于语言或视频，数据可能是一个关键变量。在机器人领域，采集数据的效率和规模可能会慢一些。但我们很大程度上可以依赖视频数据，这恰恰能解决数据来源的问题。所以我们相信，具身基模后面的迭代速度，可能不输于视频模型。

新京报贝壳财经：这个过程中会催生出哪些新的产业和机会？

朱军：未来的想象空间非常大。

直接的层面，已经有很多数据素材的岗位在快速铺开。另外，走向物理世界也创造了很多机会，不管是做硬件、做软件，还是软硬协同，都会有大量的工作机会。

在数字内容领域，我们看到了很多“一人公司”。现在单个人就可以做一个过去一个工作室才能做的事情——一个人完成导演、编剧、做内容、变现。

随着技术进展，会出现很多新的职位和新的行业。人的适应性非常强。从过去历次技术变革中，我们并没有因此少了岗位，反而有更多机会，甚至将来每个人都可能为自己打工，不需要集中在一家公司。一个人根据自己的想法，就可以做最有特色、最精品的服务，那时候大家可能有更多时间规划自己的理想和路径。

这会越来越“平权”。随着人工智能的强大，过去看似很高深的技术会走向我们每个人身边。每个人都可以用AI表达创意，或者让机器人帮我们完成工作。比如今年特别火的数字空间里的智能体，它就在帮我们从过去的问答交流，转向帮我们干活、解决日常工作。这也体现了随着基模能力提升，它给了我们更多的空间和机会，让过去很难做到的事情，现在通过个人努力也能实现。

新京报贝壳财经：很多平台已经把真人短剧砍掉，全力押注AI短剧。这种颠覆性变化会给影视、广告、游戏等内容行业带来哪些生产上的变革？

朱军：人工智能的影响涉及很多方面，可能最直接的就是作为生产力工具，给大家增效、降本，让过去很难做到的事情，现在能够用相对可控的、低风险的方式实现。

影视行业本身是高投入、高风险行业，每部剧、每部电影要投入大量资源，且上映效果难以预测。从内容供给侧来看，现在每年真正生产的剧还比较有限，AI可以使得影视制作成本更低、周期更快，将来有可能会有更多高质量内容生产出来。

从消费侧的话，现在的消费还是“接受式”的——内容做出来之后，很多人去看。但根据我们预测，未来可能是沉浸式或交互式的观看。随着技术的进一步进展，它可能会进一步解锁，会有很强的代入感，让观众不断去参与到剧情里面，甚至去参演，让消费者变成影视里面的某个角色。这些都是未来可以去畅想的一些形式。

大模型“投毒”怎么防？技术法规社会三管齐下

新京报贝壳财经：怎么看待市场热议的大模型“投毒”现象？后续如何监管和治理？

朱军：数据“投毒”问题比较常见。从防范角度，可能有几层：技术侧，在模型训练和推理过程中，服务提供方要有防范意识和举措，避免恶意数据的影响，或是被有目的、有目标地影响数据。

法律法规方面，伴随着大模型被“投毒”的显性化，可能很快会出台治理办法，对相应的黑灰产进行治理。这在金融领域比较常见，大家会通过各种手段防范。

社会层面，我觉得更多是让公众意识到这个问题，多向监管方反馈，提供更多素材。

新京报贝壳财经：很多人认为未来可能是人与智能体，甚至是智能体与智能体协作的时代。怎么看待这一发展趋势？

朱军：智能体，从人工智能角度出发，我们还是定位成辅助人来做一些事情。从这个角度看，智能体是一种常见形态。在AI领域，很早就有了Agent这个术语，现在只是把它做得越来越具象，走向每个人身边。这是一个必然过程。

未来它总体上是在辅助人，是人机协同。但关键决策还是要由人掌握，人在整个决策环路里来做最终把控。

新京报贝壳财经：目前国家大力推进“东数西算”工程，当前工程落地中最需要解决的问题是什么？如何让算力真正成为数字经济的公共基础设施？

朱军：国产算力现在发展很快。我们看到很多家企业，包括上市公司，频繁推出产品，进展很快。国家也很支持，“东数西算”布局建了很多智算中心，有大量算力。

我觉得下一步关键是要把算力更好地和生态融合，让应用和算力深入结合，充分发挥国产算力性能。从行业实践看，现在有算力的话，使用门槛还比较高，因为涉及专门适配、硬件优化，很多需要专业团队持续支撑。

未来我们希望能够有更好的生态。比如，我作为使用者，遇到问题时可能在社区里就能直接找到答案，不需要算力方专门派人服务。因为用户非常庞大，不可能一个个单点支撑。更好的方式是借用生态力量，大家一起共建，这样融合落地的速度会进一步加快。

新京报贝壳财经记者 胡萌 罗亦丹 编辑 陈莉 校对 杨利