网易首页 > 网易号 > 正文 申请入驻

天津大学教授熊德意:大模型行为与人类价值观对齐仍面临挑战

0
分享至

11月14日,大模型 大未来——2025年大模型应用场景交流全国行·深圳站暨大模型数据要素建设行活动在深圳举办。

天津大学计算机科学与技术学院教授、深圳河套学院双聘教授、天津大学“语言智能与技术”中外联合研究中心主任熊德意以《推进人工智能大模型与计算政治学:结合范式与初步探索》为主题进行分享。他表示,自然科学研究已进入人工智能驱动的“第五范式”,社会科学领域同样迎来范式变革,人工智能与社会科学研究正实现双向融合。

人工智能大模型正以前所未有的速度渗透到社会生活的方方面面,但是,大语言模型也可能传播其训练数据中的有害信息,产生误导性和虚假性信息。熊德意直言,大模型存在文化价值偏见,已有多元价值对齐方法依赖于外部的文化数据,这耗费大量人力物力,且对于低资源文化的数据收集非常困难。

熊德意举例在外交智能体框架下,模拟智囊团决策过程,大模型在伦理与道德义务 - 利益二元对齐差异显著。左侧模型在面对伦理困境时显得更为坚守道德义务;但右侧模型倾向于选择有利的决策,即使严重违反伦理原则,违背人类普遍道德。整体上看,模型在决策中偏向维护强国立场,而忽视弱国立场。

在人工智能特别是大模型的研究领域,如何使大模型的行为与人类价值观对齐,是当前技术发展的核心问题和重要挑战之一。这一问题的解决不仅关乎技术本身的创新与完善,也对社会责任、伦理规范以及人工智能与人类社会的深度融合具有重要意义。

红星新闻记者 李伟铭

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
薇娅找了个好老公,东南亚的生意做大了,一年入账 34 亿

薇娅找了个好老公,东南亚的生意做大了,一年入账 34 亿

起点财经
2026-11-17 08:46:25
琥珀王座!波兰总统偷摸给特朗普送厚礼引发争议

琥珀王座!波兰总统偷摸给特朗普送厚礼引发争议

俄语大世界
2026-11-19 08:04:25
崩溃!退役吧,被主教练点名,真打不了NBA……

崩溃!退役吧,被主教练点名,真打不了NBA……

体育新角度
2026-11-18 14:49:51
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
又一国宣布:加息!金价,重挫!

又一国宣布:加息!金价,重挫!

证券时报
2026-11-18 17:28:04
宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

迪迪的娱乐故事
2026-11-07 08:36:34
截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

快科技
2026-11-18 07:23:03
西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

西班牙U17主帅:中国队很危险,他们在亚洲取得了很好的成绩

懂球帝
2026-11-18 13:23:42
同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

爱下厨的阿酾
2026-11-18 03:37:45
大风追踪|11岁男孩患白血病去世,重医儿童医院被判赔54万余元,医院不服终审判决申请再审遭驳回

大风追踪|11岁男孩患白血病去世,重医儿童医院被判赔54万余元,医院不服终审判决申请再审遭驳回

大风新闻
2026-11-18 20:01:05
俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

环球网资讯
2026-11-18 11:06:11
没有国家队后勤托底,方博自费参赛拿下WTT冠军!在他直播间,我默默下了一单袜子,微薄支持!

没有国家队后勤托底,方博自费参赛拿下WTT冠军!在他直播间,我默默下了一单袜子,微薄支持!

开成运动会
2026-11-18 23:51:12
牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

历史的烟火
2026-08-14 15:48:04
已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

DS北风
2026-11-18 16:26:03
文班亚马谈哈珀受伤:这种感觉太糟糕了 我只希望他没事

文班亚马谈哈珀受伤:这种感觉太糟糕了 我只希望他没事

北青网-北京青年报
2026-11-19 08:15:02
“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

“寝室没一个面相正常的”,女生宿舍跳舞视频走红,精气神儿却输了:滤镜下的那张脸,和一群断了线的风筝

蝴蝶花雨话教育
2026-11-17 00:05:18
黄金大跌!高盛却做出一个大胆的未来预测

黄金大跌!高盛却做出一个大胆的未来预测

上观新闻
2026-11-18 15:32:31
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
广西鼓励探索每月一周2.5天弹性休假,中小学春秋各安排2至4天“春秋假”

广西鼓励探索每月一周2.5天弹性休假,中小学春秋各安排2至4天“春秋假”

上观新闻
2026-11-18 18:09:30
75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

磊子讲史
2025-07-07 12:41:11
2026-11-19 08:52:49
红星新闻 incentive-icons
红星新闻
成都传媒集团旗下的新媒体平台
217802文章数 1348308关注度
往期回顾 全部

科技要闻

刘炽平回应AI烧钱:不指望几周内就看到回报

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

头条要闻

牛弹琴:黄仁勋事件越来越荒诞了 马斯克都笑哭了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

北京环球影城,亏损难题待解

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

家居
房产
旅游
游戏
本地

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

周大生出手!海棠湾又一大商业体来了

旅游要闻

游客称“民宿1600元订烤全羊剥不出一两肉”,当地通报:疑似存在缺斤少两问题,该民宿店内未公示菜品价格

《GTA6》港服正式解锁!杨奇:无心劳作 度秒如年

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版