网易首页 > 网易号 > 正文 申请入驻

为AI幻觉、沉迷乱象支招!首个AI应用伦理安全指引发布

0
分享至


让AI帮忙订机票却被幻觉所“骗”,受被“投毒”过的AI推荐购买虚假口碑产品,沉迷于与AI聊天逃避现实生活……近年来人工智能不断加速发展,深刻地改变社会运行及个人生活方式的同时,也带来许多伦理安全挑战。针对AI应用乱象,近日全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引1.0》(下称《指引》),进一步为完善我国人工智能安全治理体系“添砖加瓦”。

南都记者注意到,《指引》起草单位包括清华大学、中国电子技术标准化研究院、上海交通大学、四川大学、北京科技大学、阿里巴巴集团、华为技术有限公司、北京深度求索人工智能基础技术研究有限公司等。该文件性质上为原则性、参考性技术文件,通过提出人工智能应用伦理安全理念与原则,为组织和个人开展人工智能应用活动提供指导等。

《指引》认为,人工智能应用伦理安全影响主要包括六类。从群体层面看,当人工智能行为超出人类所预设、理解和可控的范围,在对人工智能应用关键节点的监督、干预与纠偏不足时,可能冲击人类在社会运行和治理过程中的主导地位。从社会层面看,当人工智能应用于社会运行和行为决策,在技术快速演化而社会回馈相对缓慢的情况下,可能影响行为规范、市场秩序与社会信任,最终对社会基础公共秩序带来冲击。从个人层面看,人工智能普遍应用形成的新社会环境可能对个体认知与社会价值体系带来冲击,产生人类过度依赖、个体与现实社会脱节等问题。

《指引》从应用开发、服务提供、应用使用三个层面给出安全指引。针对公众感知度较高的AI“幻觉”问题,文件提出应理性认知人工智能应用的技术能力边界与潜力,对缺乏依据或者存在较大不确定性的输出作出必要管控以及提示说明。另外要打破AI技术“黑箱”,在技术可行、符合业界普遍技术水平的前提下,提高开发过程透明度,结合人工智能应用场景和影响程度等方面,制定并提供安全配置、安全部署的操作指南,及时、准确、完整对外说明人工智能应用的功能、局限、安全风险和可能的影响。

在服务提供过程中,《指引》强调,应提供符合科技伦理审查要求的产品或应用,加强人工智能应用全生命周期的跟踪审查。服务涉及国家安全、社会公共权益、组织和个人重大生命财产安全时,人工智能宜仅承担辅助决策作用、不提供直接决策依据。在设置应急处置机制方面,应持续监控服务运行过程,主动识别发现伦理安全风险,及时处置伦理安全问题,确保合法合规应用,必要时采取人工紧急干预、中止应用等手段。

AI发展为生活带来了极大便利,也对人们的科技认知及素养提出了更高要求。《指引》提出正确认知人工智能,学习人工智能伦理安全基本知识,增强对虚假、错误、误导性内容的识别能力,增强对人工智能相关物理安全风险、决策安全风险的认识,形成理性、审慎的使用习惯。同时,不借助人工智能对他人进行误导、骚扰、操纵,不利用人工智能伪造、冒用他人身份或仿冒权威主体等。在使用以人工智能作为辅助真实生活的工具时,避免过度依赖、过度沉迷,避免通过人工智能过多替代现实交往与真实活动。

中国电子技术标准化研究院副院长范科峰撰文提到,《指引》将伦理安全原则进一步转化为开发有遵循、服务有规范、使用有边界的应用指引。此举既有利于推动相关主体在各自环节履行相应责任,也有利于促进应用开发、服务提供和应用使用之间形成衔接配合。未来建议以《指引》发布实施为契机,围绕重点行业、场景和主体,持续完善配套标准、实践指南、评估方法和典型案例等。

采写:南都N视频记者 樊文扬

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

墨兰史书
2026-11-20 22:10:04
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

战友老邓
2026-11-20 12:37:32
阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

互联网大观
2026-11-20 13:49:45
陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

妙妙奇思物语
2026-11-20 14:58:41
西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

都市快报橙柿互动
2026-11-20 09:37:46
全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

可达鸭面面观
2026-11-19 21:51:59
武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

极目新闻
2026-11-20 15:01:38
半场0-2!中国U17右路“被强吃”,西班牙队太强大,身体处于劣势

半场0-2!中国U17右路“被强吃”,西班牙队太强大,身体处于劣势

汪星人哟
2026-11-20 22:50:26
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

红星新闻
2026-11-20 15:33:23
王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

娱乐团长
2026-11-18 13:17:46
2026-11-20 23:52:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644558文章数 3591448关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
本地
亲子
教育
房产

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

宝宝气人但是聪明的4个行为

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

房产要闻

6.6亿!海口卖地!

无障碍浏览 进入关怀版