网易首页 > 网易号 > 正文 申请入驻

CIO如何纠正AI继承的人类偏见?

0
分享至


尽管AI可以是一个强大的工具,但它也可能受到开发其算法的开发者以及输入信息并调整提示词的用户所带有的人类偏见的困扰。这意味着CIO和其他C级技术领导者有责任确保团队成员理解他们的偏见和偏好可能带来的风险。

AI转型和智能体AI实施公司VarOps的首席技术官Ran Aroussi表示,尽管AI诞生于代码,但人类偏见确实存在于AI之中。"AI系统是根据被记录下来的内容进行推理的,而被记录下来的内容通常并不中立,"他说。

例如,高层领导的指示在团队于公司聊天群组中记录或讨论这些决策时,可能会变得模糊、被错误记忆或被误解。

"系统继承了所有这些内容,然后以自信的态度做出回答,仿佛它看到了整个公司的全貌,"他说。

网络安全公司Infoblox的CIO Justin Kappers表示,由于AI系统从人类数据和人类决策中学习,它继承了人类的盲点。

"这个问题无法通过一次性的偏见审查来解决,"他说。

在Infoblox,每一个具有重大影响的AI辅助决策都有指定的业务负责人,随着自主性的提高,监督力度也随之加强。例如,一个用于总结文档的工具只需要轻量级的审查。另一方面,一个影响决策的AI智能体,比如处理金融交易,则需要人工批准,Kappers说。

"我们可能忽视的一点是,繁忙的团队往往会信任一个自信的AI答案——我们需要通过在流程中融入人类判断来防范这种偏见,"他说。

人类偏见是一个根深蒂固的问题

AI与IT咨询公司Stefanini Group的首席技术官Fábio Caversan表示,AI人类偏见十分普遍,因为大语言模型和AI系统是在历史人类数据集上进行训练的,这些数据集来自人类生成的数据、人类设计的目标以及人类定义的流程。

"它们本质上是人类文化的一面镜子,捕捉着我们的制度假设、隐性偏好和历史盲点,"他说。

Caversan指出,偏见检测需要端到端的遥测数据,并配合持续的行为审查。"最有效的策略是将技术测试与运营监控及人工审查相结合,"他说。

他还建议,组织应在部署AI系统之前进行评估,部署后也应持续评估,因为数据、用户、提示词和业务条件都会发生变化。

减少偏见的步骤

ECG Management Consultants的CIO兼首席数字信息官Nate McCarthy表示,建立强有力的流程至关重要,尤其是在治理和控制方面。"要对员工进行偏见方面的教育,招募具有正确心态、态度和能力的人才,并理解以人为本的设计理念,"他说。

McCarthy表示,下一步应该是审视AI技术在组织内部是如何被看待的。"你在构建AI的同时,也要在AI中嵌入缓解偏见风险的方法,并在偏见朝错误方向发展时进行干预,"他说。

这种方法也有助于在文化和员工层面,无论是对人类还是非人类,都减少偏见。"然后,你可以通过与AI和IT团队进行学习、开发、模拟和治理检查,把这一切都落到实处。"

Caversan强调了员工教育的重要性。

"组织应确保员工知道如何从他们已经拥有的AI中发挥更多价值,而不是不断追逐下一个新模型,"他说。他补充道,更好的提示词设计、更清晰的任务定义和更强的验证机制,往往比单纯更换模型能产生更多价值。

Caversan表示,当工程师和业务用户学会如何设计高度具体的提示词、建立清晰的护栏并对中端模型进行压力测试时,他们就能更敏锐地发现输出结果中细微的变化和偏见。

AI偏见的根源

最大的错误是将AI偏见视为一次性的模型问题,而不是一个持续存在的系统和治理问题。"CIO不能仅仅将AI偏见视为可以通过购买更好的模型或安装一个一体化工具来解决的软件工程问题,"Caversan说。

CIO中存在一种倾向,即认为更换模型或添加静态过滤器可以弥补人类治理的缺失,但这可能并不足够。Caversan警告说,在不培训员工持续进行判断、也不让人类操作者承担责任的情况下增加新的复杂性,只会加速低效并掩盖潜在风险。他补充道,AI偏见真正的根源在于人类背景、数据质量和运营设计。

Caversan表示,归根结底,AI偏见是一个领导力和系统工程问题。"组织不应等到有了完美的治理框架或完美的AI防护机制才行动,"他说,"他们应该现在就建立切实可行的控制措施。"

他说,这包括机器身份管理、最小权限原则、隔离机制、端到端追踪、人工检查点、持续测试以及可靠的关闭机制。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
苹果立大功!研究发现:苹果可能对这4种慢性病有好处!可以常吃

苹果立大功!研究发现:苹果可能对这4种慢性病有好处!可以常吃

侯医生谈健康
2026-11-22 05:00:03
要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

要是朱标没死,朱棣敢不敢造反?这么说吧,朱标活着的话,能一个人晃晃悠悠走进燕王府,把朱棣拽出来,正手反手就是10个大巴掌

磊子讲史
2026-11-17 12:10:42
我姐在银行干活,2023年忽悠我买了100克金条保值,485块一克,扔进去四万八,今年金价窜到800多,拿去卖的时候傻眼了...

我姐在银行干活,2023年忽悠我买了100克金条保值,485块一克,扔进去四万八,今年金价窜到800多,拿去卖的时候傻眼了...

财经要参
2026-11-03 12:00:06
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

中国未来最大敌人,不是特朗普,而是即将手握万亿美元的马斯克

麓谷隐士
2026-11-22 00:05:04
又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

人生录
2026-11-02 09:08:26
华为星芒首款手机价格公布,这价格烧心了,把大家看傻了

华为星芒首款手机价格公布,这价格烧心了,把大家看傻了

辣条小剧场
2026-11-21 03:04:20
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
他害得多少家庭支离破碎,却落个寿终正寝下场,弥留之际哀嚎成真

他害得多少家庭支离破碎,却落个寿终正寝下场,弥留之际哀嚎成真

小豫讲故事
2026-11-22 06:00:18
韩国都比日本强,高市来华参加APEC,日媒到底在期待什么?

韩国都比日本强,高市来华参加APEC,日媒到底在期待什么?

大又元
2026-11-21 19:09:16
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
一日夫妻百日恩!李亚鹏没想到,离婚13年,王菲母女竟然为他争光

一日夫妻百日恩!李亚鹏没想到,离婚13年,王菲母女竟然为他争光

枫尘余往逝
2026-11-21 12:32:42
无期限禁赛!他因一句话!闯下大祸!

无期限禁赛!他因一句话!闯下大祸!

柚子说球
2026-11-22 18:59:05
多部门介入“母子衣衫不整”事件!

多部门介入“母子衣衫不整”事件!

新动察
2026-10-16 11:00:05
看雍正这份奏折的朱批:无廉无耻烂小人,真不愧是你爹的亲儿子!网友:被气死的!

看雍正这份奏折的朱批:无廉无耻烂小人,真不愧是你爹的亲儿子!网友:被气死的!

书画博学
2026-11-22 10:27:44
男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

男子破产12年送外卖养家,这天竟收1200万汇款,追到汇款方后却傻眼

温情邮局
2025-08-22 11:56:14
美媒评开季最佳阵容:一阵5人无悬念,SGA跌至二阵,弗拉格三阵

美媒评开季最佳阵容:一阵5人无悬念,SGA跌至二阵,弗拉格三阵

老郎体育汇
2026-11-22 14:40:36
1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

房产衫哥
2026-11-18 08:09:34
演员余文乐公布病情

演员余文乐公布病情

情感大头说说
2026-11-22 12:26:14
CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

CBA再成笑话!辽宁未踩线被判出界,鄢手骐震惊,韩德君抗议被怼

篮球资讯达人
2026-11-22 12:07:09
2026-11-22 19:47:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23594文章数 49740关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
教育
亲子
本地
公开课

艺术要闻

世界十大著名宫殿盘点:中国独占两席

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版