网易首页 > 网易号 > 正文 申请入驻

算法中立是个谎言:1行代码里藏着谁的三观?

0
分享至

全球每天有超过50亿条搜索请求、数万亿次内容推荐,背后都站着一个被刻意隐藏的假设——机器没有立场。这个假设正在批量制造我们看不见的伤害。

「技术中立」是最成功的营销话术

我们从小被灌输一个画面:代码像数学公式一样纯净,数据像矿石一样客观。搜索引擎只是图书馆,社交推荐只是水管,信用评分只是计算器。出问题了?那肯定是数据脏了,跟设计它的人没关系。

这套叙事的美妙之处在于责任蒸发。Facebook可以把 polarization(极化内容)归咎于用户行为,Uber能把司机困境甩给市场供需,招聘平台可以说算法只是"反映现实"——仿佛这些系统是从石头缝里蹦出来的。

每行代码都是一次价值拍卖

举个具体的例子。2018年亚马逊被迫放弃一个内部招聘工具,因为它持续给女性工程师简历打低分。技术团队最初的辩解很典型:算法只是学习了历史数据,历史数据里男性工程师更多,所以结果"客观"反映了现实。

但设计这个系统时,有人决定了用"过去10年 hires"作为训练集,而不是"过去10年 applicants"。有人决定了把"包含女子学院"作为降权信号,而不是"包含体育特长"。有人决定了优化目标是"降低离职率"而非"提升团队多样性"。

这些不是技术决策,是价值观拍卖——而且拍卖会上只有工程师的声音。

数据不是矿石,是化石

原始内容里有个精准的判断:Every data set is a historical artifact(每个数据集都是历史文物)。翻译一下:数据里封存着过去谁被看见、谁被忽视的权力结构。

美国医疗算法曾系统性地低估黑人患者的健康风险,因为系统用"历史医疗支出"替代"实际病情"作为指标。历史支出低?那说明病情不重。但历史支出低的真实原因是黑人社区医疗资源匮乏。算法把结构性歧视编码进了未来。

更隐蔽的是推荐系统的"中立性"。YouTube的推荐引擎被设计为最大化观看时长,这个指标看起来人畜无害。但MIT媒体实验室的研究发现,极端内容天然更能留住注意力——于是系统学会了把用户往 rabbit hole(信息茧房)里推,而且推得越来越快。

没人写代码说"推荐阴谋论"。但有人写了代码说"优化 engagement(用户参与度)",然后假装不知道 engagement 和 outrage(愤怒情绪)的换算公式。

谁在写未来的操作系统?

全球市值前十的公司里,七家的核心资产是算法基础设施。它们正在以"中立平台"的身份,悄悄把特定的时间观、注意力分配方式、甚至人际关系模型,浇筑进几十亿人的日常。

这不是阴谋论,是架构问题。当你打开外卖软件,是"最近30分钟送达"优先,还是"骑手权益保障"优先?当短视频排序,是"完播率"权重高,还是"信息价值"权重高?每个默认选项都是一次立法,只是立法者从不露面。

原文抛出的问题值得贴在每个产品经理的工位上:whose values are being codified into the infrastructure of our future?

翻译过来就是:我们正在用谁的价值观,给下一代人编写操作系统的底层代码?

这个问题没有标准答案,但沉默本身就是答案的一种。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
两分钟内连震两次,中国地震台网:四川内江市资中县发生3.9地震

两分钟内连震两次,中国地震台网:四川内江市资中县发生3.9地震

环球网资讯
2026-04-13 17:20:19
河南小伙在非洲16年,当地一夫多妻制,男人只用玩,女人挣钱养家

河南小伙在非洲16年,当地一夫多妻制,男人只用玩,女人挣钱养家

北纬的咖啡豆
2026-04-12 16:48:09
白发终于有救!上海交大ACS Nano:新方法激活毛囊,一朝“返黑”!

白发终于有救!上海交大ACS Nano:新方法激活毛囊,一朝“返黑”!

高分子科学前沿
2026-04-11 15:45:37
涨粉78万!刘雨鑫带火莫氏鸡煲后全身而退,赢麻了

涨粉78万!刘雨鑫带火莫氏鸡煲后全身而退,赢麻了

雷科技
2026-04-13 16:15:35
你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

夜深爱杂谈
2026-02-21 21:37:02
谈崩了!特朗普对华施压,禁止中伊签协议,话音刚落中国邻国出兵

谈崩了!特朗普对华施压,禁止中伊签协议,话音刚落中国邻国出兵

伴史缘
2026-04-13 19:39:28
特朗普刚下令封海,巴铁反手打通伊朗走廊,凭啥让美伊沙同时道谢

特朗普刚下令封海,巴铁反手打通伊朗走廊,凭啥让美伊沙同时道谢

环球格局观
2026-04-13 22:04:13
中共中央批准,开除江敦涛党籍

中共中央批准,开除江敦涛党籍

新京报
2026-04-13 11:34:10
女子发现老公指甲发紫,让他去医院被怼“吃饱没事干”,几天后老公突然背痛、胸痛被120拉走,高度怀疑是心梗,医生回应

女子发现老公指甲发紫,让他去医院被怼“吃饱没事干”,几天后老公突然背痛、胸痛被120拉走,高度怀疑是心梗,医生回应

大象新闻
2026-04-13 19:45:28
恒大集团退薪

恒大集团退薪

新浪财经
2026-04-12 10:31:26
赛力斯滑轨马桶专利获批,隐藏在座椅下方,使用时可拉出应急,网友:以后车里连厕所都有了,还去啥服务区?

赛力斯滑轨马桶专利获批,隐藏在座椅下方,使用时可拉出应急,网友:以后车里连厕所都有了,还去啥服务区?

观威海
2026-04-12 13:08:02
特朗普“反封锁”伊朗,油价先High了,但交易员不信能落地

特朗普“反封锁”伊朗,油价先High了,但交易员不信能落地

华尔街见闻官方
2026-04-13 21:02:35
协议即将达成,28国联手对付中国,名单公开,没一个善茬

协议即将达成,28国联手对付中国,名单公开,没一个善茬

娱乐的宅急便
2026-04-12 18:09:49
韩国为啥给人吃不起肉的感觉?网友:韩国人均吃肉比中国多

韩国为啥给人吃不起肉的感觉?网友:韩国人均吃肉比中国多

带你感受人间冷暖
2026-04-12 00:15:10
重庆市政府原党组成员、副市长江敦涛严重违纪违法被开除党籍和公职

重庆市政府原党组成员、副市长江敦涛严重违纪违法被开除党籍和公职

界面新闻
2026-04-13 11:01:37
美国这一招,够狠够损也够蠢

美国这一招,够狠够损也够蠢

牛弹琴
2026-04-13 07:56:11
破案!阵容越破广东战绩却越好原因找到,和队里1人不在关系很大

破案!阵容越破广东战绩却越好原因找到,和队里1人不在关系很大

后仰大风车
2026-04-13 08:15:13
贵州茅台总经理王莉被带走调查?公司回应:系外出学习两个月,将于5月初返回

贵州茅台总经理王莉被带走调查?公司回应:系外出学习两个月,将于5月初返回

封面新闻
2026-04-13 19:59:04
连谈21小时,美伊不欢而散,特朗普:特朗普:中国不许送武器,否则有麻烦

连谈21小时,美伊不欢而散,特朗普:特朗普:中国不许送武器,否则有麻烦

闻识
2026-04-12 13:53:31
特朗普,最新发声!美伊,大消息!美股拉升,原油巨震

特朗普,最新发声!美伊,大消息!美股拉升,原油巨震

证券时报e公司
2026-04-13 22:45:50
2026-04-13 23:12:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
1378文章数 9关注度
往期回顾 全部

科技要闻

"抄作业"近四年,马斯克版微信周五上线

头条要闻

媒体:欧尔班败选不仅是一国之事 牵扯到与中国的关系

头条要闻

媒体:欧尔班败选不仅是一国之事 牵扯到与中国的关系

体育要闻

一支球队不够烂,也是一种悲哀

娱乐要闻

初代“跑男团”合体,邓超、鹿晗缺席

财经要闻

谈判未完全关闭?3国力促美伊重启谈判

汽车要闻

不止命名更纯粹 领克10/10+要做纯电操控新王

态度原创

亲子
艺术
家居
旅游
公开课

亲子要闻

丈母娘干啥女婿感动要流泪?龙宝拍手夸姥姥,亲子互动笑的真开心

艺术要闻

22位中国当代名家油画作品

家居要闻

复古风格 自然简约

旅游要闻

看见古村|贵州尧上古寨:古村新姿,山水人文载乡愁

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版