"算法单一化"的影响取决于具体细节

AI 工具正日益取代人类判断，应用于许多场景。例如，简历筛选算法常被用于招聘环节，有助于提升决策效率和一致性。

但一些学者担心，随着自动化系统被广泛采用，某个行业最终可能会出现由单一算法主导所有决策的局面。他们认为，这种所谓的"算法单一化"可能带来负面后果。

以招聘为例，其推理逻辑是：算法单一化可能导致系统性排斥——即被某家公司算法拒绝的求职者，很可能也会被所有其他使用相同算法的公司拒绝。

然而，麻省理工学院的研究人员现在提出，算法单一化未必像一些科学家所认为的那样糟糕。

他们系统评估了针对算法单一化的主要质疑，包括系统性排斥问题，得出的结论是：这一论点以及其他许多论点，要么站不住脚，要么并不能对所有形式的单一化都构成决定性反驳。

相反，他们通过数学证明表明，单一化往往会形成"信息回音室"效应，从而阻碍探索。在招聘场景中，这可能降低最优秀候选人获得工作机会的概率——不过，研究人员也证明，将多种招聘算法整合为一个"集成系统"可以克服这一局限。这有时甚至能让单一化系统的表现媲美、乃至超越不同公司使用不同算法的"多元化"系统。

"算法单一化是一个现实的趋势，也是 AI 应用带来的一个非常重要的问题，但很难笼统地说单一化就一定是坏事，这取决于具体细节，比如所讨论的领域以及算法本身的准确性，"论文合著者、语言学与哲学系教授布莱恩·赫登（Brian Hedden）表示。他在麻省理工学院施瓦茨曼计算学院与电气工程和计算机科学系（EECS）共同任职，同时也是信息与决策系统实验室（LIDS）的首席研究员。

与赫登共同撰写论文的还有麻省理工学院斯隆管理学院和 EECS 的德鲁·霍斯顿（2005届）职业发展教授马尼什·拉加万（Manish Raghavan），他同样是 LIDS 的首席研究员。这项研究发表在《哲学视角》（Philosophical Perspectives）期刊上。

走向单一化的趋势

算法单一化——即某个特定领域的所有决策都使用同一种算法——并非新现象。

例如，贷款决策过去由各家银行的独立银行家自主作出，但如今所有银行家都依据基于借款人标准化信用评分的相同信息，而这些评分正是源自 Fair Isaac Corporation（FICO）算法。

类似地，许多财富 500 强公司普遍使用少数几种简历筛选算法。

"令人担忧的是，随着越来越多人使用 AI 和算法来获取信息、作出决策，这种相关性发生的载体也在增多，"拉加万说。

为了更深入理解这一问题，他与赫登联手系统评估了算法单一化的利弊。他们的研究聚焦于招聘领域，但其方法也可应用于贷款等其他领域。（不过他们也指出，生成式 AI 内容创作或 AI 引导的科学研究等其他领域运作方式可能有所不同，这些领域中的单一化问题可能更为棘手。）

研究人员首先探讨了针对算法单一化的一个常见质疑：依赖同一算法会系统性地将某些人排除在机会之外。

在招聘场景中，这种情况可能发生的原因是：如果一家公司的算法筛掉了某位求职者的简历，那么该求职者在其他每一家公司都很可能遭遇同样的"厄运"。

但研究人员运用一系列能够涵盖多种情境的模型对这一论点进行系统评估后认为，该论点并不具有说服力，因为公司使用相同算法这一事实并不会影响最终被录用的总人数。

相反，算法单一化实际上可能提升求职者的议价能力。

"所有职位最终都会被填补，被录用的人数总量也不会改变，但各家公司会争抢同一批候选人，这实际上会推高薪资水平，"拉加万说。

他们还探讨了与"自主权"相关的质疑。例如，如果某位求职者投递简历后，该简历被转发给所有使用该招聘算法的公司，那么这位求职者就永远没有机会调整简历以提高成功率。

"对于'坏形式'的单一化来说，这似乎是一个有力的反对理由。但如果单一化系统允许求职者修改简历并重新提交材料，这个论点就站不住脚了，"赫登说。

另一方面，单一化也可能让人有机可乘。例如，如果某种简历格式能带来更好的结果，求职者只需重新排版简历即可提高中选概率。

"但并不能明确说明，单一算法比多家公司使用不同算法更容易激励这种'钻空子'行为，"赫登说。"在后一种情形中，求职者可能只会针对一两家公司的算法进行'投机'，从而在少数几家雇主那里获得一点优势。"

群体智慧

他们还考虑了一个较少被探讨的质疑：单一化可能加剧信息的同质化。

赫登解释说，根据社会心理学理论"群体智慧"，一个多元化且各自独立决策的群体，其表现可能优于单一个体。

在招聘场景中，这意味着如果各公司采用多样化的招聘算法，可能会招到质量更高的新员工群体。

算法单一化还可能导致具有相同特征和资历的候选人每次都被所有公司录用，这可能使企业无法发掘那些原本可能是更优选择的候选人。

"单一化可能会抑制整体的'发现'能力。目前尚不清楚这是否一定是坏事，但在设计用于科学、艺术或写作等领域的 AI 应用时，这确实是一个值得担忧的问题，"拉加万说。

他补充说，可以通过在单一化平台中引入一定的随机性来缓解这一问题，从而促使系统进行更多探索。

此外，单一化系统的表现还取决于算法本身。如果单一算法的准确性远高于不同公司分别使用的多种算法，那么单一化可能反而是更优的系统。

提升表现的一种方式，是将多家公司的招聘算法打包整合为一个"集成算法"，该算法可以根据各家算法给出的分数取平均值，为每位求职者综合评分。

通过对多种招聘情境进行一系列模拟，研究人员证实，这种"集成算法"有时确实能够优于分别使用多个独立算法的效果。

不过，赫登表示，这种算法"集成"在实践中究竟有多大可行性，仍有待进一步探索。

"关于算法单一化利弊的很多答案都会因具体情境而异。即使从研究角度来看，要从实证层面回应这些担忧，仍有大量工作要做，"拉加万说。

研究人员最终希望，这项工作能够激发更多关于算法单一化长期影响的研究，也希望未来的研究能够更多聚焦于像就业市场这样复杂系统中真实存在的复杂性问题。

Q&A

Q1：什么是算法单一化？

A：算法单一化是指在某个特定领域（如招聘、贷款）中，所有决策都使用同一种算法。这种现象并非新事物，例如如今贷款决策普遍依赖基于 FICO 算法的标准化信用评分，许多财富 500 强公司也普遍采用少数几种简历筛选算法。

Q2：算法单一化会导致求职者被系统性排斥吗？

A：麻省理工学院研究人员认为这一担忧并不成立。虽然被一家公司算法拒绝的求职者可能也会被其他公司的同一算法拒绝，但从整体来看，被录用的总人数不会因公司使用相同算法而改变，反而可能提升求职者的议价能力，推高薪资水平。

Q3：如何解决算法单一化可能带来的信息同质化问题？

A：研究人员提出两种思路：一是在单一化平台中引入随机性，促使系统进行更多探索；二是将多家公司的招聘算法整合为一个"集成算法"，通过平均评分的方式综合评估候选人，模拟结果显示这种方法有时能优于多个独立算法。