算法单一化的影响取决于具体情境

人工智能工具正在越来越多地取代人类判断，应用于各种场景。例如，简历筛选算法常被用于招聘环节，可能有助于提升决策效率和一致性。

但一些学者担忧，自动化系统的普及最终可能导致某个特定行业中，所有决策都依赖同一种算法。他们担心这种所谓的"算法单一化"可能带来负面后果。

以招聘为例，人们认为算法单一化可能导致系统性排斥——即某位求职者被一家公司的算法拒绝后，也很可能被其他所有公司的算法拒绝。

然而，麻省理工学院（MIT）的研究人员现在提出，算法单一化未必总像部分科学家所担忧的那样糟糕。

他们系统评估了针对算法单一化的主要质疑，包括系统性排斥问题，得出结论：这一论点以及许多其他反对意见，要么站不住脚，要么并不能对所有形式的单一化都构成决定性反驳。

相反，他们通过数学论证证明，算法单一化容易形成"信息回音室"效应，从而阻碍探索。在招聘场景中，这可能降低最优秀候选人获得工作的概率——不过研究人员也表明，将不同的招聘算法整合为一个"集成算法"可以克服这一局限。这有时能使单一化系统的表现与"多元文化"（即不同公司使用不同算法）系统相当，甚至更优。

"算法单一化是一个现实存在的趋势，也是人工智能应用带来的重要议题，但很难笼统地判断单一化是好是坏，这取决于具体情境，比如所涉及的应用领域以及算法本身的准确性，"该研究的合著者、语言学与哲学系教授布莱恩·赫登（Brian Hedden）表示。他同时在麻省理工学院施瓦茨曼计算学院与电气工程和计算机科学系（EECS）担任联合职位，并且是信息与决策系统实验室（LIDS）的首席研究员。

与赫登共同撰写这篇论文的还有麻省理工学院斯隆管理学院及EECS的德鲁·休斯顿（2005届）职业发展教授马尼什·拉加万（Manish Raghavan），他同时也是LIDS的首席研究员。该研究发表于《哲学视角》（Philosophical Perspectives）期刊。

走向单一化的趋势

算法单一化，即某一特定领域的所有决策都由同一种算法完成，并非新现象。

例如，贷款决策过去由各银行的独立银行家自行判断，而如今所有银行家都依据基于借款人标准化信用评分的统一信息做决定，这些评分均来自费埃哲公司（Fair Isaac Corporation，FICO）的算法。

类似地，许多《财富》500强企业普遍使用少数几种简历筛选算法。

"令人担忧的是，随着越来越多的人使用人工智能和算法来获取信息和做决策，这种相关性出现的渠道也越来越多，"拉加万说。

为了更好地理解这一问题，他与赫登联手系统评估了算法单一化的潜在利弊。他们的研究聚焦于招聘领域，但其方法也可推广至其他领域，例如贷款。（不过他们指出，其他领域，例如生成式AI内容创作或AI辅助科研，运作方式可能有所不同，某些领域中的单一化问题可能更为严重。）

研究人员首先探讨了针对算法单一化的一个常见质疑：依赖同一算法会系统性地排除某些人的机会。

这种情况可能出现在招聘中，因为如果一家公司的算法筛掉了某位求职者的简历，那么该求职者在其他每家公司也很可能遭遇同样的"厄运"。

但通过一系列能够涵盖多种情境的模型系统评估这一论点后，研究人员认为该说法并不具有说服力，因为无论各公司是否使用同一算法，被录用的总人数并不会因此受到影响。

相反，算法单一化实际上可能提升求职者的议价能力。

"所有职位最终都会被填满，被雇用的总人数也相同，但各公司会争夺同一批候选人，这实际上会推高薪资水平，"拉加万说。

他们还探讨了与"自主权"相关的质疑。例如，如果某位求职者投递的简历被转发给所有使用该招聘算法的公司，那么该求职者将永远没有机会调整简历以提高被录用的概率。

"对于不良形式的单一化，这似乎是个有力的反驳。但如果在单一化系统中，求职者可以修改并重新提交材料，那么这个论点就站不住脚了，"赫登说。

另一方面，单一化也可能让个人有机可乘，钻系统的空子。例如，如果某种简历格式更容易获得好结果，求职者就可以直接调整简历格式，以提高中选概率。

"但并不能确定使用单一算法是否比多家公司使用不同算法更容易激励这种投机行为，"赫登说，"在后一种情境下，求职者可能只需针对性地研究少数几家公司的算法进行'应试'，从而在几家雇主那里获得一定优势。"

群体智慧

研究人员还探讨了一个较少被关注的反对意见：单一化可能加剧信息的同质化。

赫登解释说，根据社会心理学中的"群体智慧"理论，一群多元化且相互独立的决策者，其表现可能优于单一决策者。

在招聘场景中，这意味着如果各家公司采用多样化的招聘算法，最终招到的新员工整体质量可能更高。

算法单一化也可能导致具有相同特征和资历的候选人，在每一家公司都总是被优先录用，这可能使企业错失发掘更优秀替代人选的机会。

"单一化可能会抑制整体的'发现'能力。目前尚不清楚这是否一定是坏事，但在设计用于科学研究、艺术创作或写作等领域的AI系统时，这确实是一个值得关注的问题，"拉加万说。

他补充说，可以通过在单一化平台中引入随机性来缓解这一问题，从而提升探索的多样性。

此外，单一化系统的表现还取决于所使用算法本身的水平。如果单一算法的准确率显著高于多家公司各自使用的多种算法，那么单一化系统的整体表现可能更优。

提升整体表现的一种方式，是将多家公司的招聘算法整合为一个"集成算法"，根据平均得分为每位求职者评分。

通过对不同招聘情境进行一系列模拟，研究人员证实，这种"集成算法"在某些情况下的表现确实可以超越使用多种独立算法的系统。

不过，赫登表示，这种算法"集成"方式在实际应用中的可行性仍有待进一步探索。

"关于算法单一化利弊的很多答案，都将取决于具体情境。即便从研究角度而言，我们仍需大量工作才能从实证层面深入探讨这些问题，"拉加万说。

研究人员希望，这项工作能够激发更多关于算法单一化长期影响的研究，也期待未来的研究能进一步关注劳动力市场等复杂系统中涉及的现实复杂性。

Q&A

Q1：什么是算法单一化？

A：算法单一化是指某一特定领域内的所有决策都依赖同一种算法完成的现象，例如招聘中多家公司使用相同的简历筛选算法，或贷款审批中普遍采用统一的信用评分算法。

Q2：算法单一化会导致求职者被系统性排斥吗？

A：麻省理工学院研究人员认为这一担忧并不成立。他们发现，无论公司是否使用同一算法，最终被录用的总人数不会改变，算法单一化反而可能提升求职者的议价能力，推高薪资水平。

Q3：如何解决算法单一化带来的信息同质化问题？

A：研究人员提出，可以通过在单一化平台中引入随机性来增加探索多样性，或将多家公司的算法整合为一个"集成算法"，根据平均得分进行评估，这有时能使系统表现优于使用多种独立算法。