实力越弱，越喜欢真人评审？算法评估的隐形劝退效应

从使用算法，到被算法评估

以往关于消费者与算法的研究，大多聚焦算法作为决策辅助工具或推荐引擎时，会如何影响人们的判断与偏好。已有研究发现，消费者对算法的接受程度会受任务类型、个人信念以及具体情境因素的影响。然而，鲜有研究关注，当消费者从“使用算法的人”成为“被算法评估的人”时，他们会作何反应。

有学者指出，人们对算法评估往往持有矛盾态度：一方面，大家认为算法更加客观、公平，不容易受到人为偏见的干扰；另一方面，大家会担心算法难以真正理解人的复杂性，容易忽视个体差异与现实情境。为了进一步了解不同消费者对算法评估的偏好差异，本文提出了一个在评估情境中关键但容易被忽视的变量——申请者实力（applicant strength）。

本文将申请者实力定义为申请者依据自身掌握的信息，对照既定评估标准对自身相对实力形成的主观理解。这种判断有时会建立在信用评分、收入等客观信息之上。但由于认知局限、自我提升动机以及社会比较偏差等原因，它并不一定与客观实力完全一致，尤其是在评估标准未知或难以判断时。因此，真正影响消费者如何看待不同评估方式的是他们主观上认为自己的实力有多强。

这种实力判断会进一步改变申请者动机。相比于实力强的申请者，实力弱的申请者处于更加不利的位置，因此更想要寻找能够提高成功概率的机会。他们会更喜欢那些能够为有利结果留下回旋余地的评估者，并期待这些评估者能够更加灵活地处理个案，如忽略申请中的部分缺点、体谅他们的情况、或是发现他们的潜力。对比之下，实力强的申请者本身就能够满足既定标准，不太需要评估者提供额外的通融空间。因此，这种差异主要来自弱实力申请者对人类评估者相关特征的偏爱。

人类和算法在判断方式上存在明显差异。算法往往按照相对标准化的规则运行，较少受到无关信息或外围线索的影响，因此其判断通常被认为更加公平、客观，结果波动较小。相比之下，人类的判断没有标准流程，会更综合地考虑个体情况，也容易受到个人信念和偏见的影响，因此评估结果具有更大的可变性。

这些差异使得两类评估者与不同属性联系起来。人类评估者通常被认为更加灵活，能够根据具体情况调整判断；更有同理心，能够理解申请者的情绪状态；更加宽容，会采用较低的评估门槛；也更加主观，会依赖个人判断而非硬性指标。虽然这些属性在概念上并不完全相同，但从申请者角度来看，它们代表着相似的含义：评估者保留解释、调整或结合具体情境进行判断的空间，并且这种空间可能会为申请者带来更有利的结果。因此，本文认为这些可能对申请者有利的人类评估者属性共同增加了人类评估者对弱实力申请者的吸引力。

相比之下，算法评估被视为按照统一标准运作、较少留下调整空间的规则化评估系统。对于弱实力申请者而言，他们会觉得算法评估过于严格；但对于已经较好满足既定标准的实力强者而言，他们对那些人类评估者属性的需求较低，因此对算法评估保持更加开放的态度。综上，提出假设：

H1：算法评估对实力弱（vs. 强）的申请人有着更大的威慑作用。

H2：这种不对称效应是因为相较于强实力申请者而言，弱实力申请者对某些人类评估者的属性（如灵活性）有着更强的偏好。

本文在此基础上进一步探讨了两个边界条件。首先，当消费者被告知算法评估系统能够根据具体情况进行灵活判断时，实力强弱对算法评估接受度的影响应该会减弱。其次，当保留消费者在被算法拒绝后向人类申诉的权利时，评审过程的灵活性得到增加，进而削弱了实力强弱对算法评估偏好的影响。

研究设计与结果分析

本研究通过8项实验，在不同申请场景下检验了实力强弱对消费者算法评估接受度的影响，并进一步验证了其心理机制与边界条件。

实验 1 是一项在在线自由职业者市场Upwork上进行的田野实验。作者会同时发布一对招聘信息，两个岗位的任务、报酬和描述一致，差别只在于申请是由招聘算法还是人工招聘者评估。此外，岗位说明中还明确提到，评估主要参考申请者个人主页中公开展示的客观平台指标，包括已完成工作数量、工作时长、工作成功率和总收入，以此促进申请者对自身实力形成主观理解。作者将这四项指标标准化后取均值，形成了申请者实力指数。结果发现，实力越强的申请者越有可能申请算法评估岗位，而实力越弱的申请者则更倾向于选择人工评估岗位。

实验 2A 采用2（申请者实力: 强vs. 弱）×2（评估：算法vs. 人类）的组间设计，在信用卡申请情境中重复检验了主效应。被试需要想象自己正在考虑向一家金融服务公司申请信用卡。弱实力被试被告知自己就业不稳定、有未偿债务且信用分数较低；强实力被试则被告知自己就业稳定、没有未偿债务且信用分数较高。随后，他们了解到该公司使用算法或人类员工来评估信用卡申请。最后，询问被试申请信用卡的可能性有多大？结果发现，实力弱的被试在算法评估下的申请意愿显著低于人工评估；而实力强的被试在两种评估方式下的申请意愿没有显著差异可能。

实验 2B 没有直接操纵评估者类型，而是改为询问被试认为个人贷款申请通常由人类还是算法审批，得到了和实验2A相同的结果。认为自身申请材料质量较高的参与者中，其提交申请的可能性在认为是由算法（M = 4.16）还是由人类（M = 4.33）评估其申请时并无显著差异（t(396) = 1.29，p = 0.20，d = 0.23）；相反，认为自身申请材料质量较低的参与者中，当他们认为贷款申请由算法评估时，其提交申请的可能性（M = 2.28）低于认为申请由人类评估时的可能性（M = 2.83；t(396) = 4.09，p < 0.001，d = 0.51）。这说明，即使企业没有明确告知评估者类型，消费者自己对评估方式的推断同样会影响申请意愿。

实验 3 是一项激励相容实验。被试完成了一个需要在每组三个盒子中寻找隐藏水果的网页游戏。作者通过预设游戏结果来操纵被试的实力强弱：强实力组最终看到自己的表现高于随机点击的平均水平，弱实力组则低于平均水平。为了让这些结果看起来反映的是个人能力而非运气，游戏开始前还特别说明，水果位置由一些隐藏规则决定，需要一定技巧才能识别。游戏结束后，被试被告知大约一半参与者将根据游戏表现获得奖金，并接着在人类和算法裁判之间选择一个来评估自己的表现。结果发现，强实力者选择算法评估的比例显著高于弱实力者。

实验 4 进一步将研究情境从单一机构下的申请意愿扩展到多机构选择。被试想象自己正在申请英国研究生项目，并且筛选出了10所质量和费用相近的大学，但因预算限制只能申请其中5所。在这些大学中，有5所使用算法评估申请材料，另外5所使用人工评估。实力强弱的操纵方式是告知被试他们认为自己的申请实力处于前25%或后 25%。结果发现，强实力申请者更多地选择了使用算法评估的大学，而弱实力申请者则更少地选择了这类大学。

实验 5 旨在通过测量的方式直接检验中介机制。被试需要想象自己正在向银行申请个人贷款，并在两家分别由人类员工或算法系统审批申请的银行中做出选择。通过信用分数、收入稳定性和推荐人等信息操纵申请者实力。被试在报告完自己对银行的偏好后，完成了一系列变量的测量（见下表）。因子分析结果显示，弹性、宽容、主观性和同理心共同构成与人类评估者相关的属性；而一致性、客观性、公平性、无偏见、问责性，以及反向编码后的随机性，共同构成与算法评估相关的属性。进一步的中介分析表明，只有人类评估者相关属性才会在申请者实力强弱与评估偏好之间起到显著中介作用。

实验 6 借助过程调节范式操纵算法灵活性，从因果过程层面进一步检验该中介机制。采用2（申请者实力：强 vs. 弱）×2（算法灵活性：灵活 vs. 控制）的组间设计。实验背景换为租房申请，通过租金、水电缴费记录、信用分数等信息操纵申请者实力。算法灵活组中的被试被额外告知该算法在审核申请时可根据实际情况灵活调整。结果发现，在控制组中，弱实力申请者明显更偏好人工审核；而在算法灵活组中，强弱实力申请者之间的评估偏好差异消失。

实验 7 旨在检验人工申诉机制能否缓解弱实力申请者对算法评估的排斥。实验采用信用卡申请情境，经过实力强弱操纵的被试会随机看到三种评估模式之一：由人类员工评估；由算法评估；或先由算法评估，再由人类员工处理申述。结果发现，强实力申请者在三种评估模式下的申请意愿没有显著差异；弱实力申请者在纯人工评估和混合评估模式下的申请意愿均显著高于纯算法评估模式，且两者之间没有显著差异。

营销人，你会怎么做？

往期

RECOMMEND

推荐