当外卖派单、考试评分、招聘筛选越来越多由算法决定时,一个现实问题出现了:如果算法对我们不公平,我们会怎么反应?一项发表于《实验心理学杂志:综合》的研究发现,人们面对不公平的算法,会像面对不公平的真人一样生气,甚至愿意自己吃亏,也要“惩罚”它。
人们如何“看懂”机器的心
心理学家用“心智感知”来描述人们如何判断一个对象有没有内心活动。人们通常从两个维度看:一是“能动性”,即能不能思考、计划、故意行动;二是“体验性”,即能不能感受疼痛、恐惧、快乐和情绪。
在人际交往中,这两件事常常连在一起:一个能故意伤害别人的人,通常也能感受到惩罚带来的痛苦。但AI把这两件事拆开了。人们往往认为机器有足够的“能动性”来做出伤害自己的决定,却几乎没有“体验性”,不会疼,也不会后悔。
这带来一个有趣问题:惩罚一个不会痛的算法,能让人感到正义得到伸张吗?
实验:宁愿两败俱伤,也要拒绝不公平
研究者先招募380名美国英语成年参与者,用“最后通牒游戏”测试。参与者被告知,对方有0.50英镑,并提出分配方案:如果参与者接受,双方按方案拿钱;如果拒绝,双方都拿不到钱。因此,拒绝就是一种“有代价的惩罚”。
结果发现,当算法给出不公平方案,即对方拿0.45英镑、参与者只拿0.05英镑时,参与者的愤怒平均为3.12分(5分制),明显高于算法给出公平方案时的1.31分。面对不公平方案,人们对算法的愤怒(3.12)和对真人的愤怒(2.91)相近;拒绝不公平算法的比例为57.8%,拒绝不公平真人的比例为62.2%,两者在统计上没有显著差异。
也就是说,人们不会因为对方是机器就“算了”。
惩罚之后:正义感与后续慷慨
第一项正式实验纳入123名参与者。所有人都收到不公平的0.05英镑方案,然后决定接受还是拒绝,并回答自己是否觉得“每个人得到了应得的”。之后,他们再玩一个“独裁者游戏”,可以单方面决定分给对方多少钱。
结果显示,拒绝不公平算法的有38/62人,拒绝不公平真人的有40/61人,比例接近。总体来看,通过拒绝来惩罚对方的78人,正义满足感平均为3.57分(5分制),高于接受方案的45人的2.63分。控制是否更换搭档后,惩罚真人与惩罚算法都能提升正义感,但真人在其中的提升幅度更大。正义满足感更高的人,在后续游戏中也更慷慨。
这说明,惩罚算法可能带来一定“ closure(心理闭合感)”,但证据并不完全一致。
更严格的实验:算法与真人同样触发惩罚
为排除“换搭档”和“电脑不需要钱”等干扰,研究者又进行了第二项实验,纳入739名参与者,并采用预注册设计。参与者被告知,5个算法和5名人类研究助理正在参加多轮谈判,虽然都不把钱装进自己口袋,但收入最低的算法和真人会被淘汰。
参与者认为,人类搭档的“能动性”更高(3.30对2.79分),情感体验能力更是远高于算法(3.20对1.86分)。但即便如此,他们拒绝不公平算法的比例为71.0%(262/369),拒绝不公平真人的比例为65.4%(242/370),仍然接近。惩罚对方的人,正义满足感平均为3.53分,高于接受不公平方案者的2.71分。控制人们把技术拟人化的倾向后,惩罚算法和惩罚真人与正义感、后续慷慨之间的关系同样强。
研究者亚历山大·恩认为,人们对不公平机器的反应,和对不公平的人很像:同样愤怒,也同样愿意付出代价去惩罚。
对青少年与AI教育的启示
这项研究提醒我们,AI正在承担越来越多重要决策,如医疗分诊、招聘筛选、内容推荐等。组织不能只把算法当成“工具”,还要设计可问责、可解释、可申诉的机制。原研究摘要还指出,如果机器在被惩罚后表现出“受伤”或承诺给出更公平的方案,可能增强人们“正义已实现”的感受。
对青少年来说,这意味着需要培养“算法素养”:理解推荐、匹配、评分背后有规则;遇到不公平结果时,学会通过反馈、申诉和规则改进来解决问题,而不是简单攻击系统。平台也应让规则更透明,让用户知道“为什么不公平”和“如何纠正”。
算法不会疼,但人对公平的感受很真实。