如何根治“算法厌恶”？

2023-09-20 14:49

上海

原创麦华嵩复旦商业知识

文麦华嵩

算法厌恶的背后隐藏着什么原因？我们如何对症下药？大凡创新性事物，人总会有点抗拒。究其原因，可能是：不相信它的好处、担心它的风险、不喜欢它对既有生活模式与价值标准的改变，或者纯粹是人性中懒于改变的惰性。因此有论者曾说，一种新事物必须具备以下特点，才有机会被市场大规模采纳而成为日常生活的一部分：比现有事物优秀很多倍；一般人不需要很多训练就可上手，并且容易接触得到；“入场门槛低”。

我曾经读过一篇研究文章，里面提到奥地利一家医院增设了一个人工智能系统，以帮助医护人员发现病人是否有谵妄（急性精神错乱）倾向，以便病人能够及早得到治疗，也可减轻医院人力和设备的负担。然而，该系统启用七个月后，研究者访问了一批使用者，其中包括不同资历的医生和护士，结果却让他们大为惊讶。使用者大都认为该系统对他们有帮助，而且界面清晰、容易操作，使用时不会加重工作负担，但同时，只有28%的人说自己会经常使用该系统。似乎，员工都明白人工智能对他们的工作有利，但到了日常应用的关口，他们却开始抗拒。

由此我想到了另外一些类似的实验和研究。其中，一项研究向参与的医生提供了一系列胸肺X光片和诊断报告；一半的参与者被告知这些报告来自一位资深的放射科医生，另一半则被告知这些报告来自人工智能，但其实这两组人看到的X光片以及报告是一模一样的。然后参与者被问到：你们觉得诊断的质量如何？结果发现，参与者中资历较浅的一群，对人类专家和人工智能的诊断的评价差不多，但资历较深的一群反而“看不起”人工智能，对其诊断的评价较低。既然所有参与者得到的数据都是一样的，假如觉得人工智能较差，应该就是对人工智能本身有抗拒心理了。

另一项以求诊者为对象的研究则发现，求诊者比较不信任人工智能作出的医疗报告，因为他们觉得人工智能无法顾及他们自身的独特情况，而比较信任人类医生的分析。现在关于人工智能的报道数不胜数，但很多报道都是要让你看到新科技的厉害之处，却较少探讨普通人是否真的想在生活和工作中使用这些新技术。上面提到的研究恰好表明，人们有时会抗拒使用人工智能来帮助他们做决策，以至于近几年心理学界出现了一个术语——算法厌恶（algorithm aversion）——来总结相关的研究结果。算法厌恶并不仅仅在医疗应用中出现，例如有研究者在社交媒体上打广告，推销一个向人提供约会建议的网站。一半的广告说，这些建议是由人类“约会专家”给予的；另一半广告则说，由电脑算法给予建议。研究者发现，在后一种情况下，较少用户会登录广告页面进行查看。

算法厌恶的背后隐藏着什么原因？我们如何对症下药？在医疗应用方面，我曾指导的一项硕士研究发现，一些医生可能感到他们的专业身份受到人工智能的挑战。他们经过了长时间的专业训练，才有资格做今天的工作，试问又怎能让电脑程序跟他们平起平坐呢？另一个因素是人工智能是复杂的“黑箱”，医生不是电脑专家，觉得其中有很多他们无法理解的变量会影响和操控计算过程，因此从心底里对人工智能抱有疑虑。

这些观点反映了某些根本的心理障碍。其实，大凡创新性事物，人总会有点抗拒。究其原因，可能是：不相信它的好处、担心它的风险、不喜欢它对既有生活模式与价值标准的改变，或者纯粹是人性中懒于改变的惰性。因此有论者曾说，一种新事物必须具备以下特点，才有机会被市场大规模采纳而成为日常生活的一部分：比现有事物优秀很多倍；一般人不需要很多训练就可上手，并且容易接触得到；“入场门槛低”。例如，近几个月大出风头的ChatGPT，在很多功能上有令人瞩目的表现，而且应用不难，因此有很多观点认为它会改变人类生活。另一个例子是之前提到的在社交媒体上发布广告的研究人员，他们还发布了其他一些广告，宣传一个提供理财建议的网站，并发现无论是人还是电脑算法提供理财建议，该网站对用户的吸引力都差不多。似乎普通人对让计算机程序辅助比较主观和非计量的决定，例如约会建议，都持抗拒态度；而对于更客观和量化的财务建议，大家就更信任人工智能了。

然而，许多新的技术—包括人工智能—都不能像理财建议那样明显地量化，也不能像ChatGPT那样快速普及并成为热门话题。对于这些新技术，推广者必须克服一系列难关，才能赢得用户，让他们大规模采用。以刚才提到的人工智能在医疗应用上的“黑箱”问题为例，要解决由此引发的不信任，有两种做法：一是系统地广泛收集数据，证明相关技术风险低且极其有用，获得具备公信力的第三方认证也会有所帮助；二是将应用相关技术变为行业标准，而这可以依靠意见领袖为大家领航。这两种做法都需要推广者下功夫策划，才能成功。

我还想到“穷则变、变则通”的道理：当人到了必须改变的关头，就一定会改变。因此，要将人工智能引入日常生活与专业应用，必须先从不得不依靠人工智能的决策开始。例如，不久前我参加了一个人工智能应用于医疗领域的研讨会，其他演讲者都是从事科学技术研究的，都谈到人工智能在一些普遍却难以早期发现和控制的病症——例如阿尔茨海默病（俗称老年痴呆）——上特别有用。我非常同意，也审慎而乐观地相信，人工智能新技术的普及化可能会先发生在这些病症的诊断方面。因为当今天的人遇到令他束手无策的问题时，就必须无可选择地信赖明天的科技，期望明天的科技能够将世界带进更好的未来。