频道
栏目
  • 视频
  • 时事
  • 财经
  • 思想
  • 生活
AI社会学|当算法成了你的老板
沈虹
2020-09-16 17:53  来源:澎湃新闻
某个元旦的早上,7点13分,来自佛罗里达的一位优步(uber)司机想要下线休息。当他试着关闭手机上的派单系统时,系统突然调皮地跳出一条消息:“你离赚满40元还差6元,你确定现在就要下线吗?” 司机还没来得及细想,系统上“继续驾驶”的按钮已经被高亮成诱人的淡蓝色,好像在友好地邀请你点击;相反,“下线”的那个按钮被涂成了淡灰色。
图片来源:How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017
这是“外卖骑手困在算法系统”的美国版本,曾在2017年引起过轩然大波。彼时,调查记者和社会学家们发现,由于零工经济(gig economy)平台与员工之间没有正式的雇佣关系,无法强制员工们在某个时刻上班,所以为了尽可能地将司机留在路上,或是将司机们导流到平台希望的某时某地,美国主要的网约车平台优步(uber)和来福车(Lyft)雇佣了大批心理学家和数据科学家,运用了复杂的算法,设计了一系列 “心理学把戏” (psychological tricks)。或者说,通过算法和心理学,加上精致的交互界面设计,他们把整个系统变成了一场大型真人游戏。
例如,在优步的系统里,新手司机通常会有一个“第一个25单”的里程碑。在新手们跑到10单左右,系统会自动弹出 “你快到一半了,恭喜” 的消息。值得注意的是,“25”绝对不是一个随机数字—— 优步旗下的大批数据科学家经过对海量司机数据的分析,发现25单之后,司机留在平台继续工作的可能性大大增加。心理学家们也提供支持:给人们设定某个具体的目标, 会更容易激励他们完成任务。
更早之前,优步的主要竞争对手来福车雇佣了一个咨询公司,想知道该怎样在不大幅增加支出的情况下,将司机们导流到平台最繁忙的时段。一样通过数据分析和心理学实验,来福车发现与其告诉司机们 “在更繁忙的周五晚上工作会将你的收入提高25%” ,还不如简单地更换一下语言的组织方式:“停留在你目前工作的时段,你会比那些周五晚上开车的少赚25%”。 在行为经济学里,第二种组织语言的方式甚至有一个专有名称叫做 “损失厌恶” (loss aversion)—— 是指人们面对同样数量的收益和损失时,会主观地认为损失更加令他们难以忍受。
当然,在优步和来福车的系统界面里也存在一系列跟美团、饿了么类似的徽章奖励体系,“最佳服务”和“最幽默司机”仅仅是其中两个。事实上,几乎每隔一段时间,平台都会自动在司机的界面弹出各种各样眼花缭乱的目标和徽章奖励,基于过往的行为数据,其精准化程度极高,使得司机们在打怪升级的快感里,持之以恒地为平台贡献着服务时间。
纽约大学的传播学者娜塔莎·斯卡尔(Natasha Schüll)写过一本很有意思的书,叫做《设计成瘾》(Addiction by Design)。通过对拉斯维加斯老虎机的研究,她发现“设计”在上瘾机制中起到重要作用,书中提出一个著名概念叫做“ludic loop”,指老虎机的设计者是如何通过不定期、不定量、不可预测地给予微小奖励来使游戏者上瘾的。在斯卡尔看来,系统永远不是中立的,任何系统的设计都镶嵌有权力掌控者的种种考量。
在社交媒体主导的今天,我们身边的ludic loop比比皆是,商家们所使用的各种心理学小游戏也早已经见怪不怪。然而,将类似的技巧使用到工作环境中,效果却可能是灾难性的。
这一方面是因为,通过数字化,平台基本已经对员工的工作效率、时长、社交内容、休息时间等等数据具有几乎全景式的掌控,通过机器学习算法,很容易就推导出其间的各种关联;再加上心理学和设计的加持,算法对于员工的“隐形操控”可能是以往种种强制性手段所无法比拟的。比如,相比于之前的强制加班,优步早已发现给予司机适当目标激励可以促使他们更长地停留在线上。
另一方面, 由于缺少雇佣关系的法律约束,不仅平台对员工缺少责任和义务,员工也无法对平台进行有效追责。员工在平台面前近乎裸奔,平台却始终是客观的、数字驱动的、不可能出错的黑箱系统。平台之于员工是基于私人数据的个性化操控,这使传统工会对于工人的组织也变得愈发困难。
在工作环境下,这种权力的不对等的关系比尤其突出,与社交媒体和商业导购不同,这里算法影响的不是你的下一个网络好友、或是下一单网购零食,而是下一份工作。
想象未来的某一天,算法成为我们所有人的老板。每天早上,它温情脉脉地将你唤醒,提醒你今天已经是本月第八个九点之前进公司的日子,积满十个,可以顺利加入九点小组,奖励精美徽章一个。在你疲惫不堪想把手头文档放下,去茶水间续命之时,系统会告诉你,89%的同事们已经完成了本日工作,你想不想加快一点进度呢?
比起人类老板的咆哮如雷,算法老板永远是甜美女声。但它知道表面上你浑水摸鱼,其实还有25%的潜力可以挖掘;也知道与其告诉你不干完这单就要罚钱,不如告诉你隔壁办公室跟你同年的同事马上就要升级来的更有效率。交互界面里代表算法系统的虚拟头像,还可以进一步个性化、拟人化、和偶像化,让你心甘情愿为之贡献时间和精力。届时,不止是外卖小哥被困在系统里,所有人,都会被困在全知全能且无法反制的算法里。
当然,对社会学家们来说,更根本的永远是权力问题。在被算法操纵的系统里,谁更有权力?谁受到压制?
2017年,美国国会对当代信息社会三大巨头—— 谷歌、脸书和推特 ——举行了听证会。路易安那州的参议院约翰肯尼迪(John Kennedy) 说:先生们,我为今天来到这里的三大公司感到自豪,你们代表了今日的美国,你们也为善不少。但是,你们(所掌握的巨大)的权力又常常令我感到恐惧
在优步和来福车的算法系统引发巨大争议的三年之后,美国各州对零工经济平台们的抗议浪潮此起彼伏。今年八月,加州率先举起法律武器,要求网约车和外卖平台将司机和外卖员工重新定义为全职雇员,签署正式雇佣合同,并且支付保险福利;优步和来福车则以在加州停运加以威胁……
故事到了这里远远并没有结束,双方的角力仍将持续,但它的走向让我们看到了某种隐约的可能性——
就算老板变成了算法,人类员工却仍然是人类,可以组织,可以说“不”,可以有改变算法的力量和勇气
【参考文献】
[1] Molly McHugh, What Congress Wants From Google, Twitter, and Facebook. https://www.theringer.com/tech/2017/11/1/16589586/google-facebook-twitter-russia-election-testify
[2] Natasha Schüll Addiction by Design: Machine Gambling in Las Vegas. Princeton: Princeton University Press (2012)
[3] Rosenblat, Alex, and Luke Stark. "Algorithmic labor and information asymmetries: A case study of Uber’s drivers." International Journal of Communication 10 (2016): 27.
[4] How Uber Uses Psychological Tricks to Push Its Drivers’ Buttons, New York Times, 2017
[5] Uber and Lyft’s California labor law battle is far from over, https://www.cnbc.com/2020/08/21/uber-and-lyfts-california-labor-law-battle-is-far-from-over.html
-----
作者沈虹,毕业于美国伊利诺伊大学香槟分校传播学系,现任职于美国卡内基梅隆大学。她用社会学的方法研究新兴科技。

责任编辑:单雪菱

校对:刘威

840
打开APP,阅读体验更佳