智慧生活的个体代价与技术治理的社会选择

邱泽奇(北京大学中国社会与发展研究中心教授)
2018-11-30 16:06
来源:《探索与争鸣》2018年第5期

【编者按】近日,Facebook数据泄露事件(亦称脸书事件)持续发酵。当以大数据技术为基础的社交媒体逐渐成为当代社会的重要结构性元素,当人类社会从对一般工具的依赖开始走向对指纹解锁、人脸识别等智慧生活的依赖,当普通民众让渡了“识别性”所获得的“便捷性”和“安全性”的生活轨迹本身构成大数据的一部分,当传统的农业秩序和工业秩序全面转向信息时代的数据秩序,智慧生活的革命意味着社会变迁的拐点,秩序切换的混沌也不可避免导致了智慧生活的焦虑,特别有一种焦虑挥之不去,那就是大数据时代的隐私问题,深层次的问题是数据巨机器的形成和人的自由的丧失。我们如何在个体自主性与公共秩序性之间找到新的平衡?我们如何在数据权力与伦理权利之间实现新的制衡?我们如何在算法暗箱与隐私通货之间搭建新的规则?我们如何在数据暴力与多元社会之间达成新的共识?为此,《探索与争鸣》编辑部与华东理工大学社会科学高等研究院、华东理工大学社会与公共管理学院特邀相关领域的专家学者,联合召开了以“智慧生活与技术治理”为主题的圆桌会议,希冀在对Facebook数据泄露事件背后数据监控模式和新型风险社会深度反思的基础上,探求全球的对数据监控之规制的技术治理新政。

扎克伯格在听证会上。图片来源:视觉中国

智慧生活的个体代价

在日常生活的发展中,人类越来越依赖工具。由广义工具支持的智慧生活已经成为了一股历史潮流。在依赖工具的发展中,人类越来越多地把规律性事件交给机器处理。最古老的,如计算,曾经,我们需要动用纸笔,即使用算盘,使用的还是人类智慧。现在我们完全交给了机器如计算器或计算机。最直观的,如信用卡还账,我们设置一个关联账户和还账规则,一旦满足规则,一个账户的钱就自动地转到了另一个账户。进一步发展是,拿着智能手机扫一扫二维码,关联账务便发生了实质性变化。在更激进的工具依赖中,日常生活的几乎每一个环节都充满了“机器智慧”,从家用电器、生活起居,甚至健康管理,都在让机器智慧代替人类智慧,人类对工具的依赖正在走向对智慧化的依赖。

智慧生活的初始动力是人类对便捷性的期待,这是人类本性的一部分。然而,对便捷性的获得是有条件的。在互联网转账的例子中,譬如,两个行动者(如个体)之间通过二维码转账,获得便捷性的一个前提是,把个体变成用户网络的一个“节点”;在此基础上,实现快捷转账的又一前提是,两个个体之间的“二维码”之间可以相互识别,不仅机器能读懂二维码,二维码关联利益的账户相互之间也能交易。这样,在个体、金融机构、金融监管机构等行动者之间便构成了一个网络,个体是网络中的一个节点。

对一个个活生生的人类行动者而言,成为节点的代价是让渡自己的“识别性”。识别性不一定意味着交易的对方认识你,而是代办你账户活动的体系识别你。同理,也识别与你交易的对方。金融机构知道你是谁,金融监管机构也知道你是谁。可要知道你是谁,不仅要在生物特征上识别你,在社会特征上也要识别你。要获得识别性,你就不得不把自己的姓名、年龄、出生地、职业、受教育程度、家庭关系,甚至指纹、虹膜等一系列特征信息,提供给如信用卡、微信、支付宝等金融机构和金融监管机构。与你交易的,和你一样,对方也要提交相同的特征信息,不然便没有与你进行交易的资格。

简单地说,如果把便捷性理解为网络节点之间的互动更多地由行动者如个体委托机器自动实现,那么,前提便是在机器与行动者如个体之间建立可信和可靠的关联。而要实现可信和可靠的关联,人类行动者就不得不让渡自己的识别性。

满足识别性的特征信息在不同场景下是不同的。在一个偏远的山村里,相互之间无需使用身份证。个体的识别性从出生的那一刻起便在逐步建构中了,待到需要识别时,众多的个体识别性早已成为了公共信息,如姓名、年龄、性别、社会关系等。可在高度互联的人类网络如10亿微信用户中,没有人有机会像你的邻居那样看着你成长。理论上,节点之间相互陌生的概率远远大于熟悉的概率。在互联网社会化应用的初期曾流行过一段话“,在互联网上,没有人知道你是一个人还是一条狗”。陌生人的普遍性曾经让人们以为互联网是一个去中心化的、只需要账户识别性的网络,这也是人们把网络社会称之为“虚拟社会”的基本依据。现实是,没有人希望自己账户里的财富去向不明。

每一个“节点”都有同样的需求。为了满足这一需求,网络需要识别每一个参与互动的真实人类,用户也就不得不让渡自己的识别性,且不得不更多地让渡自己的识别性,从早期的姓名、年龄、职业,到现在的指纹、头像。逻辑上,对识别性的要求越严格,用户需要让渡的识别信息就越多。

识别性让渡的后果之一便是“,在网络上,没有人不知道你是一个人还是一条狗”。“虚拟社会”与实体社会之间的界限正在消失。有一本书,洛丽·安德鲁斯写的,《我知道你是谁,我知道你做过什么——隐私在社交网络时代的死亡》,讲述的正是这个故事。

显然,如果人们希望获得智慧生活,作为代价,就不得不让渡自己的识别性或可识别信息。

社会潮流中的个体困境

在经历了若干年的发展之后,加入智慧生活的人们越来越多地了解到:原来,机器智慧的组织和人类社会一样,也具有“科层”特征。在“If,then,else(如果,则,否则)”的计算逻辑下,机器智慧甚至是一个完美的科层体系。在与用户的互动中,机器也对人类提出了如等级和权限等科层体系要求。以安卓手机为例,机器对权限的要求以“告知”的形态出现。用户在安装软硬件时,都会读到对识别信息获取和管理权限的告知,要求用户同意。只有获得用户同意,软硬件才有权获取用户的识别性。

问题是,单从技术上看,作为用户,您了解“告知”信息的真实含义吗?

在人类互动的发展中,告知与识别有着几乎同样悠久的历史,也经历了场景的变换。如今,人们在日常生活中最直观的体验是,在办理手机卡、银行卡时,店家都会给用户几页密密麻麻的合同。如果同意,还需要在指定的位置签字,表示已经完整阅读、理解合同条款的含义,且自觉自愿地同意。问题是,人们真的认真读过每一条款吗?真的理解每一条款涉及的业务、技术、法律责任和义务吗?事实是,绝大多数人对此都是一知半解。

具有讽刺意味的是,同样是为了便捷性,在绝大多数情况下,用户甚至不看一眼告知,便签下了自己的姓名。人们可能想象着:我不是办理此类手续的第一人,也不可能是最后一人,既然其他人没有提出异议,那就应该没有问题,也无需“浪费时间”。

遗憾的是,在专业化分工的发展中,告知已经成为一个技术门槛越来越高的领域,以至于逐步成为一种“智力暴力”。从华尔街的金融产品告知,到人们身边各式各样的“知情同意”,智慧生活发展的几乎每一步都有“告知”,都需要你的“同意”。而几乎每一个“告知”都有大量人们陌生的术语、技术、责任和义务。在每一个陌生的术语、技术、责任和义务背后,不仅有人们期待的便捷性,更有人们无法预知的风险。

不仅如此,不同用户对告知涉及专业知识的敏感性还有极大差异。当智慧生活把告知摆放到用户面前时,看起来给了每一位用户同等的“知情同意”权利,也给予了用户控制自己识别性的机会。事实则是放大了用户对“告知”内容真正知晓的差异性,被告知的用户越多,用户群体的极值差异就会越大,由技术能力差异产生的对告知同意的强制性也越强。

问题在于,在专业化分工日益细密的趋势下,谁可以自诩技术能力足够呢?既如此,则意味着在大多数情况下,人们的技术能力都有不足,也意味着在智慧生活环境下,用户无力保护自己识别性的自主性。何况还有更糟糕的,那就是如果用户对告知表示“不同意”,就不可以继续使用。

如果说智慧生活正在变成人类社会的滚滚潮流,作为用户,则不断在面临一个两难选择:要么糊里糊涂地让渡自己的识别性,承担由此可能带来的风险;要么与智慧生活绝缘。

技术治理的社会选择

既然不得不让渡自己的识别性,却又不知道让渡可能带来的风险,是不是意味着用户只能做待宰的羔羊呢?当然不是。

在“识别性”面前,个体的困境并不是在人类进入到高度互联的网络时代才出现的,而是在人们走出村庄之时,就已经面对了。在个体成为互联网络节点之前,早已是局部社会网络的节点。个体接触陌生社会的范围越大,对个体的识别也变得越困难和越复杂。识别性,无论对个体还是社会来说,也变得越重要。

人类实践的共识是,建构公共制度来解决识别性困境。典型的制度设置如出生、户籍、教育、职称、职位、身份、社会关系等。为保证制度建设与执行的公平性、安全性和可靠性,人类将其委托给了政府。

当然,政府不是建构识别性的唯一选择,普遍存在的另一个选择是市场。人们办信用卡、开银行账户、加入商业俱乐部等,都要让渡自己的识别性。在传统市场中,识别性基本只关涉经济利益。尽管如此,由于市场是以经济收益最大化为目标的社会机制,为防止市场滥用识别性,在市场之外人类还建立了公共制度,委托公共权力作为监管方,既为市场背书,也代表社会对市场进行管束。事实上,市场的趋利特征让其始终面对着公共权力的约束。在大多数情况下,公共权力的代表就是政府。

仍以“告知”为例,早期的智能手机并没有向用户告知其对用户识别信息的获取,告知的出现正是公共制度监管的结果,它意味着希望建构识别性的行动者遵循着社会规则。在个体识别性让渡中,告知的出现是一个积极的发展,是对用户主导自己识别性的确认。

复杂的是,互联网技术应用的发展让市场在技术上有能力超出传统范围,脱离公共制度的监管,直接索取曾经由政府背书的识别信息,甚至也不告知对识别信息的运用。例如,当人们拿着智能手机用指纹解锁、用人脸解锁的时候,也把自己的指纹和人脸等识别信息提供给了网络,成为可以从网络获取的识别性信息,进而成为市场的“数据资源”来源。

如果对识别性数据资源的利用像传统市场一样仅仅关涉经济利益倒也罢了,不断披露的事实表明,它还关涉政治权力和社会秩序。市场,在技术上能力上早已超越政府,具备了整合识别性数据资源,操纵社会秩序的能力。脸书用户信息泄露事件只是冰山一角,也仅仅是开始。那么,这是不是意味着政府已经没有能力来管束市场野性了呢?

或许无需如此悲观。纵观人类的技术史(有兴趣者可以参阅查尔斯·辛格等主编的七卷本《技术史》)可以发现,市场野性的影响其实是由技术创造与应用的人类组织方式决定的,互联网技术带出的市场野性并没有超出技术内涵着的社会力量。现象是,市场在技术上有能力整合识别性数据资源和操纵人类的行为、进而操纵社会和经济秩序。实质是,运用资源的方式和范围,依然可以由社会制度约束。技术与社会之间的互动史表明,对一个合作有序的社会而言,技术从来都只是工具,对工具运用的规制才是决定技术影响社会秩序的关键因素。

简单地说,约束市场野性的源头在于社会对技术的治理。人类对技术的治理经历了一个漫长的过程,却只有两个重要转折点:金属是人类工具创造与使用的第一个转折点,稀缺性使其从一开始便是公共制度约束的对象。例如,在中国历史上,对铁的使用尽管曾经产生过激烈的争论,最终还是成为了国家管束的对象。第二个转折点是对非自然力的创造与使用。在中国历史上,涉及对非自然力的创造与使用始终是国家管束的对象,如火药。在工商为末的社会规则下,其始终是服务于民生的工具。

而在西方,利用贵族们关注田产的间隙,蒸汽动力的创造与使用从一开始便成了资本的猎物,资产阶级也因其对市场力量的掌控而站上了人类历史的舞台。两个转折点分别构造了两种截然不同的工具运用方式、社会对技术治理的路径,也形成两种完全不同的社会秩序。

人类对便捷性的追逐产生了识别性让渡,越来越多的识别性让渡提供了丰富的数据资源,技术的发展为对识别性数据资源的运用提供了能力。其实,丰富的数据资源既是市场野性的资源,也是社会治理的资源;不断发展的技术既为对识别性数据滥用提供了能力,也为对技术进行治理提供了能力。

如果说人类曾经用智慧在工具为大众服务和为资本服务之间达成过平衡,现在则出现了再平衡的诉求。对识别性数据资源的技术治理,既有的人类实践虽然给我们提供了借鉴,欧洲、美国、中国有着不同的实践,却远没有达到“平衡”的状态,依然还在摸索之中。如果说国家权力(曾经)是武装暴力的后果,借由制度来维系,那么,技术创造与应用从来也是一种权力,在不同阶段有着不同的表现形态,当下的表现形态便是数据权力。不受约束的数据权力就是数据暴力。把数据暴力关进制度的笼子,才是让数据资源既服务于市场,也服务于社会的可持续方式。此时,社会选择的作为呼之欲出。否则,在智慧生活中要证明“你妈是你妈”便不会少见。

用大众意志形成的制度始终是约束暴力最有效的方式,也是技术治理的社会选择。在中国的实践中,我们观察到了针对支付宝、今日头条、百度搜索等的大众舆论,注意到了类似微信不设置“已读”功能中体现的是对社会规则的自觉遵循;也观察到了用国家权力约束市场野性的网联;同时,我们还看到越来越多的用户开始意识到自己识别性信息的权利意涵。事实上,在与识别性关联的智慧生活发展中,关涉的各方都在探索自己行为的边界、符合社会规则的互动模式。政府、市场、社会都在考量对识别性信息让渡与利用之间的“度”,或许让这个“度”达成平衡还有一个过程,值得欣慰的是中国社会的实践已经在朝着建构一个合作秩序的方向发展,当新的秩序形成之时,我们又会有新的社会规则。

罗素在《权力论》说:“……那拥有巨大机械指挥权的人,如果得不到控制,也许会觉得自己是神——不是基督徒的爱神,而是异教的雷神和火神。”

本文原载《探索与争鸣》2018年第5期,澎湃新闻(www.thepaper.cn)获授权转载。

    责任编辑:韩少华
    校对:张艳