论坛｜技术时代的爱与怕

2020年初，“南都观察”在北京为读者奉上了一场有关“技术时代的爱与怕”的2019年度对话。

这次对话邀请北京航空航天大学人文与社科研究院/法学院副教授余盛峰为嘉宾主持，与上海交通大学文科资深教授、中国法与社会研究院院长季卫东，清华大学科学史系主任吴国盛，复旦大学哲学学院教授徐英瑾，北京邮电大学岗位教授、人机交互与认知工程实验室主任刘伟以及《人工智能学家》主编刘锋等五位嘉宾一起，基于各自相异的研究背景，共话技术时代的爱与怕，破解当代人的忙与盲。

科技带领人类去向何方？

几位嘉宾的对话主要围绕技术时代人类在面对科技时的态度和选择，在展开这个看起来新鲜实则古老的话题前，回顾人类科技史并展望未来成为题中之义。

主持人余盛峰表示，自人类学会使用工具以来，技术帮助人类超越自身的局限，不断实现人类历史上的突破性进展，但技术的负面效应也屡见不鲜。他还引用嘉宾吴国盛教授曾经的观点，科技越发达，对于个体时间和精力的侵占越显著，人类在创造性活动上的投入也就越发有限。现场的首个讨论就此得以抛出：科技能够带领人类飞升还是正在为人类制造牢笼？

对此吴国盛回应道，科技本身其实既不会带领人类飞升也不会为人类制造牢笼，人与技术并不能割裂开来谈，或者说二者其实是一种镜像关系，人类不应仅将技术视为自身主体所携带的工具。

作为计算机博士，刘锋老师更愿意将技术比喻为人类手中的“锤子”，假设人类的进化拥有明确的方向，那么这把锤子必然能够成为得力的助手，最为关键的问题就变成了人类如何使用技术。人类不仅要能够使用锤子、升级锤子，自身也要随着锤子的升级而成长，如此技术就可以视为人类飞升的工具，反之就必然遭到反噬。

季卫东教授以知名科幻电影《2001太空漫游》《终结者》等为例，说明技术是人类认识和改造自然的手段，在此过程中也必然会带来问题和风险，人类对此已经产生一定的警惕性。但从法律角度分析，随着科技的不断演进，特别是人工智能的发展可能带来很多问题的不可说明，人类组织的问责机制将会受到严峻考验。

在人工智能哲学方面有所建树的徐英瑾教授也表示“事情正在起变化”。刘伟教授则称，尽管人类距离真正的人工智能还很远，目前更多的是人机交互状态，但确实已经到了应该反思的时候。

工具会奴役人吗？

延续对于技术的反思，对谈话题从人的角度延伸到更为具体的“人类制造工具还是被工具制造”的问题。

正如吴国盛老师指出的人与科技的镜像关系，人类在利用技术时，技术也在利用人性持续进化。技术为人类生活带来越大的便利，技术对于人类的隐性支配就越强，从这一角度看，人类思考和选择的主动性大大降低了，算法会代替我们完成一切，而人类却不免觉得自己始终掌握着主动权，余盛峰称之为“理性人的幻觉”。

两位哲学教授对于人与工具的关系也有着相似的理解，他们认为最重要的是看清其背后的问题。“太阳底下没有新鲜事”，吴国盛强调，人类始终被过去遗留下来的生活方式所固化和控制，包括对于工具的制造和使用。可以说，人的“被控制”是一以贯之的，对于技术既有爱也有怕正显示了人类这样一种“永恒的境况”。

徐英瑾在此基础上补充道，在人类的基本心理和生理构造并未改变的前提下，技术的突飞猛进带来的海量信息和看似多样的工具，实际上会造成对人类思维结构的破坏。他特别以短视频的流行为例表达了这样的担忧，认为长期只接收这样的内容可能弱化人的语言思维能力和想象力。

季卫东提醒，当前人与工具的界限已经岌岌可危。他借用阿西莫夫的机器人三定律和零定律来解释人与工具的关系，人类制造工具并对其进行绝对控制，但随着技术的发展必然出现矛盾、冲突甚至失控，人类必须直面这一问题。

变动的边界

落到具体的问题上，主持人与五位嘉宾还从2019年受到广泛关注的人类基因组编辑事件出发，探讨科技的伦理边界。

刘锋老师更愿意为这一讨论提供反思的视角，如果人类的进化并不存在一个固定的方向，那么追求统一的伦理是否有其意义？假设存在这个方向，即为了人类的生存与发展，那么科技将被用来促进这一目标，讨论伦理边界的问题就要先解决伦理如何制定的问题。

鉴于时代演进和人与技术的复杂关系，对此法学家季卫东认为，如“电车问题”这样的传统伦理难题要在全新的技术思维和手段之下重新思考，包括利用技术手段预测或推断犯罪的手法也与法律角度认可的无罪推定之间存在矛盾，种种问题都变得更为尖锐。

西方伦理难题作为思想实验，提醒人类意识到自身的局限，并随之建立一系列的伦理标准。清华大学科学史系主任吴国盛进一步表示，由于中国人的传统伦理道德观念与现代科技带来的伦理问题之间存在认识差异，不仅要意识到东西方伦理之间的冲突，更要意识到科技对于这种冲突的放大。

重新思考和界定技术带来的伦理问题时，几位学者基本认同两种方式：第一是从法律层面规制技术，保障个人的权益特别是隐私数据，如欧盟的《通用数据保护条例》（General Data Protection Regulation, GDPR）；另一种则是利用技术本身的力量来规制技术，如同徐英瑾教授提倡的相对于“大数据”的“小数据”，他更倾向于发展那种天然不需要采集大量数据的人工智能技术，从中获得更大的灵活性和对个人信息的保护。

人类的选择权

在对话的最后，几位学者各自总结了对于人类与技术关系以及人类未来前景的思考，表达了谨慎的乐观态度。

复旦大学哲学学院徐英瑾教授延续他以技术制技术的观点，指出可以利用中国的“虎符”思想，对数据进行拆分，完善相关法律并在技术上加强对本地存储的利用，实现对于数据寡头的制衡。

刘伟虽是技术专家，但对于技术的思考并未止步于技术本身。他使用“弥聚”一词来总结人与技术（或机器）之间的关系，人变得越来越技术化，而技术则越来越人性化。在此前提下，基于人类本身逻辑的零碎特性，或许东方人不强调系统逻辑的思想观念会给未来带来更多的启发。

哲学教授吴国盛也重申了他对于人与技术互动关系的看法，面对日新月异的技术进步不必过虑，技术的发展也要经受人性的选择，也会通过种种手段进行调节。甚至谨慎之余，可以乐观地说，新技术也创造了更多的爱与多样性，人并不会丧失全部的选择权。

区块链技术正是当前技术领域的热点。计算机博士刘锋认为，尽管当前的人工智能发展方向尚不明确，面对人工智能加网络的巨系统带来的冲击，未来也许不是从技术而是要从庞大科技企业的组织甚至股权结构来入手，借助区块链技术来管理巨量信息和科技手段的利用，为全人类谋福祉。

法学教授季卫东也认同，人类世界处在虽不可见却无所不在的规制之中，如果能在强调数据整合的智能技术和强调数据分片的区块链技术之间达成一定平衡，那么以技术监督技术、以人工智能监督人工智能恐怕是一种颇为合理的选择。