进入原新闻
进入原话题
下载APP
去提问
注册/登录
下载APP
打开澎湃客户端提问
分享
澎湃新闻客户端

智库报告

人工智能时代的政治哲学思考(中)

吴冠军/华东师范大学政治学系教授

2018-03-28 12:34  来源:澎湃新闻

【编者按】
2017年11月27日,在上海外国语大学虹口校区第277期“上外博士沙龙”活动中,华东师范大学政治学系教授吴冠军发表了题为“人工智能时代的政治哲学思考”的学术演讲。
吴冠军教授认为,人工智能崛起是我们这个时代的大事件,面对这样的大事件,政治哲学研究者应当介入。吴教授引用荀子和亚里士多德的看法指出,人类的政治活动源自“人能群”,这使得人类相较于动物自成一个维度。但面对当今人工智能的新进展,人类有些紧张,有些惧怕,因为人类忽然发现,现在搞不定人工智能了。
吴教授指出,人工智能的崛起,可能给人类社会带来新的维度变化,加剧社会中极少数精英与绝大多数民众之间已有的社会分化。解决之道在于,迈向“共富国”,就是实现共富,让社会中的每一个人都有机会能分享到今天科技发展的利好。吴教授提醒我们,当分享不了的时候,这个社会就会出现越来越多的扭曲。
以下为这次学术演讲的文字记录稿,由澎湃新闻记者依据现场录音整理和编辑,并由吴冠军教授改定。全文约两万字,分三部分刊出,以下为第二部分。

纳粹军官杀犹太人的时候,他们认为自己做这件事是为了人类整体作为一个物种能更健康地发展。图为纳粹德国关押和集体屠杀犹太人的集中营之一奥斯维辛集中营遗址。
纳粹屠杀犹太人的理据
生活中,当我们遛狗的时候,我们跟动物发生关系的时候,我们自认为是主人的时候,我们到底在做什么?人能对动物残忍,人才会对人残忍。你们去掂量一下这个论题。你要设想人对人不残忍的那一天,你要先看人对动物有没有不残忍。
我要提出一个很尖锐的命题:我们都熟悉并不太遥远的过去;当我们讨论马上要来的未来的时候,这是一个很好的契机,我们可以思考一下我们刚刚经历的过去。如果你还愿意回过头去思考一下那件人类惨剧的话,你会发现那是惊心动魄的。
纳粹做了一件事情,什么事情?就是对犹太人实行降维攻击,纳粹把犹太人从同一维度里的人,降成半动物性的存在。我是专门去看过当时的宣传手册,很可怕。纳粹形容犹太人,用各种各样的比喻,说他们是瘟疫,是害虫,是影响这个社会的寄生虫,破坏社会的有机健康,专门不工作,窃取社会的经济成果,勾引良家妇女,不洗澡,然后鼻子长、性欲旺盛,等等。所有这些描述,就跟我们描述动物的性质一样,是一条一条的。这样的描述就是要把他们降到另外一个维度上。
研究纳粹政治非常有影响的政治理论家汉娜•阿伦特(Hannah Arendt),她在1961就审判纳粹专门写了一个长篇分析。她认为,纳粹政治是一种平庸的恶。什么是“平庸的恶”?就是说,在纳粹的制度下,下级官僚对上级的命令是无条件服从,不加思考地服从。其实他们不是恶人,他们只是平庸的人,没有分辨是非的能力,只是坚定不移地贯彻上级领导的指令。这样的人在纳粹的系统中扮演很重要的角色,他们成了纳粹集中营的刽子手。
这是阿伦特很重要的一个分析,在学界被普遍认可。今天我们一路思考过来,从人类文明的最初开始,再思考纳粹,然后思考人工智能对我们的生活造成的影响,我认为,阿伦特的话说满了,真的只是平庸的恶吗?我分析过相关资料,当时希特勒在欧洲战事不利,节节败退,在撤退的时候,希特勒下了一个指令,就是命令所有的德国军官,在撤退之前,把欧洲各名城全部炸毁,不留给对方。但是很多将官抗令,他们说:我们可以撤退,但这种事我们不做。如果他们做了,我们今天还去欧洲游什么,没有东西可以看了,全部都没了。
我们追问一下:为什么对希特勒的这个命令,那些将官可以抗令;而把犹太人送到毒气室里面的时候,却没有人抗命,而且执行得很利索,一批一批杀?我们要追问,真的是“平庸的恶”在起作用?如果只是官僚制的话,上面下命令,下面就服从,那么为什么希特勒要求炸毁那些城市的时候,将官们就不服从,而接到杀犹太人命令的时候,同样一批人可以从容不迫地按下毒气室的按钮?肯定有另外一个力量在操作,这个力量就是我刚才分析的,“人类学机器”,一个话语装置的力量。
那些纳粹军官在按下毒气室按钮的时候,他们认为:我不是在杀人,只是在杀比自己更低级的动物性的存在,只是在杀害虫,而犹太人恰恰是社会里面的蛀虫。希特勒自己说,犹太人是虱子,只有干掉犹太人,这个社会才能更健康。我们一般人捏死一只虱子的时候不会有不适感,纳粹官员按下毒气室按钮的时候也是这样,肯定按得下去。当你把杀死犹太人当做杀死虱子螨虫的时候,你会毫不犹豫。纳粹政治就是这样的。
关于纳粹政治,战后审判纳粹的法官与阿伦特处在两个极端,彼此互不兼容。法官认为,纳粹军官犯下了反人类罪,这是很严重的罪,要处死。阿伦特说那些纳粹军官只不过是平庸的恶,不是反人类罪,任何人在纳粹军官那个位置都会做这种事情。照我说,这两种完全相反的论断全部不适用。
真的是反人类罪吗?我们刚才分析了。纳粹军官杀犹太人的时候,他们认为自己是在杀虱子,是在杀死这个社会上的寄生虫,他们最多是反虱子罪,没有反人类罪。他们做这件事恰恰是为了人类整体作为一个物种能更健康地发展。希特勒直到去世都认为:我们日耳曼人是雅利安人的典范,是人类DNA所能繁衍出的最优质、最精华的物种;而我们现在正在被低劣的寄生虫侵蚀,不把他们弄掉,人类这个物种是没有明天的。于是,纳粹不是反人类,而是太人类了。尼采有一句话叫“人类,太人类了!”这就是纳粹干的事情。纳粹杀死犹太人的时候,他们干的事情就是这样:“人类,太人类了!”
反过来思考未来人工智能与我们人类的关系的时候,我们就要思考到这一点:我们为什么对另外一种动物,甚至是对人类那么残忍,就是因为我们太人类了。我们把自己放在了这样一个位置上,所有的残忍我们都不觉得有什么,直到有一天,忽然发现我们原来是那么残忍,然后我们又忘记,又翻过这一页。
人类之上的神永远为人类秩序服务
继续分析的话,在另一个点上,我们发现我们人类做了一件有意思的事情。
存在这样一个生命的等级制,最低等级的是植物——植物也有生命——然后是动物,然后是人。但是该等级制没有到此为止,人类在漫长的岁月里干了一件事情:我们在我们的上面又搞了一个东西叫神。各种文化里面都有神,还没有发现哪种文化里面彻底没有。在这里,我们就发现了人类话语装置有意思的地方。就是说,人类虽然在自己上面造出神,但逻辑是不一样的:人可以对比自己更低等级的物种残忍,但在人类之上的神,却不能对人那么残忍。
不相信的话,你们去翻一下各大文明关于神的文本,比如说基督教,基督教的神是给你救赎的,他给你天国。我们这边的神,比如龙王,是当你没有收成了,给你降雨;比如观音,你生不出儿子去拜的话,她就给你一个儿子。你们发现没有,所有人类敬拜的神对人都是特别好的。当然也有对人残忍的,比如撒旦。但在所有人类文明里面,你会发现,所有对人类不好的神,永远是被对人类好的神压在下面,永远是干不过对人类好的神的。
就是在这个意义上,我认为,神学永远是政治神学。就是说,神永远是为人类秩序服务的。神在人类之上,但神是为人类服务的。干什么呢,就是为人类所做的所有事情提供正当性。人类很聪明,人类做很多事情不是为了别的,而是要洗白人类自己的残忍。你们去看基督教,看圣经。圣经中说,人跟人之间,人不能杀戮,这是对的;但是神没有说,你不能杀戮其他动物。可见,神的话语,就是给人的各种各样行动留下了来自更高维度的一个论证。
“彼岸”、“超越性”,这些词,象征着神跟人永远是隔绝的,是维度的不同,不是说人可以慢慢变成神;不是的,是一个维度的不同,我们永远在神的下面。然而,我们又设定,神是对人好的,神的存在是为人服务的。那么神学的根本问题就在于:真的存在上帝的话,上帝会在乎你吗?你只不过是他创造出来的东西。上帝为什么要对你好,很关心你呢?我们人类造出了很多东西,我们对那些东西很关心吗?凭什么上帝要对你这样一个低维度的存在那么好?这是神学最根本的问题。
《西游记》和《封神演义》中的激进突破
通过这个角度,我们发现,我们人类文明一直走了很扭曲的道路。我们搞出各种各样的话语装置,最后都是为了论证我们人今天的位置。了解了这个背景以后,我们发现中国人做了两件很骄傲的事情,就是我们的文化里面,我认为有两部真是很经典的著作,就是《西游记》,以及算作《西游记》续作的《封神演义》。这是明朝很精彩的两部小说作品。
这两部小说作品做了什么事情呢?它们是直接挑战了我们人类文明赖以生存的一整套说法,挑战了“人类学机器”。在这两部小说的故事里面,首先有维度区别,有神,有人,也有动物。但是有一个设计上的不同,就是你可以通过修道的方式,通过实践的方式,跨越不同的维度,可以从低维升到高维。不要小看这个变化,有了这样的设定,动物、人和神不再是维度性的不同,它们变成了一个维度里面不同级别的东西。人类是一个级别,可以修道上升,人类以下的动物也一样,可以升上来,通过修道变成人,然后可以超过人,变成神,并获得认可。
人类学机器是一个本体论的等级制,而在那两部小说中被实践论的修道给冲破了。你通过实践,能突破等级,最后上升到顶端。我们知道《封神演义》里面有一个人物叫石矶娘娘,她是一块石头,是一个无生物,连无生物都能够上升到高于人的位置,所以说《西游记》和《封神演义》的故事首先最为激进地冲破了等级制。不再是上面对下面,下面再对更下一级,而是任何一级都能突破原有的级别,突破原有的维度而上升。在这个意义上说,整个人类文明里面,也就只有这个设定,能够做出这样一个真正激进的突破,就是一切都能被打破。
今天的人类社会已经很自由主义了,很平等了;我们人类现代社会的前提设定就是人跟人是平等的。以前,假如说你是王侯将相,你是朱元璋的后代,你就可以如何如何。今天,国家领导人周期性更换,理论上每个人都有机会被选上去。一个人被选上去没什么,但是你想想看:一个人从底层通过打拼,像奥巴马一样,三十年后变成一个总统;中国在美国的华人,前后两代人打拼,最后出来一个州长。这些都被接受了。但是,你能不能接受一只猪,经过三十年打拼,最后变成了我们的领袖?不可能的。只有《西游记》能够如此激进地挑战生命等级制,这是一个大突破,让我们重新思考动物、人和神之间的关系。
《西游记》中另外一个比较激进的方面是,其他人类神话故事里面都没有神能吃人的设定,人吃动物可以,没法想像神能吃我们,但《西游记》里面有的。奎木狼,二十八星宿之一,没事就吃人;猪八戒吃人,沙和尚也吃人,没事就吃人。
作为人类,我们回过去想,我们从食物链中端爬到顶端,然后在“人类学机器”的设定下突破维度的限制。我一直认为,转基因绝对不是过去这些年开始搞的,事实上人类过去七万年都在搞转基因的事情,只为自己可以吃得更爽。人类还专门培育比如可以挤出很多奶水的奶牛,想想看这对奶牛多么残忍:它必须不断去怀孕,不断去哺乳,然后又要怀孕,又要哺乳。然后小牛生下来,马上就被我们人类抓去,因为人要吃嫩牛肉。人对人不可能做到这一点,人无法时刻去哺乳。这是很残忍的事情,我们人类没有感觉,我们还恨不得一只鸡浑身长满鸡翅膀,浑身长满鸡腿。
我们从来没法想象,一个神会希望你们人长满“人大腿”,每天都在思考怎么吃人可以吃得更爽。但是《西游记》里面有,有专门吃女人的神,有专门吃孩子的神,什么神都有。这种描述,让我们思考的一个话题是:在一个虚幻的故事里面,反过来恰恰能看到我们社会的本质。在《西游记》的故事里面,神是可以吃我们人的。于是我们就不得不思考:为什么神要对我们好,为什么我们能这么对动物,为什么我们值得别人对我们尊重?
现在有另外一个力量正在远远超过人类,我们希望这个力量要对我们尊重,凭什么呢?我们从来没有思考过这个问题。
《西部世界》中的人工智能与人类本性
2016年播出的美剧《西部世界》海报
今天搞人工智能,各种讨论唾沫横飞,有没有人思考过:人类是怎么来的?在人类纪,人类今天做的所有引以为自豪的东西,建立在什么上面?
神魔小说、幻想小说等等,好的奇幻作品永远不只是关于奇幻。好的奇幻作品、科幻作品,都是关于当下。说到科幻作品,你们多少人看过《西部世界》(Westworld)?这是一部美剧,讨论人工智能,这是必看的一部作品。
“西部世界”是什么?就是一个主题公园,很多人跑过去,怎么玩呢?就是人工智能机器人给你做服务生。你碰到的所有人,酒吧服务员也好,良家闺女也好,警察也好,各种各样的人全部是人工智能机器人。原则上你只要花了钱在那边,你烧杀奸淫,什么都能干。因为它们都是人工智能的机器人,你花钱就是到这边来干这种事情的,干完以后被杀的人会被拖走。
今天关于人工智能的各种各样的讨论里面,有两个共识没有人碰过。
第一个,人工智能这个词,AI,artificial intelligence,前提是人造的,也就是说,人是AI的创造者。就像以前神造人类一样,AI是人类的造物,命名上就是这样。这是第一个命题:人工智能是我们人类的造物。
第二个命题:我们造它,是为了让它给我们服务。没有人挑战过这一点。人类为什么要造它,总有目的的。现在有了智能扫地机器人,我们可以不用扫地,它能帮我们扫,我们要人工智能干嘛?为我们服务啊。人自己不需要干活,有人工智能帮你干,而且干得比你好。在这个意义上,人工智能才能发展。
现实版钢铁侠、美国电动汽车制造商特斯拉公司首席执行官埃隆·马斯克
今年(2017年)8月份,被称为“现实版钢铁侠”的埃隆•马斯克(Elon Musk),他率领一百多个人工智能专家说:不行,我们要停止人工智能开发;因为开发人工智能就是灭亡。如果我们不想自己灭亡,现在就应该限制人工智能开发,因为我们不知道会开发到什么程度。我们不知道人工智能是不是有意识,甚至它们可以隐藏自己,直到我们有一天发现,想要拔插头的时候拔不了了。
然而问题恰恰在于,即便再多的专家提醒,只要人工智能为人类服务的潜能不变的话,人工智能的开发是停不下来的。我们这个制度是什么制度?全球资本主义秩序。资本往哪里走?哪里有利润资本就往哪里走。资本本身没有善恶,就算你天天批判资本,资本觉得你能给它带来增量,它就会来,它不会在乎你是不是骂它了。资本会扑向任何一个有增量的地方,有盈利空间的地方,这是从卡尔•马克思之后,一路分析下来非常清楚的。
为什么会有全球金融危机呢,就是资本突然发现没有地方可以盈利了,暂时找不到出路了。为什么经济危机越来越密集,就是因为我们现在地球太小了,小到地球村这个地步了。发现了新大陆,资本就很开心啊,马上扑过去,但是在高度全球化的今天,现在哪一个市场都很饱和。中国曾经是一块市场的新大陆,但资本一旦发现你这里的盈利空间越来越小,人工成本越来越高,它还来干吗呢?企业挣不到钱就走了。前几年富士康有那么多工人跳楼 ,它说好吧,我们不要你工人总可以吧。去年(2016年)它引入四万台人工智能机器人,据说取代了六万个工人。
所以资本很简单,它就是找盈利空间,而现在越来越难。李嘉诚跑到英国去,你以为英国的发展很好吗,你以为英国还是一个没有开发过的市场?资本到最后,只要有盈利空间,它会趋之若鹜。你这里如果有创新,它马上来。你给我一个好的想法,比方说共享单车,听着不错就来了,试试看,说不定我就能发。就这么过来的。但现在越来越难,毕竟人类的创新能力越来越有限,所以金融危机才会越来越密集。你们去想想看,盈利空间越来越小。
人工智能行业为什么这几年吸那么多钱?马斯克的警示没用,只要人工智能对人的服务能力还在指数级往上涨,人工智能飞速发展的趋势就不会停止。以前你可能还要为收拾家务和你老婆吵架,但是以后,有了人工智能机器人,你家里不要有人,有一个机器人就可以了。你回家后,有个机器奶妈可以帮你弄好全部家务,你自己不需要做任何事情。以人工智能这样的发展,马斯克再呼吁也没用,因为资本不管你呼吁,只要赚钱。这家资本不投入,会有别的资本进来,继续开发人工智能。
“西部世界”就是一个典型,那里的人工智能就是服务你的。你作为人,现在想到别的地方放纵,很难,那么就欢迎你到西部世界来,这里是你的天堂。在这里你可以无恶不作,一切都允许。而且,美剧中的事情,正在变成现实。你去看(2017年)10月的一个报道,在美国,人工智能性爱机器人已经批量生产出来。当这种机器人生产得足够多的时候,不就形成一个主题乐园了吗?你在里面什么都能干。
人类发展到现在,通过很多话语,人类觉得自己很有尊严。我们人跟人接触的时候,都是衣冠楚楚的,都是非常有礼貌的,特别是对女士优先,有各种各样的方法,非常好。但是人类伦理的尊严,不只是体现在人跟人之间:人跟人之间再好,并不定义你是谁;而当你知道你面对的不是一个人的时候,你干什么才真正定义你是谁
在《西部世界》这个剧里面,一个前一秒还是白领的人,衣冠楚楚,后一秒就可以无恶不作,奸淫杀掠,然后回归正常工作场合后恢复衣冠楚楚的形象。当你知道你所面对的是一个人工智能机器人的时候,你可以去做任何事情,这个时刻,你才知道自己是一个怎样的人。
很多年前,有女生在微博上放虐猫的图片,把猫的指甲剪掉。你说这样的女生是什么人?在生活中她可能对你和颜悦色,但回过头去就虐待猫。现代社会,人对人作恶的成本越来越高,你可以作恶,但是你试试看后果。而在遍布人工智能机器人的西部世界,你对那些机器人作恶,不需要付代价,任何在现实世界中不能干的事情,在那里都能干。(待续)
(李宁琪同学、邢英莉女士对本文亦有贡献)
(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)
责任编辑:李旭
校对:张艳
澎湃新闻,未经授权不得转载。新闻报料:4009-20-4009
打开澎湃新闻APP,阅读体验更佳