人工智能时代的政治哲学思考（中）

【编者按】

2017年11月27日，在上海外国语大学虹口校区第277期“上外博士沙龙”活动中，华东师范大学政治学系教授吴冠军发表了题为“人工智能时代的政治哲学思考”的学术演讲。

吴冠军教授认为，人工智能崛起是我们这个时代的大事件，面对这样的大事件，政治哲学研究者应当介入。吴教授引用荀子和亚里士多德的看法指出，人类的政治活动源自“人能群”，这使得人类相较于动物自成一个维度。但面对当今人工智能的新进展，人类有些紧张，有些惧怕，因为人类忽然发现，现在搞不定人工智能了。

吴教授指出，人工智能的崛起，可能给人类社会带来新的维度变化，加剧社会中极少数精英与绝大多数民众之间已有的社会分化。解决之道在于，迈向“共富国”，就是实现共富，让社会中的每一个人都有机会能分享到今天科技发展的利好。吴教授提醒我们，当分享不了的时候，这个社会就会出现越来越多的扭曲。

以下为这次学术演讲的文字记录稿，由澎湃新闻记者依据现场录音整理和编辑，并由吴冠军教授改定。全文约两万字，分三部分刊出，以下为第二部分。

纳粹屠杀犹太人的理据

生活中，当我们遛狗的时候，我们跟动物发生关系的时候，我们自认为是主人的时候，我们到底在做什么？人能对动物残忍，人才会对人残忍。你们去掂量一下这个论题。你要设想人对人不残忍的那一天，你要先看人对动物有没有不残忍。

我要提出一个很尖锐的命题：我们都熟悉并不太遥远的过去；当我们讨论马上要来的未来的时候，这是一个很好的契机，我们可以思考一下我们刚刚经历的过去。如果你还愿意回过头去思考一下那件人类惨剧的话，你会发现那是惊心动魄的。

纳粹做了一件事情，什么事情？就是对犹太人实行降维攻击，纳粹把犹太人从同一维度里的人，降成半动物性的存在。我是专门去看过当时的宣传手册，很可怕。纳粹形容犹太人，用各种各样的比喻，说他们是瘟疫，是害虫，是影响这个社会的寄生虫，破坏社会的有机健康，专门不工作，窃取社会的经济成果，勾引良家妇女，不洗澡，然后鼻子长、性欲旺盛，等等。所有这些描述，就跟我们描述动物的性质一样，是一条一条的。这样的描述就是要把他们降到另外一个维度上。

研究纳粹政治非常有影响的政治理论家汉娜•阿伦特（Hannah Arendt），她在1961就审判纳粹专门写了一个长篇分析。她认为，纳粹政治是一种平庸的恶。什么是“平庸的恶”？就是说，在纳粹的制度下，下级官僚对上级的命令是无条件服从，不加思考地服从。其实他们不是恶人，他们只是平庸的人，没有分辨是非的能力，只是坚定不移地贯彻上级领导的指令。这样的人在纳粹的系统中扮演很重要的角色，他们成了纳粹集中营的刽子手。

这是阿伦特很重要的一个分析，在学界被普遍认可。今天我们一路思考过来，从人类文明的最初开始，再思考纳粹，然后思考人工智能对我们的生活造成的影响，我认为，阿伦特的话说满了，真的只是平庸的恶吗？我分析过相关资料，当时希特勒在欧洲战事不利，节节败退，在撤退的时候，希特勒下了一个指令，就是命令所有的德国军官，在撤退之前，把欧洲各名城全部炸毁，不留给对方。但是很多将官抗令，他们说：我们可以撤退，但这种事我们不做。如果他们做了，我们今天还去欧洲游什么，没有东西可以看了，全部都没了。

我们追问一下：为什么对希特勒的这个命令，那些将官可以抗令；而把犹太人送到毒气室里面的时候，却没有人抗命，而且执行得很利索，一批一批杀？我们要追问，真的是“平庸的恶”在起作用？如果只是官僚制的话，上面下命令，下面就服从，那么为什么希特勒要求炸毁那些城市的时候，将官们就不服从，而接到杀犹太人命令的时候，同样一批人可以从容不迫地按下毒气室的按钮？肯定有另外一个力量在操作，这个力量就是我刚才分析的，“人类学机器”，一个话语装置的力量。

那些纳粹军官在按下毒气室按钮的时候，他们认为：我不是在杀人，只是在杀比自己更低级的动物性的存在，只是在杀害虫，而犹太人恰恰是社会里面的蛀虫。希特勒自己说，犹太人是虱子，只有干掉犹太人，这个社会才能更健康。我们一般人捏死一只虱子的时候不会有不适感，纳粹官员按下毒气室按钮的时候也是这样，肯定按得下去。当你把杀死犹太人当做杀死虱子螨虫的时候，你会毫不犹豫。纳粹政治就是这样的。

关于纳粹政治，战后审判纳粹的法官与阿伦特处在两个极端，彼此互不兼容。法官认为，纳粹军官犯下了反人类罪，这是很严重的罪，要处死。阿伦特说那些纳粹军官只不过是平庸的恶，不是反人类罪，任何人在纳粹军官那个位置都会做这种事情。照我说，这两种完全相反的论断全部不适用。

真的是反人类罪吗？我们刚才分析了。纳粹军官杀犹太人的时候，他们认为自己是在杀虱子，是在杀死这个社会上的寄生虫，他们最多是反虱子罪，没有反人类罪。他们做这件事恰恰是为了人类整体作为一个物种能更健康地发展。希特勒直到去世都认为：我们日耳曼人是雅利安人的典范，是人类DNA所能繁衍出的最优质、最精华的物种；而我们现在正在被低劣的寄生虫侵蚀，不把他们弄掉，人类这个物种是没有明天的。于是，纳粹不是反人类，而是太人类了。尼采有一句话叫“人类，太人类了！”这就是纳粹干的事情。纳粹杀死犹太人的时候，他们干的事情就是这样：“人类，太人类了！”

反过来思考未来人工智能与我们人类的关系的时候，我们就要思考到这一点：我们为什么对另外一种动物，甚至是对人类那么残忍，就是因为我们太人类了。我们把自己放在了这样一个位置上，所有的残忍我们都不觉得有什么，直到有一天，忽然发现我们原来是那么残忍，然后我们又忘记，又翻过这一页。

人类之上的神永远为人类秩序服务

继续分析的话，在另一个点上，我们发现我们人类做了一件有意思的事情。

存在这样一个生命的等级制，最低等级的是植物——植物也有生命——然后是动物，然后是人。但是该等级制没有到此为止，人类在漫长的岁月里干了一件事情：我们在我们的上面又搞了一个东西叫神。各种文化里面都有神，还没有发现哪种文化里面彻底没有。在这里，我们就发现了人类话语装置有意思的地方。就是说，人类虽然在自己上面造出神，但逻辑是不一样的：人可以对比自己更低等级的物种残忍，但在人类之上的神，却不能对人那么残忍。

不相信的话，你们去翻一下各大文明关于神的文本，比如说基督教，基督教的神是给你救赎的，他给你天国。我们这边的神，比如龙王，是当你没有收成了，给你降雨；比如观音，你生不出儿子去拜的话，她就给你一个儿子。你们发现没有，所有人类敬拜的神对人都是特别好的。当然也有对人残忍的，比如撒旦。但在所有人类文明里面，你会发现，所有对人类不好的神，永远是被对人类好的神压在下面，永远是干不过对人类好的神的。

就是在这个意义上，我认为，神学永远是政治神学。就是说，神永远是为人类秩序服务的。神在人类之上，但神是为人类服务的。干什么呢，就是为人类所做的所有事情提供正当性。人类很聪明，人类做很多事情不是为了别的，而是要洗白人类自己的残忍。你们去看基督教，看圣经。圣经中说，人跟人之间，人不能杀戮，这是对的；但是神没有说，你不能杀戮其他动物。可见，神的话语，就是给人的各种各样行动留下了来自更高维度的一个论证。

“彼岸”、“超越性”，这些词，象征着神跟人永远是隔绝的，是维度的不同，不是说人可以慢慢变成神；不是的，是一个维度的不同，我们永远在神的下面。然而，我们又设定，神是对人好的，神的存在是为人服务的。那么神学的根本问题就在于：真的存在上帝的话，上帝会在乎你吗？你只不过是他创造出来的东西。上帝为什么要对你好，很关心你呢？我们人类造出了很多东西，我们对那些东西很关心吗？凭什么上帝要对你这样一个低维度的存在那么好？这是神学最根本的问题。

《西游记》和《封神演义》中的激进突破

通过这个角度，我们发现，我们人类文明一直走了很扭曲的道路。我们搞出各种各样的话语装置，最后都是为了论证我们人今天的位置。了解了这个背景以后，我们发现中国人做了两件很骄傲的事情，就是我们的文化里面，我认为有两部真是很经典的著作，就是《西游记》，以及算作《西游记》续作的《封神演义》。这是明朝很精彩的两部小说作品。

这两部小说作品做了什么事情呢？它们是直接挑战了我们人类文明赖以生存的一整套说法，挑战了“人类学机器”。在这两部小说的故事里面，首先有维度区别，有神，有人，也有动物。但是有一个设计上的不同，就是你可以通过修道的方式，通过实践的方式，跨越不同的维度，可以从低维升到高维。不要小看这个变化，有了这样的设定，动物、人和神不再是维度性的不同，它们变成了一个维度里面不同级别的东西。人类是一个级别，可以修道上升，人类以下的动物也一样，可以升上来，通过修道变成人，然后可以超过人，变成神，并获得认可。

人类学机器是一个本体论的等级制，而在那两部小说中被实践论的修道给冲破了。你通过实践，能突破等级，最后上升到顶端。我们知道《封神演义》里面有一个人物叫石矶娘娘，她是一块石头，是一个无生物，连无生物都能够上升到高于人的位置，所以说《西游记》和《封神演义》的故事首先最为激进地冲破了等级制。不再是上面对下面，下面再对更下一级，而是任何一级都能突破原有的级别，突破原有的维度而上升。在这个意义上说，整个人类文明里面，也就只有这个设定，能够做出这样一个真正激进的突破，就是一切都能被打破。

今天的人类社会已经很自由主义了，很平等了；我们人类现代社会的前提设定就是人跟人是平等的。以前，假如说你是王侯将相，你是朱元璋的后代，你就可以如何如何。今天，国家领导人周期性更换，理论上每个人都有机会被选上去。一个人被选上去没什么，但是你想想看：一个人从底层通过打拼，像奥巴马一样，三十年后变成一个总统；中国在美国的华人，前后两代人打拼，最后出来一个州长。这些都被接受了。但是，你能不能接受一只猪，经过三十年打拼，最后变成了我们的领袖？不可能的。只有《西游记》能够如此激进地挑战生命等级制，这是一个大突破，让我们重新思考动物、人和神之间的关系。

《西游记》中另外一个比较激进的方面是，其他人类神话故事里面都没有神能吃人的设定，人吃动物可以，没法想像神能吃我们，但《西游记》里面有的。奎木狼，二十八星宿之一，没事就吃人；猪八戒吃人，沙和尚也吃人，没事就吃人。

作为人类，我们回过去想，我们从食物链中端爬到顶端，然后在“人类学机器”的设定下突破维度的限制。我一直认为，转基因绝对不是过去这些年开始搞的，事实上人类过去七万年都在搞转基因的事情，只为自己可以吃得更爽。人类还专门培育比如可以挤出很多奶水的奶牛，想想看这对奶牛多么残忍：它必须不断去怀孕，不断去哺乳，然后又要怀孕，又要哺乳。然后小牛生下来，马上就被我们人类抓去，因为人要吃嫩牛肉。人对人不可能做到这一点，人无法时刻去哺乳。这是很残忍的事情，我们人类没有感觉，我们还恨不得一只鸡浑身长满鸡翅膀，浑身长满鸡腿。

我们从来没法想象，一个神会希望你们人长满“人大腿”，每天都在思考怎么吃人可以吃得更爽。但是《西游记》里面有，有专门吃女人的神，有专门吃孩子的神，什么神都有。这种描述，让我们思考的一个话题是：在一个虚幻的故事里面，反过来恰恰能看到我们社会的本质。在《西游记》的故事里面，神是可以吃我们人的。于是我们就不得不思考：为什么神要对我们好，为什么我们能这么对动物，为什么我们值得别人对我们尊重？

现在有另外一个力量正在远远超过人类，我们希望这个力量要对我们尊重，凭什么呢？我们从来没有思考过这个问题。

《西部世界》中的人工智能与人类本性

今天搞人工智能，各种讨论唾沫横飞，有没有人思考过：人类是怎么来的？在人类纪，人类今天做的所有引以为自豪的东西，建立在什么上面？

神魔小说、幻想小说等等，好的奇幻作品永远不只是关于奇幻。好的奇幻作品、科幻作品，都是关于当下。说到科幻作品，你们多少人看过《西部世界》（Westworld）？这是一部美剧，讨论人工智能，这是必看的一部作品。

“西部世界”是什么？就是一个主题公园，很多人跑过去，怎么玩呢？就是人工智能机器人给你做服务生。你碰到的所有人，酒吧服务员也好，良家闺女也好，警察也好，各种各样的人全部是人工智能机器人。原则上你只要花了钱在那边，你烧杀奸淫，什么都能干。因为它们都是人工智能的机器人，你花钱就是到这边来干这种事情的，干完以后被杀的人会被拖走。

今天关于人工智能的各种各样的讨论里面，有两个共识没有人碰过。

第一个，人工智能这个词，AI，artificial intelligence，前提是人造的，也就是说，人是AI的创造者。就像以前神造人类一样，AI是人类的造物，命名上就是这样。这是第一个命题：人工智能是我们人类的造物。

第二个命题：我们造它，是为了让它给我们服务。没有人挑战过这一点。人类为什么要造它，总有目的的。现在有了智能扫地机器人，我们可以不用扫地，它能帮我们扫，我们要人工智能干嘛？为我们服务啊。人自己不需要干活，有人工智能帮你干，而且干得比你好。在这个意义上，人工智能才能发展。

今年（2017年）8月份，被称为“现实版钢铁侠”的埃隆•马斯克（Elon Musk），他率领一百多个人工智能专家说：不行，我们要停止人工智能开发；因为开发人工智能就是灭亡。如果我们不想自己灭亡，现在就应该限制人工智能开发，因为我们不知道会开发到什么程度。我们不知道人工智能是不是有意识，甚至它们可以隐藏自己，直到我们有一天发现，想要拔插头的时候拔不了了。

然而问题恰恰在于，即便再多的专家提醒，只要人工智能为人类服务的潜能不变的话，人工智能的开发是停不下来的。我们这个制度是什么制度？全球资本主义秩序。资本往哪里走？哪里有利润资本就往哪里走。资本本身没有善恶，就算你天天批判资本，资本觉得你能给它带来增量，它就会来，它不会在乎你是不是骂它了。资本会扑向任何一个有增量的地方，有盈利空间的地方，这是从卡尔•马克思之后，一路分析下来非常清楚的。

为什么会有全球金融危机呢，就是资本突然发现没有地方可以盈利了，暂时找不到出路了。为什么经济危机越来越密集，就是因为我们现在地球太小了，小到地球村这个地步了。发现了新大陆，资本就很开心啊，马上扑过去，但是在高度全球化的今天，现在哪一个市场都很饱和。中国曾经是一块市场的新大陆，但资本一旦发现你这里的盈利空间越来越小，人工成本越来越高，它还来干吗呢？企业挣不到钱就走了。前几年富士康有那么多工人跳楼 ，它说好吧，我们不要你工人总可以吧。去年（2016年）它引入四万台人工智能机器人，据说取代了六万个工人。

所以资本很简单，它就是找盈利空间，而现在越来越难。李嘉诚跑到英国去，你以为英国的发展很好吗，你以为英国还是一个没有开发过的市场？资本到最后，只要有盈利空间，它会趋之若鹜。你这里如果有创新，它马上来。你给我一个好的想法，比方说共享单车，听着不错就来了，试试看，说不定我就能发。就这么过来的。但现在越来越难，毕竟人类的创新能力越来越有限，所以金融危机才会越来越密集。你们去想想看，盈利空间越来越小。

人工智能行业为什么这几年吸那么多钱？马斯克的警示没用，只要人工智能对人的服务能力还在指数级往上涨，人工智能飞速发展的趋势就不会停止。以前你可能还要为收拾家务和你老婆吵架，但是以后，有了人工智能机器人，你家里不要有人，有一个机器人就可以了。你回家后，有个机器奶妈可以帮你弄好全部家务，你自己不需要做任何事情。以人工智能这样的发展，马斯克再呼吁也没用，因为资本不管你呼吁，只要赚钱。这家资本不投入，会有别的资本进来，继续开发人工智能。

“西部世界”就是一个典型，那里的人工智能就是服务你的。你作为人，现在想到别的地方放纵，很难，那么就欢迎你到西部世界来，这里是你的天堂。在这里你可以无恶不作，一切都允许。而且，美剧中的事情，正在变成现实。你去看（2017年）10月的一个报道，在美国，人工智能性爱机器人已经批量生产出来。当这种机器人生产得足够多的时候，不就形成一个主题乐园了吗？你在里面什么都能干。

人类发展到现在，通过很多话语，人类觉得自己很有尊严。我们人跟人接触的时候，都是衣冠楚楚的，都是非常有礼貌的，特别是对女士优先，有各种各样的方法，非常好。但是人类伦理的尊严，不只是体现在人跟人之间：人跟人之间再好，并不定义你是谁；而当你知道你面对的不是一个人的时候，你干什么才真正定义你是谁。

在《西部世界》这个剧里面，一个前一秒还是白领的人，衣冠楚楚，后一秒就可以无恶不作，奸淫杀掠，然后回归正常工作场合后恢复衣冠楚楚的形象。当你知道你所面对的是一个人工智能机器人的时候，你可以去做任何事情，这个时刻，你才知道自己是一个怎样的人。

很多年前，有女生在微博上放虐猫的图片，把猫的指甲剪掉。你说这样的女生是什么人？在生活中她可能对你和颜悦色，但回过头去就虐待猫。现代社会，人对人作恶的成本越来越高，你可以作恶，但是你试试看后果。而在遍布人工智能机器人的西部世界，你对那些机器人作恶，不需要付代价，任何在现实世界中不能干的事情，在那里都能干。（待续）

（李宁琪同学、邢英莉女士对本文亦有贡献）