科幻大师工作坊:人工智能技术能否与人类组成命运共同体

澎湃新闻见习记者 程千千
2017-12-11 09:19
来源:澎湃新闻

“假如未来是一辆高速行驶的汽车,人工智能是它的油门,那么是否存在一种技术,能在油门失控时作为刹车?”

大屏幕上,2015年雨果奖得主、中国当代最有影响力的科幻作家刘慈欣如是问道。随着他的话音落下,现场的人们纷纷陷入了沉思。

这是12月1日,未来事务管理局与蚂蚁金服联合举办的未来事务管理局第4期科幻大师工作坊,邀请国内外顶尖科幻作家伊恩·R.麦克劳德、劳伦斯·M.舍恩、德瑞克·昆什肯、陆秋逸、卡罗琳·艾夫斯·吉尔曼、萨曼莎·莫里、江波、七格和陈楸帆来到杭州,与蚂蚁金服的技术团队一起,围绕“技术与好的未来”这一主题,探讨技术进步与社会发展之间的关系。

工作坊每年4期,每期由未来局带领15位科幻创作者,走进前沿技术的生产之源,了解科技工作者的切身体验,通常的活动流程为一个周末的参观研讨之旅,和两周的专业科幻创作辅导。

“不需要刹车,我们可以一直飞到星星上”

科学始于人类对未知世界的无限幻想。而科幻作家作为对未来的想象最为天马行空的一群人,往往能做出令人惊喜的预言。“小时候我看过一本名为《小灵通漫游未来》的科幻小说,里面有关气垫船、智能手表的想象如今早已成为了现实。” 蚂蚁金服CTO程立对科幻作家的想象力表示惊叹。

“每一个新概念的产生、每一个新想象的萌发,都会为人类带来无数的选择。每一个选择都会关上一些门,又打开一些门。”面对程立的称赞,劳伦斯·M.舍恩如此回应,“做出选择,就是创造未来。我们科幻作家想象未来,而你们将它们变为现实。没有想象,就没有未来。”

人们通常认为科幻作家对未来做出的预言多半悲观,对此卡罗琳·艾夫斯·吉尔曼提出了异议。“科幻作家的作用一般有两个:一是描绘未来坏的可能性,向人们提出警告;二是畅想好的未来,为社会发展提出灵感。”她说,”我更喜欢第二种,因为想象坏的未来很容易,而书写好的未来,需要更丰富的想象力和创造力。”

于是在未来光明面的指引下,在场的科幻作家对于人工智能技术的看法也不像公众一般充满了担忧,反倒表露出一定的乐观。而对于开头刘慈欣所提出的问题,诸位科幻作家的回答也令人耳目一新。

伊恩·R.麦克劳德

“成为人工智能技术的刹车的,不应该是任何一种技术,而是人类自己。”伊恩·R.麦克劳德说。技术没有好坏之分,关键在于使用技术的人。如果人工智能技术值得担忧,那么任何一种未来的技术,在人们看来都危机重重,“选择如何使用技术的,是我们自己。因此,我们应该思考自己的问题,而不是为技术装上刹车。”

陈楸帆的想法更为大胆:“为什么需要刹车?如果开得够快,我们甚至可以飞到星星上。”他认为人工智能技术也是人类文明的一部分,与人类组成了命运共同体,因此人工智能的发展,也能带动人类文明的发展。将它与人类割裂开来看待是不正确的。

陈楸帆

“之所以会对技术的未来产生忧虑,是因为人们通常认为,技术必须完美。”德瑞克·昆什肯说,“为什么技术非得完美呢?社会对人的包容度很大,人犯错可以被理解。比如说我不是一个完美的司机,但还是拿到了驾照。这个人人都会犯错的社会并不完美,为什么要在一个不完美的社会里期待技术完美?”

“如果这个社会出现了问题,我们应该期待更多的社会与政治上的讨论、改进,而不是将一切归咎于技术。”昆什肯说。

更有趣的是,现场的作家与技术人员还提出了“半人半机”的概念:“我们今天每个人的生活都离不开手机,技术对我们生活的介入如此之深,可以说,技术已经成为了我们的一部分。”作家陆秋逸也指出,人工智能等技术本身就是人类文明的一部分,“我写作科幻小说,并不是对技术感兴趣,而是对发明技术的人感兴趣。人的智慧和创造性激发了新的技术发明,技术发展中也体现了人性。这是它令我着迷的地方。”因此在她看来,技术并非外星生物,它正是人性的体现。

德瑞克·昆什肯

技术改变规则进而推动社会进步

那么坏的未来是否存在呢?

蚂蚁金服CTO程立透露了一个不安的想法:“我们物质世界的基本法则是不可改变的,但是改变数字世界的规则,只需要修改代码就可以办到。因此数字世界很可能会迎来天翻地覆的变化。在未来,我们会感受到,我们所创造的一切是如何崩塌的。”

不同于他的悲观,德瑞克·昆什肯的角度很积极。他提问:如果这个程序很容易改变,那它应该为何变化?为了普及教育,还是提供更好的医疗服务?是让无家可归的人们不再流落街头,还是让不同国家的人们都能拥有自己满意的生活?昆什肯认为,变化是一件好事,规则应该改变,为推动社会进步而变。

陆秋逸

但进行了现实上的考量的陆秋逸提醒大家,数字世界让全球成为了一个整体,但也将不同人群千差万别的状况和诉求摆到了人们面前,使我们面对的情形更加复杂。当我们试图做出改变,总会有人支持,也会有人提出反对。因此如何平衡不同的需求,为其妥善安排出优先次序,是一门很深的学问。

对于技术团队的忧心忡忡,卡罗琳·艾夫斯·吉尔曼打趣道:“我敬佩技术人员,因为他们可靠,让人信赖,肩负责任,而我们作家从来不用负责。”现场回以一片笑声。

卡罗琳·艾夫斯·吉尔曼

劳伦斯·M.舍恩指出了技术探索的本质,这或许解释了他与其他作家对技术的信心源于何处。他表示,虽然物质世界不能改变,但人们有千万种理解世界的方式。在这些不同的方式中,人们可以创造无限可能。这主要有两种表现方式,一是赋权,让人们能够更好地控制自己的生活;二是扩大个人的选择空间,通过选择使用怎样的技术,而实现自己的目的。“选择体现的是个人价值的实现。我们不能创造宇宙,但可以在浩瀚宇宙中选择我们自己想要的,这其中蕴含着丰富的、令人激动的可能性。”舍恩说。

劳伦斯·M.舍恩

“宇宙庞大而混乱,而人类想在其中找到意义。这就是我们有如此丰沛的机会、去尝试各种奇妙之事的原因。”他说。

而正是技术,为我们提供了在宇宙中不断前行的动力。

    校对:丁晓