西岸炫科技，东岸辩伦理：上海要办的这场大会将关注AI安全

随着2018世界人工智能大会开幕在即，数十位全球AI顶级科学家、百位国内外龙头企业CEO、上千家创新企业将陆续来到上海黄浦江畔。

徐汇的西岸艺术中心作为大会的主会场，将汇集最前沿的AI技术塑造科幻感十足的沉浸式感官盛宴，带领参会观众瞬间穿越到与机器共生的“未来世界”。

而在一江之隔的国际会议中心，一场高端对话也将严肃地审视人工智能发展过程中的安全和伦理问题。人工智能是否有失控的风险？未来的机器人是否会形成自主意识，挑战人类的主体地位？人与机器的从属关系是否会发生错位？“阿尔法狗”战胜全球顶尖围棋高手，人工智能在智力上是否真正能超越人类极限？全球第一个机器公民“索菲亚”的诞生，“她”是否享有与人类公民同样的权力？

人工智能会颠覆人类主导地位吗？

同样作为第四次工业革命的重要标志，人工智能极大地解放了社会生产力，产业规模迅速扩大，也带来了重大的经济、文化、政治、伦理、法律、安全等方面的巨大变化；但也由于人工智能技术的不成熟、滥用、漏洞和管理模式的不成熟等原因，人工智能安全事件频发，如无人驾驶造成车祸，智能化军事武器的应用引发了公众巨大担忧。

人工智能在设计之初就应该与社会伦理相结合，遵循人类的道德规范和逻辑，一旦发生偏差极容易造成严重后果。安全伦理研究不仅仅保障的是人的隐私权、自主权，更是保证人工智能在人类限定的系统范围内开展工作，并能够承担道德责任甚至是法律责任。因此设计出符合人类道德规范的人工智能，是科学家、哲学家和企业家们都不可忽视的问题。

人工智能对国家安全意味着什么？

人工智能是维护国家安全的的核心技术之一，在国防、军事、网络安全等反面有着广泛的应用，各国纷纷抢占该领域的制高点，发达国家利用人工智能的技术优势，不断调整国家安全战略，扩大与其他国家之间的安全力量优势，而基于人工智能的技术差距改变国家间力量的对比，进而影响全球和平与稳定。以美国为代表，美国国防部计划在5年之内投资20亿美元用于人工智能新项目的开发，目的在于增强国防实力。从国家战略、技术变革、产业发展等多角度研判人工智能技术对国家安全博弈的影响，对于探寻人工智能与国家安全的关系将有重要意义。

人工智能将怎样助力网络安全？

正如一个硬币的两面，人工智能技术具有双面性。一方面，凭借其强大的运算能力，以人工智能为驱动的网络攻击威胁的可能性越来越大，同时它将赋能自动化武器，使其攻击能力从网络空间向物理空间扩散；另一方面，机器学习大大缩短了人类分析网络攻击事件所需的时间，能够做到快速响应，同时也为应对网络安全中存在的信息泄露、隐私安全、预防犯罪等问题提供了方案。如何趋利避害，积极推动人工智能安全技术发展，防范网络空间安全风险，是人工智能安全发展研讨的重点。

当前，上海正致力于打造国家级人工智能发展高地，其不仅有巨大的市场规模，更聚集了全国乃至全世界的优秀企业和人才，在人工智能技术从研发、测试、应用到市场投放的整个生命周期中发挥影响力。同时，上海具备发展人工智能的集成优势，从政策支持力度、产业发展结构、基础设施水平、市场规模等方面为人工智能的研发和推广构建了良好的外部环境，并在人工智能的推广应用中走在前列。上海市人民政府办公厅印发的《关于本市推动新一代人工智能发展的实施意见》更是指出，要加快建成以人工智能芯片及传感器、机器人及智能硬件、智能无人系统及软件等为重点的世界级新兴产业集群，到2020年实现人工智能重点产业规模超过1000亿元。

上海是人工智能产业的集聚地、技术革新的前沿阵地，一直将人工智能安全放在与技术革新与产业发展处于同等重要的地位。没有安全的保障，技术革新得不到市场的支持，产业发展也必然受到阻滞。

作为世界人工智能大会的重要分论坛之一，9月18日，2018世界人工智能大会·人工智能安全高端对话将于上海国际会议中心举办。本次高端对话由上海赛博网络安全产业创新研究院和中国信息通信研究院安全研究联合承办，腾讯公司安全管理部、上海社会科学院互联网研究中心、《探索与争鸣》杂志社共同协办。对话以“安全”为核心，将聚焦人工智能安全伦理规范、人工智能重塑国家安全、人工智能助力网络安全这三大议题，邀请来自国内外高校、智库的专家学者及产业精英围绕议题从经济、政治、社会伦理等多个不同的角度展开对人工智能技术失控、自动驾驶安全、智能算法歧视、人工智能隐私保护、自动化武器、人工智能国家安全与军事博弈、人工智能打击网络犯罪等方面的精彩讨论。届时，对话将发布《全球人工智能安全发展上海倡议》；《人工智能安全白皮书》《人工智能时代的国家安全》《人工智能助力网络安全：模式与实践》三份报告也将重磅出炉，以期为中国人工智能产业的持续健康发展提供战略性建议，为人类社会共谋福祉。

附：部分2018世界人工智能大会·人工智能安全高端对话特邀嘉宾精彩解读

中国互联网发展基金会理事长马利

中国互联网发展基金会理事长马利女士从事新闻事业二十多年，见证了中国新媒体的成长，她指出，“近年来，全球范围内都掀起了人工智能发展应用的新浪潮”，“人工智能给社会创造价值的同时，也会给人类社会带来挑战”，“人工智能技术的出现应该是更好地造福人类，推动人类文明的进步”。

中国科学院院士何积丰

何积丰院士是我国著名的计算机软件专家，其一系列研究成果在国际计算机科学领域具有重要影响。何积丰认为，人工智能技术“既是盾又是矛”，它帮助建设行业体系，使网络行业从过去的被动转到如今的主动，但人工智能技术广泛应用的同时也给不法分子提供可乘之机。

联合国人工智能和机器人中心主任伊莱克利•伯利兹

伊莱克利·伯利兹强调，人工智能和机器人技术与其他技术一样不存在好坏之分，最终都是可以用来实现目标的工具，“人工智能带来的风险和益处是交织在一起的，而且不论人工智能能否结束贫困或者引发一个新的犯罪和恐怖时代，都取决于今天所作出的决定”。

欧亚集团地缘科技项目主任保罗•特里奥洛

保罗•特里奥洛长期追踪中国的技术创新情况，他指出人工智能不仅仅是另一种产品或服务，也是一项基础升级技术。在近期的一份报告中，他认为，“人工智能数据将是中国的核心优势，而且是其他国家无法超越的”，“在快速创新的年代，中美人工智能双寡头的局面不但不可避免，其实已然到来。”

中国信息通信研究院副院长王志勤

中国信息通信研究院副院长王志勤表示，人工智能能够催生新技术、新产品、新产业、新业态、新模式，未来人工智能广泛深入到社会生产生活之后，也将可能带来伦理问题。但她对人工智能未来的发展和将给人类带来的美好明天表示期待。

中国科学院复杂系统管理与控制国家重点实验室主任王飞跃

王飞跃是国际上智能控制方面的知名学者，也是智能机器人、无人驾驶、智能交通等领域的早期开拓者之一。他提出的“平行系统”概念在人工智能领域具有重要的理论意义。对于人工智能可能带来灾难的悲观论调，王飞跃不以为然。他认为，“算法能写清楚的智能，永远小于人类语言能表达的智能，人类语言能表达的智能，又远小于你所想象的”，“机器人和人工智能只是让我们人类生活变得更舒适的工具和手段”。