下载APP
进入原新闻
进入原话题
下载APP
去提问
注册/登录
下载APP
打开澎湃客户端提问
分享
澎湃新闻客户端

科技湃

如何确保人工智能不作恶?微软提出透明、负责等6个道德准则

澎湃新闻记者 王心馨 张宁

2018-07-09 19:44  来源:澎湃新闻

人工智能浪潮以迅猛之势席卷全球,一方面给经济社会的可持续发展带来了巨大的机遇,另一方面,安全、隐私、偏见、垄断等问题也随之而来。
7月9日,由中国发展研究基金会与微软公司联合撰写的《未来基石——人工智能的社会角色与伦理》报告在北京发布。
报告称:“如果我们决心要利用人工智能带来的无限机遇,最好在冲进未知之门之前给这辆汽车装上刹车,让它真正能行稳致远。这个刹车就是伦理规范和公共政策准则。”
在深度学习、云计算以及芯片、传感器技术的帮助下,人工智能成为马力惊人的社会发展加速器,带着全球向充满不确定性的未来疾驰。但在高速发展的过程中,一些担心也随之而来。
例如,人工智能技术是否会扩大贫富差距;如何确保人工智能技术不会武器化,如何防止某些公司对技术的滥用等。
在国家层面,人工智能的伦理问题已经引起了越来越多的关注,出台了一系列的政策指引和准则。日本的一个跨专业团体曾发布《下一代机器人安全问题指导方针(草案)》,韩国政府早在2007年就着手拟订《机器人道德宪章》,美国信息技术产业委员会(ITI)也于2017年颁布了人工职能的14条政策准则。最近,欧盟出台了史上最严格的史上最严格数据保护条例——《通用数据保护条例》(General Data Protection Regulation,简称GDPR),旨在加强对数据的保护。
在公司层面上,硅谷的一些巨头科技公司深有感触。此前,由于和美国国防部有军方合作项目,亚马逊、微软、谷歌等公司遭到外界的诟病。有媒体指出这些公司正利用人工智能技术助纣为虐,是在作恶。尤其是谷歌的Maven项目(编注:该项目主要指谷歌利用机器学习技术帮助美国国防部分析无人机视频,识别物体),这个人工智能项目受到公司内部和外部的指责,谷歌内部甚至出现了离职潮。
在内外舆论的压力之下,谷歌公司已经申明,在人工智能开发应用中,坚持包括公平、安全、透明、隐私保护在内的7个准则,并明确列出了谷歌“不会追求的AI应用”。
在今天发布的报告中,微软也给出了自己的答案,提出要设计出可信赖的人工智能,必须采取体现道德原则的解决方案,因此提出6个道德基本准则,包括公平、包容、透明、负责、可靠与安全、隐私与保密。其中,透明和负责是其他四项原则的基石。
微软提出的6个道德基本准则
具体原则为:
公平:人工智能系统应当以公正、一致持平的态度对待每一个人,而不能对情况类似的群体施以不同的影响。
可靠:人工智能系统应确保运行可靠、安全,避免人工智能系统可能会在不可预见的情况下造成伤害,或者被人恶意操纵,实施有害行为。
隐私与保密:人工智能系统应当有保障且尊重隐私,这是赢得公众必要信任的条件,而公众信任又是充分利用人工智能的前提。
包容:人工智能系统应确保人人赋能、人人参与。要确保人工智能技术造福、赋能每一个人,这些技术必须考虑并解决广泛的人类需求和经验。
透明:人工智能系统应易于理解。一旦人工智能系统被用于做出影响人们生活的决策,人们就有必要了解人工智能是如何做出这些决策的。
负责:与其他技术和产品一样,设计和部署人工智能系统的人员必须对其系统的运行负责。
除了提及人工智能在伦理道德方面的发展约束外,这份报告中,也对中美两国人工智能发展情况进行了描述。
报告认为,美国和中国在人工智能领居于全球前列。目前,全球人工智能领域最有影响力的大学和企业主要分布在美国,在核心人才的培养上也是如此。从累计的专利数量和研究论文数量看,美国遥遥领先于世界其他国家,中国则在数量增长上后来居上,但质量上与美国还有较大的距离。
在产业层面,美国和中国也居世界前两位。截止2017年6月,全球2542家人工智能企业中,美国有1078家,占42%,中国592家,占23%,其余872家企业分布在瑞典、新加坡、日本、英国、澳大利亚、以色列、印度等。基础层企业美国有33家,中国有14家;技术层企业数量,美国有586家,中国273家;应用层企业美国有488家,中国有304家。
责任编辑:李跃群 澎湃新闻,未经授权不得转载。新闻报料:4009-20-4009
热门推荐