如何防范人工智能风险?业内人士:加快立法,促进标准等形成

澎湃新闻记者 陈伊萍
2019-09-20 20:12
来源:澎湃新闻

2019年9月20日,上海杨浦区创智天地,新技术、新应用——网络安全高峰论坛举行。澎湃新闻记者 陈伊萍 图

9月20日,2019年国家网络安全宣传周上海地区活动之一,新技术、新应用——网络安全高峰论坛在上海杨浦区的创智天地举行。

论坛上,上海观安信息技术股份有限公司CTO胡绍勇在主题演讲《5G+AI的安全思考》中称,人工智能在技术转化和应用场景落地过程中,由于技术的不确定性和应用的广泛性,带来冲击网络安全、社会就业、法律伦理等问题。

一方面是人工智能自身的安全,现阶段人工智能技术不成熟性导致安全风险,包括算法不可解释性、数据强依赖性等技术局限性问题,可能给网络空间与国家社会带来安全风险。另一方面,是人工智能的恶意应用,比如越来越多的不法分子正在利用人工智能的新技术加剧网络攻击破坏程度。

胡绍勇认为,为防范人工智能带来的安全风险,政策制定者应该及时更新和完善现有法规,加快立法进程,并且促进最佳实践、指南、标准的形成等。

深信服科技股份有限公司上海分公司安全业务总经理罗政权在作主题演讲时表示,当前智慧政务发展面临诸多安全问题。对此,他认为要构建以安全效果为目标的持续化安全运营体系,政务新安全体系则需要考虑“平战”时期。

“打通监测预警和应急处置全链条,这样体系能自带安全生态,满足不同时期需要。”罗政权表示,除了专家队伍的构建,保障网络安全还要引入专业的社会资源,并实现平台自动化,提升效率。

论坛上,复旦大学信息化办公室主任王新,上海长阳创谷企业发展有限公司总经理、上海区块链技术研究中心主任马小峰等分别作主题演讲。上海市委网信办总工程师杨海军,杨浦区委常委、宣传部部长刘东昌在论坛上致辞。

    责任编辑:张慧