频道
栏目
  • 视频
  • 时事
  • 财经
  • 思想
  • 生活
2元能买上千张人脸照,央视揭AI黑产,真相远不止于此
2020-10-27 15:39
原创 李水青 智东西 收录于话题#人工智能6#数据隐私2#AI黑产2
看点:央视揭人脸数据网上交易网友炸锅!静态照能模拟真人刷脸。
智东西10月27日消息,央视新闻记者昨日晚间报道,记者调查发现在某些网络交易平台上,花2元钱就能买到上千张人脸照片。这些照片若落入不法分子手中,可能用于精准诈骗甚至洗钱、涉黑等违法犯罪行为。比如,利用不法获取的照片,伪造他人的动态视频破解人脸识别系统,骗取账户和财产。
新闻一出立刻引起一阵热议。网友直呼“太可怕了”、“没有隐私而言”,很多人在社交平台上分享自身图像信息泄露亲身经历。
根据央视新闻报道,近日由全国信息安全标准化技术委员会等成立的APP专项治理工作组发布了一份《人脸识别应用公众调查报告2020》称,有九成受访者都使用过人脸识别,六成认为人脸识别有滥用趋势,三成表示个人隐私或财产安全已经因此遭遇损失。
近年来,随着刷脸支付、人脸打卡等应用进入各种手机App及现实生活场景,背后的人脸信息泄露、人脸图像滥用、AI换脸等现象和黑产陆续被爆出,引起人们的担忧。尽管相关部门不断传出消息打击黑产,但仍然有不法分子铤而走险。AI技术越神通,技术落入不法分子之手的代价就越惨烈。
人脸识别的安全度如何?当下人脸识别技术快速发展的背后存在哪些阴影地带?又该怎么解决?这些问题就像悬在很多人心中的一把剑,阻拦人们使用便捷技术的步伐。
5000张人脸照片不到10元
隐私暴露无遗
央视报道,一些人脸信息被App运营方、技术开放商泄露,造成人脸信息被滥用,甚至生成了黑色产业链。
“在网络交易平台上,只要花2元就能买到上千张照片人脸信息,5000张人脸照片还不到10元。浏览商家的照片库,里面都是真人生活照、自拍照等充满隐私的照片。这些照片落入不法分子手中,很可能被用到精准诈骗甚至洗钱、涉黑等违法犯罪事件中。”
看到这样的报道,许多网友感到被戳中痛点,纷纷炸开了锅。
有人连忙分享出自己有过类似的经历,爆料自己的朋友因为相信不法商给出的大学室友的个人信息,和真的一模一样,而被骗了小10万元。
有人强烈呼吁相关部门进行调查,而且一并把那些类似“刷脸算命”等看起来漏洞百出的应用查一查。
有人则从用户自身角度,给出了“定期清理头像相册”、“不在不同社交平台用相同昵称”等应对策略,提升自身防范素质,获得了大量点赞。
可见,随着AI进入广大老百姓们的生活,数据隐私担忧已经成为人们心中的一根“倒刺”。一旦有类似的事件爆发,就会引起人们强烈的刺激反应。
套路:利用非法获取的照片AI换脸,骗倒“人脸识别”技术
人脸识别安全吗?会不会信息泄露?许多人都感到担忧。
根据央视新闻报道,就在今年8月13日,杭州钱塘新区公安部门抓获两名盗取个人信息的犯罪嫌疑人,他们通过技术手段骗过平台人脸识别,在多个网络平台共盗取数千条平台账号个人信息准备以每单80~100元的价格倒卖。
而在今年年初,浙江衢州抓获一行人运用技术手段骗过支付宝人脸识别认证,并使用公民个人信息注册支付宝账户非法获利数万元。
央视指出,值得注意的是今年年初,在上述两起案件中,犯罪嫌疑人均是利用AI换脸技术非法获取公民照片进行一定预处理,而后通过“照片活化”软件生成动态视频,骗过人脸核验机制。随后,通过网上批量购买的私人社交平台账号登录各网络服务平台注册会员或进行实名认证。
值得一提的是,由于全球范围内AI技术的落地都仍然处于初期阶段,包括在美国总统大选、国际大牌亚马逊Ring家用摄像头等设备使用等场景中都出现了数据隐私泄露、AI换脸造假等事件。(《》、《》)
AI黑产技术门槛不高,产业链已十分完整
早在2019年7月,智东西也对AI换脸黑产进行了走访调查。100元打包200部换脸情色片,囊括国内一二线女明星,5张照片就可以帮你定制换脸视频,400元就可以购买换脸软件及教程并包教包会……令人咋舌的交易之下,AI换脸黑产已经形成了完整的产业链。(《》)
基于一套简单的深度学习算法,只需要照片或是视频,通过这套算法就可以把其中的人脸替换成你想要替换的人脸,操作相对简单,替换之后的视频或照片的逼真效果令人触目惊心。
▲不同卖家对于成品视频定价
而究其背后的技术门槛,则非常低。在Github获取早在2017年开源的deepfakes代码,输入一个满足深度学习任务进行脸部替换的素材库,就可以把朱茵的脸换成杨幂。
2019年8月一款名为“ZAO”的软件爆火,让大众了解到AI换脸的神奇的同时,也被戳到了数据隐私的痛处。由于ZAO未避免用户滥用他人照片恶搞,并且强行获取用户的照片使用权,因此仅仅上线三天就从App Store排名第二跌落神坛,被迫下线。(《》)
而在机器之能起底人脸认证黑产的报道中,甚至有人靠传授代人脸认证技术成立工作室,破解接单月赚达3万,而后又开辟了“800元传授保过黑科技”的模式。而这条黑产中包含了实名账户倒卖者、代认证机构、人脸照片信息提供方等完整的产业链。
数据存储很关键,需要技术、法规等多管齐下
央视指出,当下人脸识别更引人担心的风险点在人脸信息的存储环节。
人脸信息保存在什么地方?
央视采访的专家认为,由于人脸识别应用五花八门,也没有统一标准,大量的人脸数据都被存储在应用运营方,或者技术提供方的中心数据库中。数据是否脱敏,安全是否到位,哪些会被合作方分享,外界一概不得而知。而且一旦服务器被入侵,高度敏感的人脸信息就面临泄露。
为了封堵漏洞,专家提出了分层授权、分布式存储的数字脱敏和加密方式。同时,人脸识别应用行业还需要建立严格的行业规范来应对风险。各运营方、技术开发方不能成为一个个孤岛,只求技术更迭,不注重隐私风险,需要更严格行业规范和法律监管。
其实我国的相关法律法规已经开始做出相关规定。参照《民法典》,收集自然人信息应当遵循“告知——同意”原则,征得该自然人的同意,且被采集者也有权撤回。而正在面向社会公开征求意见的《中华人民共和国信息保护法(草案)》提出,在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必须,遵守国家有关规定,并设置显著的提示标识。
结语:人脸识别市场需要规范
随着人脸识别等技术的发展,技术的双面性也显现出来。数据和算法的正当应用使得人们的生活更便利,滥用则使人们似乎在AI中裸奔。
AI落地中的数据隐私问题常为人们讳莫如深,但引发雪崩的最后一片雪花值得人们警醒。为此,行业需要应用开发方、运营方、相关监管部门各司其职,跟上AI技术攻防战的步伐,打赢AI滥用治理战。
(本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。)人脸照!央视揭AI黑产!真相远不止于此》
阅读原文
特别声明
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。
打开APP,阅读体验更佳