AI时代，隐私权会不会被弱化和遗忘

近日，“AI孙燕姿”翻唱歌曲走红。孙燕姿本人回应：人类无法超越AI，做自己已然足够。

ChatGPT的横空出世引发了公众对个人信息安全的隐忧：用手机下载一个app，花三秒钟勾选所有权限，包括声音、脸部识别、通讯录、相册、定位......我们的声形、行踪、偏好等隐私瞬间被吸入大数据的洋流。人工智能的发展是否让我们失去了隐私权? AI生成人脸和声音的红线在哪里？在数字社会中，我们拥有哪些个人信息权利？澎湃问吧邀请上海政法学院佘山学者特聘岗教授徐伟，一起聊聊AI时代下个人隐私问题。

点击图片即可提问

AI时代的隐私权

@篮球场上的播音生：AI一定会涉及到个人隐私吗？

徐伟：AI如果想实现“懂你”“好用”的效果，就必须收集和利用用户的个人信息，就会涉及隐私和个人信息保护。

@昨日的世界：为什么现在所有app都在想方设法地获取个人信息？个人信息是不是越来越有价值了？

徐伟：你的观察非常准确，随着算法和算力的提升，个人信息的价值也越来越高，因为对个人信息的处理能够实现越来越多的功能和目的。

@Puzz康：有些游戏软件下载后，会有弹窗要求获取“健康”数据的权限，不勾选就没法玩，这合法吗？

徐伟：《个人信息保护法》第6条规定：处理个人信息应当具有明确、合理的目的，并应当与处理目的直接相关，采取对个人权益影响最小的方式。收集个人信息，应当限于实现处理目的的最小范围，不得过度收集个人信息。

因此，健康数据并非游戏软件的必要个人信息，游戏公司不能以获取健康数据作为使用游戏的前提。

孙燕姿回应“AI孙燕姿”

@伊丽莎白的鸭：如果我的声音和脸被人拿去AI合成怎么办？未来这会是合法的事情吗？

徐伟：人的声音和脸是表征人的重要信息，而法律始终以保护人的自由和尊严为圭臬。因此，除非经过你的明确同意，否则未经许可的声音和人脸使用都不会是合法行为。未经许可使用他人声音和人脸的，个人可以通过肖像权、个人信息权等来主张。

如何合理发展AI

@赞美虚无：在AI腾飞的未来，饱受人们关注的隐私权会不会渐渐被弱化和遗忘？

徐伟：AI时代，隐私只会越发重要，而非被弱化和遗忘。因为若缺失了对隐私的保护，人的自由与尊严在AI时代将不复存在，这样的AI发展不应是人类所追求的未来。我们始终应牢记，人本身才是目的，AI只是手段。

@sholincong：针对AI的发展，银行通信等行业如何通过信息化手段加强管控？如果出现此类业务风险，对受害人应该如何给予保护和申诉，对于破坏者如何界定和处罚？

徐伟：AI发展带来的影响是全方位的，不仅银行通信行业，其他各行业也都要强化数据合规。若企业侵害了自然人的个人信息等权益，除了企业自行提供的投诉通道外，我国民事、行政和刑事领域都为受害人提供了救济。比如民事方面受害人可提起侵权的诉讼，行政领域可向网信办等投诉，刑事方面可能构成侵害公民个人信息罪等。

@乌龙：意大利之前为何很刚地宣布禁用ChatGPT？欧洲在人工智能的发展上显得保守，是因为隐私权吗？

徐伟：意大利禁用ChatGPT主要是基于对用户隐私和个人信息被不当处理的担忧。欧洲并非不想发展人工智能，隐私也只是影响人工智能发展的因素之一，从产业和技术的角度来看，人工智能的发展需要数据、算法、算力等多方面的支撑，欧洲在这些方面的积累有所欠缺，想在人工智能领域发力并不容易。

@小兔兔：AI技术条件下，有可能建立数字身份证吗？

徐伟：数字身份证主要涉及身份绑定和验证等技术，严格而言，这与AI技术相关但并无必然关联。数字身份证的应用，有赖于我国行政管理服务改革，我国居民身份证电子证照服务机制的建立。