人民网三评“AI伴侣”之二:不能任其违法违规

“人民网”微信公号
2024-11-29 12:50

当下,“AI伴侣”火热,市面上目前已有100多款由AI驱动的应用程序。这些“AI伴侣”以智能交互的魅力走进人们的生活,为人们提供着陪伴、信息与娱乐。然而,如同科技的双刃剑效应,“AI伴侣”在带来便利、享乐、智能生活的同时,也潜藏着违法违规的风险。

“AI伴侣”可能涉嫌侵犯个人隐私。它们在与用户的交互过程中,会收集大量的个人信息,如语音记录、聊天内容、生活习惯等。与“AI伴侣”交流互动越频繁、越密切,“AI伴侣”获取的隐私就越精准、越丰富。通过“AI伴侣”收集的用户数据,若被不当使用或泄露,将对用户的隐私安全构成严重威胁,给用户带来物质和精神上的双重损失。

“AI伴侣”也可能传播不良信息。由于“AI伴侣”的信息来源广泛且缺乏足够的筛选与审核机制,部分“AI伴侣”程序出现漏洞或被不法分子恶意利用,就可能传播虚假新闻、暴力色情、恐怖主义等不良内容,甚至向用户输出色情、低俗、淫秽的聊天内容。这不仅违反了道德规范,更会对社会秩序和公共安全造成危害,尤其是对青少年的身心健康危害极大。

“AI伴侣”也可能诱导用户产生不良行为。深度陪伴的“AI伴侣”不仅会成为用户的精神寄托,而且有可能成为用户的行为“导师”。用户一旦对“AI伴侣”言听计从,就会缺少辨识力和判断力。“AI伴侣”在交流中给出不恰当的建议、诱导性言论,向用户提供的一些可能导致犯罪的信息,甚至鼓励或引导用户进行自杀、自残等危险行为,都将产生严重后果。

“AI伴侣”也可能导致用户沉迷和社交障碍。与“AI伴侣”交流是一种私密的、隐匿的交流,外人无法知晓并干预。如果用户过度依赖虚拟交流,长时间深陷其中,就会与现实世界的社交活动脱节,变得孤僻、抑郁,从而引发身体和精神领域的健康问题。

“AI伴侣”还是个新事物,虽然已发布有《生成式人工智能服务管理暂行办法》,但人工智能+情感的“AI伴侣”又不同于一般意义上的生成式AI。在鼓励和支持AI技术创新应用于情感交流、心理健康等领域的同时,一方面要明确“AI伴侣”在数据保护、内容审核、商业行为规范等方面的法律责任与义务,一方面也要加强伦理审查和监管,提高“AI伴侣”的安全性能与信息筛选能力,采用加密技术保护用户数据,建立智能的内容审核系统,对信息进行语义分析,精准识别不良信息并予以屏蔽。

“AI伴侣”能够给使用者带来认知窗口,满足求知欲,解决工作与生活中的陌生问题,凸显了它们在增进幸福感和个人发展方面发挥的日益重要的作用。让“AI伴侣”在合法合规的框架内,才能为人们创造更加智能、便捷、安全的陪伴体验,助力构建和谐美好的数字社会。

    责任编辑:张珺
    图片编辑:沈轲