以“小快灵”立法规范人工智能拟人化互动服务

2026-06-10 08:31
广东

近年来,人工智能技术快速演进,带来了前所未有的发展机遇,也带来了前所未遇的风险挑战。习近平总书记指出,“要研究丰富立法形式,可以搞一些‘大块头’,也要搞一些‘小快灵’,增强立法的针对性、适用性、可操作性”。“小快灵”立法在应对人工智能发展治理新形势中发挥着独特作用。2026年4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),将自今年7月15日起施行。这是我国首部人工智能拟人化互动服务(以下简称“拟人化互动服务”)管理专门立法,也是人工智能“小快灵”立法新的实践,旨在通过明确促进制度、划定服务规范、创新监管措施,深化探索人工智能治理规则,更好促进拟人化互动服务向上向善,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

坚持多要素综合治理,统筹数据、算法与交互界面的协同规制。拟人化互动服务风险源于数据安全、算法黑箱与诱导性交互设计等共同作用,单一维度治理往往效果有限。对此,《办法》构建训练数据质量与合法性要求、算法机制机理审核、生成合成内容标识等多要素协同治理模式。在数据要素方面,提出增强数据透明度、可靠性、多样性和安全性;要求依法落实数据产权等制度,采取数据加密、访问控制等措施保护用户交互数据安全;明确除法律另有规定或者权利人明确同意外,拟人化互动服务提供者不得向第三方提供用户交互数据。在算法要素方面,提出建立健全算法机制机理审核制度,明确模型训练和关键能力优化相关规定,明确算法备案要求。在交互界面方面,通过身份透明告知、防沉迷提醒等用户界面层面的制度设计,有效防范诱导性交互设计对用户心理和行为的不当影响。这一制度安排旨在贯通数据、算法、交互界面等多要素,推动人工智能治理从单点规范走向系统协同的范式升级。

坚持协同共治,构建政府监管、行业自律、社会参与相结合的多元治理格局。拟人化互动服务的发展与治理是一个复杂的系统工程,涉及的主体多元、法律关系多样、适用场景多变,需要政府、企业、社会、网民等多方参与。在部门协同方面,《办法》明确国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作,国家发展改革委、工业和信息化部、公安部、市场监管总局、国家新闻出版署等有关部门依据各自职责负责拟人化互动服务相关监督管理工作,体现了统筹协调与协同治理的制度安排。在行业自律方面,鼓励行业组织发挥桥梁纽带作用,建立健全行业准则和自律管理制度,引导企业主动对标合规要求,推动强化自我约束、完善服务规范,指导其依法提供服务并接受社会监督。在社会参与方面,提出国家加强拟人化互动服务安全知识、法律法规等宣传普及,引导社会公众科学、文明、安全、依法使用,促进提升人工智能素养。《办法》强调协同共治,鼓励行业组织加强自律,深化公众人工智能素养培育,旨在加快形成动态敏捷、多元协同的人工智能治理格局。

三、引领和促进人工智能拟人化互动服务向上向善发展

令在必信,法在必行。推进人工智能依法治理和《办法》落地落实,离不开各方面的共同努力,需要加强制度供给,强化协同联动和制度实施,切实提升治理效能,引领和促进拟人化互动服务向上向善发展,并为全球人工智能治理作出贡献。

持续完善人工智能制度规范。相较于人工智能技术的快速发展,人工智能制度供给还需不断适应新形势新任务。要统筹立改废释,灵活运用多种立法形式,体系化推进人工智能立法。广泛凝聚社会共识,及时建立健全人工智能发展治理基础规则。完善《办法》配套规范,深化以技治技探索,推进拟人化互动服务相关标准建设,发挥技术标准的指引作用。深化运用“小快灵”立法快速响应机制,积极应对拟人化互动服务和其他应用领域的风险挑战,研究制定数字虚拟人、智能体等相关规定,协同完善保障数据、算力、算法、网络安全等人工智能要素及规范重点应用场景方面的立法,努力做到新技术新应用发展到哪里、人工智能立法就覆盖到哪里。

着力加强制度实施。制度的生命力在于实施。要着眼拟人化互动服务的发展治理制度,强化统筹协调,协同实施算法备案、安全评估等制度,完善跨部门信息共享和工作联动机制,提升实施工作合力。推动拟人化互动服务提供者履行安全主体责任,切实建立健全算法机制机理审核、信息内容管理、网络和数据安全等制度,引导行业加强自律。推进拟人化互动服务领域执法,依法查处侵害未成年人权益、非法收集个人信息等违法行为,切实维护用户合法权益。指导推动人工智能沙箱安全服务平台建设,鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试,促进拟人化互动服务安全有序发展。

积极深化网络普法和理论研究。推动拟人化互动服务在法治轨道上健康运行,离不开网络法治宣传教育走深走实。要持续开展习近平总书记关于人工智能的重要论述的网上宣传,深入阐释人工智能治理的重要意义和主要原则。发挥“E法同行”新品牌示范引领作用,开展《办法》等主要制度宣传普及。推动拟人化互动服务企业开展合规专题宣讲,系统解读拟人化互动服务制度规范和合规要求。用好新技术新手段,提高有关普法产品的实效性、趣味性、互动性,激发网民学法用法热情。加强拟人化互动服务安全知识、法律法规等宣传普及,重点针对未成年人、老年人等群体开展差异化普法,提升其风险识别能力和自我保护意识。深入开展人工智能有关法学理论研究,提炼标识性概念、原创性观点,助力构建具有中国特色、符合技术发展规律的人工智能自主知识体系和法治体系。

不断密切国际交流合作。人工智能治理是世界各国面临的共同课题。要坚持开放合作,深化法规、标准、技术等关键领域国际交流合作,积极推进拟人化互动服务治理规则交流。立足我国人工智能治理实践,促进各方就关键概念定义、透明度要求、风险识别与干预机制、未成年人保护等深化规则交流。依托世界互联网大会、世界人工智能大会等国际平台,深化拟人化互动服务治理经验交流互鉴,加强双边对话、多边磋商、最佳实践案例分享等,持续宣介“以人为本、智能向善”理念,推动形成具有广泛共识的全球治理框架和标准规范,为全球人工智能治理提供中国方案。

原标题:《以“小快灵”立法规范人工智能拟人化互动服务》

阅读原文

    特别声明
    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问https://renzheng.thepaper.cn。