新质观察｜我国如何构建人工智能沙箱监管？

当下，人工智能技术正在引领新一轮产业革命，在国家社会经济发展中占据重要地位，成为决定国家竞争力和国家安全的重要的新质生产力。

党的二十届三中全会通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》明确指出，“完善推动新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技等战略性产业发展政策和治理体系”。《决定》为包括人工智能在内的新质生产力的发展指明了方向。

人工智能产业政策的制定和治理体系的构建需要坚持法治化与市场化的基本原则。如何通过立法促进人工智能的发展，防范人工智能发展中可能出现的风险是当前理论界和实业界共同关心的问题，也是人工智能产业监督管理机构亟须解决的问题。

作为新兴技术，人工智能发展快速，产业竞争激烈。对人工智能的监管立法必须慎重。既要规范人工智能技术可能对个体权利和公共安全带来的损害风险，更要保护并鼓励创新，避免监管给人工智能产业带来过高的合规成本，抑制创新，阻碍产业发展。

为了在推动人工智能产业发展和防范风险之间寻找最优的平衡，各国监管部门正在探索合适的监管策略。其中，沙箱监管就是当前国际上很多国家正在试验的监管模式。

沙箱监管的起源、基本理念和功能

沙箱监管是来源于计算机软件测试领域的概念。其基本思想是，在计算机系统中建立一个测试环境，让新的或未经测试的软件在环境里安全运行。即，把这个测试环境形象地称为沙箱，把新的或未经测试的软件放在沙箱里，把软件隔离起来，只允许系统中特定的资源、程序或文件与沙箱中的软件联系。

金融监管领域最先引入沙箱概念。在金融监管实践中，监管部门面临的一个重要的问题是，如何在金融科技等金融创新与金融监管之间的紧张关系中找到平衡点？既要鼓励金融创新，又要防止金融创新带来重大风险？于是，在金融监管领域创造出沙箱监管制度。

我国当前也在金融科技领域试验中国版的金融科技沙箱监管。不过，这些沙箱监管没有突破当前的法律、法规，更谈不上法律、法规的豁免。其实质属于金融监管机构与申请进入沙箱实验的技术或服务之间合作，在如何确保技术或服务合法合规的基础上进行实验。所以，这些不是严格意义上的沙箱，实际上属于金融监管试点。

沙箱监管的基本操作是，遴选出特定领域（区域）和特定的市场主体，在规定的时间和遴选范围内，市场主体生产的产品或服务豁免当前立法的监管。

沙箱监管的基本理念和功能是，承认监管部门对新科技和新技术的认知有限，承认法律的滞后性与科技创新的超前性，鼓励市场主体技术创新，划定一个区域，让市场主体与监管部门合作，在规定的时间和区域内，推动技术创新与监管规则同步发展。

沙箱监管有效期到期，创新的技术、产品、服务以及与其同步更新的监管规则同时“走出沙箱”，在全社会范围内推广，实现技术、产品、服务与监管法律的同步发展。

沙箱监管的国际实践

当前，沙箱监管的理念已经在世界范围内被广泛地纳入人工智能领域。

比如，西班牙于2022年建立人工智能监管沙箱，用来检验并完善欧盟人工智能法。因为欧盟人工智能法要在2025年正式实施，所以，通过在某个成员国建立监管沙箱，比照欧盟人工智能法，检验该法能否有效监管人工智能。如果发现缺陷，可以边试验边完善。

新加坡则联合谷歌、微软、亚马逊等人工智能头部公司建立基于治理科技（governance technology, govtech）的人工智能监管沙箱。该监管沙箱旨在开发人工智能技术透明性的自动评估技术。遴选入沙箱的公司可以知晓其开发的人工智能技术是否符合国际技术标准和监管标准。

英国则针对人工智能应用的不同行业分别建立沙箱监管制度。比如，2023年，英国医疗卫生部下属的医疗卫生局建立医疗人工智能沙箱。2024年春季，医疗卫生局推出第一个监管沙箱，为人工智能气闸室（AI Airlock）这种产品建立监管沙箱。这个监管沙箱把行业内的专家和监管部门集合起来，组成监管团队。申请进入沙箱的市场主体将和监管团队合作，把技术和产品研发过程中的信息提供给团队，团队再把信息进行分析和加工，向监管部门汇报。经过这种互动，不仅提升技术和产品的性能，降低风险，也提升监管水平，实现监管与技术水平的同步提升。

四个步骤构建人工智能沙箱监管制度

基于人工智能监管的特殊性，借鉴国际上正在进行的人工智能沙箱监管实践，可以通过以下四个步骤构建并完善符合我国社会经济现实的人工智能沙箱监管制度。

第一，全国人民代表大会授权国务院及其下属的行业监管部门联合制定《人工智能沙箱监管基本条例》。人工智能技术属于通用技术。人工智能技术应用于不同的部门，将产生不同的伦理、风险和监管标准问题。所以，人工智能沙箱监管需要跨部门协调与合作。因为进入人工智能沙箱的市场主体及其研发的技术、产品和服务可以豁免符合当前监管法律、法规中规定的技术标准以及市场准入标准，所以，根据《中华人民共和国立法法》第九条、第十条，必须经全国人大授权，行业监管部门才能制定《人工智能沙箱监管基本条例》。而且，只有经授权的《基本条例》才能为进入沙箱的市场主体及其研发、生产的产品、技术和服务提供具有法律效力的豁免权。

第二，确定人工智能沙箱监管立法的基本步骤与内容。当前，我国主导机器人产业发展的部门是工业和信息化部。2023年1月，工业和信息化部等十七个部门联合印发了《“机器人+”应用行动实施方案》。方案强调聚焦机器人应用的十大重点领域，包括制造业、农业、建筑、能源、商贸物流领域、医疗健康、养老服务、教育、商业社区服务、安全应急和极限环境应用领域。

在此背景下，可以由全国人大授权国务院制定《人工智能沙箱监管基本条例》，国务院指定工业和信息化部牵头人工智能重点应用领域主管部门具体制定《基本条例》。《基本条例》的内容包括以下四个方面：

（1）立法宗旨。以鼓励人工智能技术发展为导向，规范人工智能技术研发与应用，推动人工智能产业的健康发展。

（2）进入沙箱的市场主体的资格、评选标准、权利与义务。从事人工智能技术研发、产品生产及服务提供等业务的企业都有资格申请进入沙箱。沙箱监管部门根据申请人提交的材料，从技术、产品、服务当前的水平、未来发展、可能给行业和社会带来的效益及可能带来的风险等维度对申请人进行评估，最终确定评选结果。在评估的过程中，申请人有权和沙箱监管部门互动，及时补充材料，也有义务充分披露其技术、产品和服务的不足及潜在风险，并提出改善的步骤和可行性。

（3）沙箱监管期间监管主体与市场主体之间的协调与互动。一方面，沙箱监管主体包括工信部及人工智能主要应用领域的主管部门，这些监管主体之间需要彼此协调，共同规范沙箱内的市场主体的研发和生产活动。另一方面，监管部门与市场主体之间需要在信息披露和分享上进行实时的互动。市场主体需要及时向监管主体披露技术、产品和服务上的创新、突破、风险及对当前法律、法规豁免的需求，监管部门需要及时分析市场主体披露和分享的信息，彼此协调，为市场主体提供监管豁免，推动技术、产品和服务的发展。

（4）沙箱监管的日落条款。进入沙箱监管的市场主体不能永远留在沙箱里，所以，监管法律必须规定完备的退出制度，即日落条款。比如，市场主体申请进入沙箱的审批阶段，监管主体要根据市场主体研发的技术、生产的产品和提供的服务的特点，与市场主体谈判确定退出沙箱的时间或其他标准。其他标准主要包括技术标准和市场标准。即，如果市场主体在一定时间内技术更新达不到目标或者产品、服务没有市场应用前景，则退出沙箱。

第三，通过竞争，筛选符合沙箱监管基本条例的地方政府与市场主体。伴随着《监管条例》的实施，市场主体可以通过竞争进入沙箱，享受监管豁免带来的制度红利。各地方政府也可以参与竞争，协助本地的市场主体以地方性人工智能研发基地等形式集体申请进入沙箱。在这种情况下，不仅地方政府研发基地内的市场主体需要单独提交申请材料，地方政府也要提交补充材料，证明地方政府在市场主体进入沙箱从事人工智能技术开发和产品（服务）生产过程中可以提供的支持，比如税收支持、财政补贴支持等。

第四，市场主体与监管部门协作，推动技术、产业与监管能力的同步提升。在以上三个步骤的基础上，随着沙箱监管的实施，可以实现市场主体与监管部门的双赢。即，市场主体享受沙箱监管的红利，推动其人工智能技术、产品和服务能力的创新，监管部门通过沙箱监管提升其监管水平，完善人工智能监管的规则设计，为人工智能监管立法总结经验。

（作者王佐发为西南科大法学院副教授）