涉人工智能产品犯罪的刑法规制研究

点击上方↑“上海市法学会”关注我们

以“2049：我与人工智能”为主题，上海市法学会、中国知网、《东方法学》编辑部面向全球征文，上海市法学会将邀请部分获奖作者到沪参加2019世界人工智能大会有关活动，欢迎投稿（6月30日截稿）。

➤ 征稿将按不同年龄组别、不同体裁类型（学术作品、文学作品）分别进行评奖

➤ 微信公众号“上海市法学会”择优刊登大赛征文

➤ 中国知网《中国法律知识资源总库-会议论文库》择优刊登优秀学术类文献，并给作者颁发收录证书

本文作者简介

张闯玉 24岁

安徽财经大学法学院

点击链接了解更多详情

：

微信号推送时注释已略。

内容摘要

随着人工智能技术的发展，必然会给传统刑法带来新的挑战，在弱人工智能时代，亟需考虑的是如何将传统刑法和人工智能技术有效的衔接起来，不必要通过大量立法来规制人工智能产品涉嫌犯罪的问题。在强人工智能时代，可适时考虑赋予其刑事责任主体资格，当传统刑法的罪名和刑罚类型无法处理人工智能主体实施的犯罪行为时，可通过增设罪名和刑罚措施的方式对其犯罪行为进行规制，但在为其设定刑罚措施时，也必须遵守刑法的罪责刑相适应原则，以保障人工智能技术健康快速发展。

关键词：人工智能；人工智能犯罪；刑法规制

一

研究背景

国务院于2017年7月正式颁布了《新一代人工智能发展规划》，从某种意义上说，该文件的出台也标志着我国正式进入“人工智能时代”。

随着人工智能技术的发展，人工智能产品的“智能化”也越来越超乎人们的想象，社会上也已经出现了无人驾驶汽车等人工智能产品涉嫌犯罪的案例。有鉴于传统刑法在人工智能产品涉嫌犯罪问题的规制方面存在空缺，近几年刑法学界对该问题的研究已展开初步的讨论。

有学者认为，面对人工智能技术给传统刑法带来的挑战，首先应当考虑二者如何对接的问题，可以通过旧的刑法教义学得以解决的问题，就不必要通过增设大量的罪名来应对。

也有学者认为，应当将人工智能产品根据“智能化程度”的不同将其分为弱人工智能产品和强人工智能产品，从源头治理人工智能产品自研发到使用过程中存在的多重刑事风险，例如在刑法分则中增设人工智能事故罪、滥用人工智能罪，并可视人工智能水平的发展适时考虑赋予人工智能产品刑事责任主体地位。

以上研究成果既明确的体现了人工智能时代对刑事责任主体规定的新要求，也向相应的立法机关和司法机关传递了需要积极响应以适应人工智能时代发展的信号。

人工智能的发展所带来的新情况和新问题，势必会对传统刑法的规定带来一定的冲击，仅仅通过立法并不能彻底解决人工智能产品涉嫌刑事犯罪的问题，而应当在人工智能发展的不同阶段，通过刑法解释和立法等不同的刑法规制方式来应对。

首先，需要确定何种人工智能产品可以作为承担刑事责任的主体。其次，何种情况下由人工智能产品本身承担刑事责任，以及是否存在研发者和使用者逃避法律制裁的可能。最后，如果人工智能产品可作为刑事责任主体，应当为其设定怎样的刑罚措施？将人工智能产品分为“弱智能”和“强智能”进行研究，既能在保持刑法相对稳定的同时，解决人工智能的发展给刑法带来的挑战。

二

涉人工智能产品犯罪

刑法规制的必要性和适当性

人工智能的发展本身就存在着极大的不确定性，这种不确定性可能会对现有的法律规定和社会伦理产生冲击，甚至可能出现侵犯个人隐私的问题。刑法作为维持社会安全稳定发展的法律文件，理应跟上社会发展的步伐，适时介入人工智能的发展。

同时，人工智能在一定程度上会促进社会的进步，在工业、服务业等方面极大的提高工作效率，故刑法不应成为人工智能发展的阻碍，而应当为人工智能的健康发展保驾护航。

（一）人工智能产品涉嫌犯罪刑法规制的必要性

如前文所述，有学者将人工智能产品根据智能化程度的不同分为弱人工智能产品和强人工智能产品。本文也将从这个角度对人工智能产品涉嫌犯罪刑法规制的必要性进行分析。

☉ 首先，对于弱人工智能产品，其不具有辨认能力和控制能力，仅能在研发者设计的程序范围内实施相应的行为，此时该人工智能产品可以充当人类实施犯罪行为的工具，原先只有通过行为人亲自实施的犯罪行为，此时就可以借助该人工智能产品加以实施。

例如，犯罪分子可以远程控制智能机器人，通过智能机器人携带爆炸物实施危害公共安全的行为，而此时不仅犯罪分子个人的人身安全得到了保障，而且由于可以远程控制，犯罪分子可以较容易的逃避公安机关和国家安全机关的追踪。

此外，人工智能产品与大数据息息相关，随着人工智能产品的大量使用，涉大数据的新型犯罪可能随之产生。

例如，犯罪分子利用智能机器人可以轻松的将大量的数据进行整合分析，从而很可能利用整合后的数据实施危害公共安全和公民人身和财产安全的犯罪行为。因此，在弱人工智能产品时代，对人工智能产品涉嫌刑事犯罪进行规制的必要性不言而喻。

☉ 其次，对于强人工智能产品，其具有辨认能力和控制能力，能在研发者设计的程序范围外实施相应的行为。

目前，学界对是否可能存在不受人类控制的人工智能产品尚存争议，笔者认为人工智能的发展日新月异，很多令人难以想象的问题也变成了现实，而法律很大程度上滞后于社会的发展，当强人工智能产品出现时，我们将很难控制其行为，因此我们秉持“宁可信其有，不可信其无”的观点，提前规划好相应的风险控制措施，对促进人工智能的健康发展颇有益处。

当强人工智能产品出现时，由于其存在独立的意识和意志，很可能会从事危害社会的行为，其社会危害性将不是弱人工智能产品可以比拟的。

因此，在强人工智能产品时代，对人工智能产品涉嫌刑事犯罪进行规制更加必要，以促进人工智能技术的健康发展。

（二）人工智能产品涉嫌犯罪刑法规制的适当性

人工智能的快速发展给人类社会带来了极大的利益，其优势在于，可以解放人类的双手，使某些工作可以完全由智能机器人代为完成，大大提高了工作效率。诸如家居机器人，医疗机器人和学习机器人等大量的人工智能产品给人类的学习、生活和就医提供了极大的便利。

所以刑法对人工智能产品涉嫌犯罪的规制应当保持一定的限度，不能严重阻碍人工智能的发展和创新。

刑法作为维护社会稳定的最后一道防线，只有在某个行为存在严重危害性时，方可对其进行规制。

在人工智能技术发展的过程中，不可避免会出现一定的问题，甚至会出现影响社会安全的风险，在民事赔偿和行政处罚足以解决此类问题时，就不必要通过刑罚手段加以规制，只有当民事赔偿和行政处罚等手段不足以防止此类问题继续发生时，方可通过刑事立法加以解决。

如果对于一切人工智能产品产生的危害行为，不论其危害性大小，均通过刑罚手段加以打击，势必将会影响人工智能技术的发展。因此，在人工智能技术快速发展的同时，对人工智能产品涉嫌犯罪进行刑法规制应当保持一定的限度，以保护和鼓励人工智能健康快速发展。

三

涉人工智能产品犯罪的

刑法规制方法

当下，人工智能产品还停留在弱人工智能时代，人工智能产品尚无独立的意识和意志，其智能在研发者为其设定的程序范围内实施相应的行为。

随着人工智能技术的发展，有独立意识和意志的人工智能产品出现并非天方夜谭，强人工智能时代随时可能应运而生。

对于弱人工智能产品和强人工智能产品涉嫌刑事犯罪的问题不能一概而论，弱人工智能产品归根结底仍是人类使用的工具，绝无可能成为犯罪主体从而对其加以处罚，而强人工智能产品可能会在研发者为其设定的程序之外实施相应的行为，换言之，其可能基于自身的意识和意志实施相应的行为，此时该人工智能产品便不能简单的认定为人类使用的工具，而应当适时考虑赋予其刑事责任主体资格，由其本身承担相应的刑事责任。

（一）弱人工智能产品：传统罪名扩张适用，促进人工智能快速发展

如前文所述，弱人工智能产品不存在独立的意识和意志，即使其实施了危害社会的行为时，也是研发者或使用者将其作为犯罪工具使用，而不能归则于智能产品本身。

故在弱人工智能产品涉嫌犯罪时，应当追究的是研发者和使用者的刑事责任，而无法追究人工智能产品本身的刑事责任。

弱人工智能产品归根结底与其他科技产品并无本质区别，故现行刑法中生产不符合安全标准的产品罪、非法利用信息网络罪、帮助信息网络犯罪活动罪等罪名均可以对弱人工智能产品涉嫌刑事犯罪进行规制，而无须在弱人工智能阶段大量设置所谓的人工智能事故罪和滥用人工智能罪等新罪名。

1

生产不符合安全标准的产品罪

随着人工智能的快速发展，弱人工智能产品已开始逐步走向普通消费者的生活，弱人工智能产品可以看作是高科技的消费品，在弱人工智能产品广泛使用时，市场监督管理部门和人工智能行业协会应当加快人工智能产品国际标准、行业标准的制定和实施，既能够使智能产品的生产商在生产过程中注重产品的安全性，也给消费者在遭受侵害后，需要维权时提供依据。

当研发者或生产商明知或应知生产的人工智能产品不符合标准，且由于该生产行为造成严重后果时，研发者或生产商可能触犯生产不符合安全标准的产品罪。

2

拒不履行信息网络安全管理义务罪

《刑法修正案（九）》增加了拒不履行信息网络安全管理义务罪，将违反法定义务的网络危害行为纳入刑法调整的范围。

该罪是典型的涉网不作为犯罪，在弱人工智能产品时代，研发者和生产商负有保障人工智能产品安全性的义务，市场监管机关在发现相关智能产品不符合安全标准并通知研发者或生产商进行纠正后，在具备相应技术能力的情形下，如研发者或生产商拒不履行法定义务且造成严重后果的，可能涉嫌拒不履行信息网络安全管理义务罪。

3

非法利用信息网络罪

在弱人工智能时代，智能产品生成的基础是计算机程序。

如果弱人工智能产品的研发者或使用者将犯罪使用的计算机网络程序写入智能产品，利用该人工智能产品实施犯罪行为的，不应当由该人工智能产品本身承担刑事责任，相反的，如果该人工智能产品实施的犯罪行为产生了严重后果，其研发者或使用者可能触犯非法利用信息网络罪。

此外，《刑法修正案（九）》也相应的增设了帮助信息网络犯罪活动罪，该罪将非法利用信息网络罪的共犯独立出来，可以看出此类犯罪仅通过共同犯罪相关规定进行处罚与其社会危害程度并不匹配。

其原因在于，此类犯罪往往主犯是直接利用成品进行犯罪，比如已经生产出来的科技产品等，他们只是利用产品实施了犯罪，其主观故意与通过其他途径实施犯罪行为并无太大差异，而真正最大的威胁是为该科技产品写入程序的“幕后黑手”，即为设备写入程序的计算机程序员。

同样的，犯罪嫌疑人非法为人工智能产品写入程序，造成严重后果的，其行为的危害程度同样不容小觑，故这种帮助行为也会触犯帮助信息网络犯罪活动罪。

（二）强人工智能产品：完善刑事法律规定，保障人工智能健康发展

随着人工智能技术的发展，人工智能产品的智能化会越来越高，作为产品研发者和使用者的人类，对人工智能产品的控制力也会越来越弱，新一代的强人工智能产品也可能随时出现，前文已经提到，此类人工智能产品具有独立的辨认能力和控制能力，能在研发者设计和编制的程序范围外实施行为。由于犯罪行为的实施依靠的是智能产品本身的意识和意志，此时，该行为所带来的刑事责任便不能由研发者和使用者独立承担。

故基于人工智能技术的飞速发展，适时赋予强人工智能产品刑事责任主体资格是不可回避的问题。

此外，即使通过立法赋予了强人工智能产品的刑事责任主体资格，亟待探讨的便是强人工智能产品依靠自身意识和意志实施的行为是否可以被认定为刑法上的“危害行为”。

对此问题，有观点认为，人工智能产品所实施的行为除实施主体之外，与人实施的行为并无差异，其在研发者设计和编制的程序范围外实施的行为完全可以认定为刑法意义上的“危害行为”。

虽说现阶段的弱人工智能产品尚不足以出现此类问题，但我们可以预见到，一旦人工智能产品发展到可以存在自身独立的意识和意志，将其实施的危害行为认定为刑法意义上的“危害行为”并无不妥。

1

增设罪名种类

涉人工智能产品犯罪大致可以分为三种形式，第一，利用人工智能产品实施犯罪行为，即将人工智能产品当作犯罪工具使用；第二，对人工智能产品犯罪，在赋予人工智能产品刑事责任主体后，人工智能产品即丧失其财产属性，破坏人工智能产品的行为便不能简单的认定为侵犯财产犯罪，而应当对该人工智能产品加以刑法保护；第三，人工智能产品基于自身的意识和意志独立实施犯罪行为。

其中，第一种犯罪形式并不需要通过增设罪名来规制，在这种情况下，无非就是行为人利用人工智能产品实施犯罪行为或人工智能产品与行为人共同实施犯罪行为，在这两种情况下，通过刑法中间接正犯和共同犯罪的相关理论规制即可，关于刑罚种类的问题将在下文中阐述。

上述第三种犯罪形式同样也无需通过增设罪名来规制，如前文所述，一旦将人工智能产品认定为刑事责任主体，人工智能产品犯罪与人犯罪并无本质区别，例如，人工智能产品实施故意杀人行为的，定故意杀人罪即可，同样的，对于人工智能产品的刑罚种类当然需要增加，这与行为定性问题并不矛盾。

故本文讨论的增设罪名种类问题所意图规制的是上述第二种犯罪行为，即对人工智能产品犯罪。

具体而言，当其他的刑事责任主体对人工智能产品实施犯罪行为时，我们如何通过刑法来保护人工智能产品，而不让其成为行为人控制的对象。针对不同情况，笔者认为应当增加的罪名包括但不限于：

➀破坏人工智能罪

当人工智能产品被认定为刑事责任主体后，由于强人工智能产品的智能化程度很高，必然会出现损坏甚至破坏人工智能产品的行为。

此时，作为刑事责任主体，既然需要承担责任，那么当其利益受损时也理应得到刑法的保护。故在这种情形下，针对人工智能的破坏行为，就不再被认定为财产犯罪行为，而需要通过破坏人工智能罪进行规制。

该罪应当不仅规制故意破坏人工智能的行为，同样需要规制过失破坏人工智能的行为，只有在保证权责一致的情况下，才能把人工智能主体称作真正刑法意义上的刑事责任主体。

➁人工智能责任事故罪

强人工智能时代，由于强人工智能产品的智能化程度很高，如果不对研发者和使用者进行必要的约束，任其滥用人工智能技术制造人工智能产品，将可能会给社会稳定带来极大的不确定性。

人工智能产品的研发者和使用者对人工智能产品潜在风险的事前控制相对容易，故当人工智能产品的研发者和使用者违背法律或道德的要求使用人工智能技术造成严重后果，在无法用其他罪名进行处罚时，可考虑构成人工智能责任事故罪。

另外，关于犯罪竞合的问题也需进行讨论。当行为人将人工智能产品当作犯罪工具使用，且对破坏人工智能产品存在故意或过失的心态时，需根据其所实施犯罪行为的具体情况认定为想象竞合或数罪。

具体而言，当行为人将人工智能产品当作犯罪工具使用，该利用行为导致了人工智能产品的破坏，应当认定为想象竞合，而当行为人实施数个犯罪行为，其中的某一犯罪行为指向该人工智能产品，造成该人工智能产品破坏的，应当通过数罪并罚予以规制。

2

增设刑罚种类

如前文所述，在强人工智能时代，我们将人工智能产品赋予刑事责任主体资格，当人工智能产品独立实施犯罪行为时，必然需要其自身承担一定的刑事责任，而刑法中现存的大部分刑罚措施在人工智能主体上并不奏效，有期徒刑、无期徒刑等自由刑，罚金、没收财产等财产刑，均无法有效的规制人工智能主体的行为。

此时，有鉴于人工智能时代所带来的新型犯罪情形，传统刑法的刑罚体系也应随之进行完善。人工智能主体与自然人、单位这两大主体相比，仅是性质上的不同，在为其设定刑罚措施时，也必须遵守刑法的罪责刑相适应原则。

➀删除数据、修改程序

人工智能产品的行为依赖于其自身存储的计算机数据和程序，一旦将这些数据和程序清除，该人工智能产品也便不存在行动能力，不可能再实施犯罪行为，但其自身存在的正常程序和数据仍然可以使用，可以继续为生产生活带来便利。

故在人工智能产品实施较轻微的犯罪行为时，可以通过删除数据和修改程序的方法对其进行处罚。

➁无偿回收

人工智能产品虽然可认定为刑事责任主体，但其本身仍然具有一定的财产属性和使用价值，在其仍具有较大的使用价值时，不必要对其实施报废、永久销毁等措施进行处罚，相反的，类似于“没收财产”的“无偿回收”措施，既可以达到对人工智能产品进行处罚的效果，也能最大程度的利用其使用价值，将涉嫌较为严重刑事犯罪的人工智能产品无偿回收给国家机关，再由国家机关实施更改程序或数据的措施将其恢复正常的状态，从而使涉嫌刑事犯罪的人工智能产品可以继续为社会提供服务。

➂永久销毁

我们可以预见到，人工智能产品的智能化程度可能达到其自身存在反删除数据、反修改程序等功能，此时删除数据、更改程序甚至无偿回收等措施便无法对其进行处罚，在这种情况下，可以考虑适用永久销毁措施，将其彻底报废，使其不再有实施违法犯罪行为的机会，从而达到处罚犯罪和保障社会安定的目的。

四

结语

人工智能时代所带来的新情况和新问题并无想象中的高深，法学研究人员和实务人员也不应心生不安。随着人工智能技术的发展，必然会给传统刑法带来新的挑战，在面对此类问题时，我们亟需考虑的是如何将传统刑法和人工智能技术有效的衔接起来。

在以往的新问题出现时，我们多数情况下会考虑通过立法来解决问题，而对于人工智能问题，笔者认为，强人工智能时代距离我们尚远，短期内不必要通过大量的立法来解决眼下已经出现的问题，大量的立法意味着降低犯罪的门槛，扩大犯罪的构成要件，不仅会破坏刑法的稳定性，也不利于维持社会的安定和人工智能技术的进步，甚至可能会出现社会的恐慌。

故在弱人工智能时代我们应当着重考虑刑法中传统罪名的扩张适用，通过刑法解释方法来有效的规制现阶段遇到的人工智能问题，既维持了刑法的稳定性，也不至于引起社会的焦虑，同时也有助于促进人工智能技术的快速发展。

将来，在人工智能技术发展到强人工智能时代时，传统刑法的罪名和刑罚类型确实无法规制人工智能主体实施的犯罪行为时，可以考虑通过增设罪名和刑罚措施的方式对其犯罪行为进行规制。

关于人工智能涉刑法问题的讨论必须基于人工智能技术发展的背景进行，既不能过于超前，也不能过于保守落后，只有跟得上并适当超越人工智能技术发展的脚步，刑法才能真正促进人工智能技术稳步健康发展。

责任编辑：胡鹏 汪溥

长按二维码

关注我们

我在这里等你哟！

点一下“在看”给个鼓励呗~