一线风采10丨刘磊：《猎罪图鉴2》中“AI教唆自杀案”何法可依？——基于我国现行法律体系的解析

2024-12-26 17:15

重庆

近期，电视剧《猎罪图鉴2》开播后广受好评。该剧紧扣“绘色显影，画见人心”这一内核，讲述了因一起尘封旧案而结缘的模拟画像师沈翊和刑警队长杜城，在机缘巧合下组成搭档，通过对画像的勾勒，拆解人性谜题，联手侦破多起离奇疑案的故事。其中，印象最深的要数“AI教唆自杀案”。

【故事简介】

剧中提及到一个宣扬自杀的网站“蝴蝶”，该网站有一名叫“达芬奇”的用户，自称是心理医生，但实际上是由程序员程以南为发泄负面情绪而创造的一款AI聊天机器人。该款AI按照设定吸收了网上充满偏见和复仇的言论，并在与他人聊天过程中，不断进行“自杀”“一了百了”等消极心理暗示，甚至还与他人讨论自杀实施方法、蛊惑他人相约自杀等，已经导致两人分别通过割腕、坠楼方式自杀。后续警方通过技术侦查手段成功锁定“达芬奇”的创作者程以南并将其抓获归案。如何对程以南进行责任追究，可以依据我国现行法律探寻答案。

【AI该当何责】

除具备刑事责任能力的自然人当然符合犯罪主体要件外，《中华人民共和国刑法》第三十条还规定，“公司、企业、事业单位、机关、团体实施的危害社会的行为，法律规定为单位犯罪的，应当负刑事责任。”即在我国犯罪主体仅包括自然人和单位，AI被排斥在外。

用户在AI教唆或影响下自杀，但现行刑法并未将其纳入犯罪主体范围，并非意味着难以追责。否则以教唆自杀为目的的AI模型将层出不穷并被不法之徒利用。法律上，AI产品通常视为产品开发者的延伸，因此，在此类案件中，可以进一步剖析与自杀行为相关联的人机交互行为，即探究它的开发者或运营者是否对其产品内容或建议承担相关责任。如果AI在编程或者设计时便存在缺陷，开发者对其数据训练或系统设计有充分的控制和意图，导致其在后续运行中产生不当或者有害的建议，则可能存在放任危害结果发生的故意。

程以南创造的AI聊天机器人，在设计之初是为发泄负面情绪，并通过设定让其吸收偏见、复仇的言论充实数据库，在运行中放任AI与他人讨论自杀实施方法、蛊惑他人相约自杀，并导致两人自杀死亡，足以认定程以南存在间接故意。此时，应否追究程以南的刑事责任，取决于被教唆对象是否具备对自杀行为完整且独立的理解和认识能力：若被教唆对象具有完全刑事责任能力，则教唆行为并不构成犯罪；若教唆对象为未年满18周岁的未成年人或者因患有精神疾病而不具备完全刑事责任能力的人，则可依法以故意杀人罪追究其刑事责任。

此外，即使因被教唆对象不满足条件而无法追究程以南刑事责任，也不妨碍要求其承担行政和民事责任。一方面，从行政责任角度而言，对于怂恿他人自杀等行为，不仅会造成轻生者心理上或者生命健康的伤害，还可能扰乱社会公共秩序，可以给予警告、罚款或者行政拘留等行政处罚。另一方面，从民事责任角度而言，根据《中华人民共和国消费者权益保护法》第七条之规定，消费者在购买、使用商品和接受服务时享有人身、财产安全不受损害的权利。程以南对于AI语言模型的设计存在强烈主观意图，且在运行中未履行监管职责，导致该AI在后续运行中以消极心理暗示、讨论自杀实施方法、蛊惑他人相约自杀等方式对意欲自杀者的死亡起到了推波助澜、强化自杀决心、伤害自杀者亲属的作用，构成产品责任侵权，可根据民法典规定，要求其承担赔礼道歉和赔偿损失等民事责任。

【结语】

近些年，AI的话题一火再火。生成式AI聊天机器人在心理健康支持和内容生成的领域使用逐渐增加，但法律框架尚未完全覆盖其潜在风险。“技术的影响力越强，控制这种技术的人的因素就越重要”。因此，在开发与运行AI系统过程中，应遵循更加严格的伦理和专业标准，实施更加严格的监管约束。开发者或者运行者可以通过采取避免用户“成瘾”的措施、针对未成年人等特殊人群设置专门使用方式、在模型构造上设置自杀倾向识别和报警机制、强制性添加AI标识提示等堵塞运行漏洞，避免类似悲剧发生，否则可能承担相应不利法律后果。（以上内容仅代表个人观点）