在主旨发言环节，清华大学科研院、互联网司法研究院刘奕群院长，华东政法大学数字法治研究院院长、华东政法大学公民社会与法治发展比较研究中心马长山主任，西南财经大学统计学院、统计研究中心马铁丰教授，常州大学史良法学院教授、常州大学数字法律科学研究所曹全来所长等数字法治研究领域专家学者、审判一线资深法官以及人工智能产业企业负责人齐聚一堂围绕“人工智能赋能法院工作现代化”和“人工智能的司法规制与保护”等两个主题展开“头脑风暴”。苏州市中级人民法院党组副书记、副院长韦炜主持主旨发言环节会议。
在交流研讨环节，专家学者与一线法官围绕“人工智能赋能司法实务的实际应用场景举例”“当前司法实践中最期望通过人工智能来解决什么问题”“人工智能参与司法裁判过程中的风险防范与规避”等三个主题展开深入交流。清华大学科研院、互联网司法研究院刘奕群院长主持交流研讨环节会议。
主旨发言
主题一
人工智能赋能法院工作现代化
西南财经大学统计学院、统计研究中心教授，四川省高级人民法院研究室副主任（挂职），四川省法治量化与信息工程重点实验室研究员马铁丰，以人工智能与司法的几点思考为题作主旨发言。马铁丰教授认为：一、人工智能可以实现类案类判。可以通过人工智能进行量刑预测来实现类案类判，值得注意的是通过机器学习来实现量刑预测需要规避好过拟合风险，避免机器学习过程中将不相关因素作为量刑参考，形成算法歧视。二、人工智能可以参与辅助审判。庭审工作对当事人进行察言观色可以为法官带来更全面的判断，但庭审过程中法官的精力是有限的，无法全程关注每一位当事人的表情。通过人工智能对当事人表情的分析，可以辅助法官更进一步考察当事人的这种内心世界。三、要关注人工智能对司法工作的影响。一方面人工智能会为司法工作带来助力，将人工智能技术应用于审判辅助工作中，借助现代科技为执法办案提质增效；另一方面人工智能会为司法工作带来挑战，人工智能的发展导致社会上开始出现涉及人工智能的纠纷，如何对涉及人工智能的案件进行审判是司法工作面临的一项全新挑战。
中国社会科学院法学研究所、中国社会科学院大学副教授胡昌明，以中国语境下司法人工智能的角色定位为题作主旨发言。 胡昌明教授认为：司法现代化离不开科学技术的进步，人工智能在法律生活中正在扮演越来越重要的角色。近年来，得益于急迫的司法需求和官方的大力支持，中国的司法人工智能蓬勃发展，人工智能在一定程度上重塑了司法。通过对《法院信息化发展报告》100项司法人工智能案例的实证分析发现，中国的司法人工智能呈现出偏重强调效率、电子诉讼模式以及法院的管理和辅助平台建设的特点，并具有地方试点主义倾向。由于法律规范具有较强的不确定性，案件事实存在多样性，而且司法裁判并非简单的逻辑推理，公正的判决须臾离不开裁判者的价值判断等因素，AI法官目前还只是法学家的一种幻想。今后，中国的司法人工智能的角色定位不应该是试图替代人类法官，而是成为法官的外脑、法官的分身和法官的参谋。
东南大学法学院副教授，东南大学人民法院司法大数据研究基地执行副主任，江苏省法学会数字法学研究会徐珉川副会长，以面向审判现代化的生成式智能体系的可信理论为题作主旨发言。徐珉川主要围绕法律人工智能的应用、发展、面临的挑战以及未来的治理方向进行了深入的探讨。徐珉川认为，法律人工智能在中国大约在2018年左右开始得到法学界和司法实务界的认可。随着近年来生成式人工智能的快速发展，司法人工智能领域再次迎来了新的机遇。随着司法人工智能的发展，可信度问题可能逐渐取代精准度和效率问题，成为技术层面和规范性层面的关键话题。大模型虽然在司法人工智能中的某些方面具有优势，但也存在系统性风险，如结果的不可控性、幻觉问题、算法的可问责性、数据隐私安全、复杂任务的处理能力以及大模型的本地化私有部署、内容风险等规范层面的问题。徐珉川认为，人机协作是法律领域未来工作的一个必然趋势，但在关键任务中应谨慎使用人工智能，必须解决可信度问题。这包括技术层面的可信度和规范层面的可信度，以及如何构建一套切合法院审判任务的智能化体系。徐珉川的发言在深入分析了法律人工智能的现状、挑战和未来发展后，强调了在推进法律人工智能应用的同时，必须确保其可信度，并在人机协作中找到司法的平衡点。
华为数据中心安平首席AI计算架构师王喆，以创新计算根技术，助力司法行业智能化转型为题作主旨发言。王喆在发言中，针对创新计算根技术，助力司法行业智能化转型进行了详尽剖析，并围绕人工智能发展趋势、华为人工智能产业进展、成功实践等多个维度进行了深入的解读和讲解，为计算根技术及生成式AI与司法行业的有效结合提供了相关的行业洞察及实践启示。他强调大模型发展迅速，成为产业发展的必然选择。传统烟囱式建设模式逐渐被大模型取代，因为大模型具有更强的泛化能力和涌现能力。国内厂商如华为等正在开发基础大模型，并在此基础上构建行业模型。华为在人工智能领域的主要方针式：硬件开放、软件开源、伙伴合作、人才培养。在应用上。华为的AI技术已适配国内多家基础模型，并且通过了公安部的安全可靠测评，满足了自主可控的要求。他认为华为认为人工智能技术在司法行业智能化转型中的重要性，以及其在提升地区生产力和满足安全可靠要求方面的潜力。
主题二
人工智能的司法规制与保护
清华大学科研院、互联网司法研究院刘奕群院长，以大模型时代的司法信息智能处理为题作主旨发言。刘奕群院长认为，随着人工智能技术的飞速发展，在司法领域的应用日益广泛，给司法工作带来了前所未有的机遇和挑战。第一，我们对人工智能在司法中的应用要建立一个正确的预期，人工智能不能代替法官。我们可以把大模型语言认为是一个正在学习说话的孩童，虽然它会说话，具备了学习、交互的能力，但不可否认的是这这些能力本身是有限制的。第二，通过司法手段对人工智能的应用制定规章制度和保护策略。最高人民法院出台过一个关于规范和加强人工智能司法应用的意见，审判人员应避免受到人工智能带来的偏见性影响，司法决策始终应当由审判人员作出。我们必须考虑如何用技术的手段来确保这个意见能够实施，防范因人工智能系统一些偏见性因素影响司法决策，无论对于司法实务人员，还是对于技术研发人员，都提出了很高的要求。
华东政法大学数字法治研究院院长、公民社会与法治发展比较研究中心主任马长山，以数字法院建设的法治考量为题作主旨发言，马长山院长认为，今年最高人民法院的报告里明确提出了以数字法院助力提质增效，数字法院建设的法治考量，第一，是司法能动与司法谦抑。数字技术赋能给了法院，出现了几个变化，一个是从工具到目的，二是从局部到一体，三是技术到权力，四是从赋能到能动。张军院长提出，通过依法办案来促进社会治理，要赋予法院数字，同时要注意司法谦抑。第二，是数字技术与司法属性。一方面我们要充分肯定数字技术推进了司法的效率和准确性公正性，但另一方面技术也是有局限性，人工智能只能做辅助，不能代替法官的裁决。我们要让人工智能更好地服务司法，但是要防范它侵蚀司法属性。第三，是数字司法与数字正义。以数字正义推动实现更高水平的公平正义，通过我们的审判，维护数字程序正义、数字社会正义。
常州大学史良法学院教授，常州大学数字法律科学研究所所长曹全来以“生成式人工智能的应用风险与司法规制”为主题作主旨发言。曹全来教授认为，生成式人工智能已广泛应用在智能汽车、医疗卫生、金融银行等多领域、多场景，已逐渐成为一个世界性的技术。但值得注意的是，生成式人工智能技术仍在摸索阶段，存在一定的应用风险。一是数据风险，尤其是政务数据、国家数据使用过程中需进行合规监管。二是算法风险，即算法透明性与可解释性风险、算法偏见与算法歧视、算法滥用风险、算法可问责性风险。三是知识产权风险，即知识产权侵权风险、深度伪造（侵犯肖像权和声音权风险）、人工智能生成物的知识产权和所有权风险。针对以上风险，要依据法律、行政法规建立相应的司法审查标准，生成式人工智能的生成物属于 “智力成果”，也需要加强保护，同时注意侵权问题。而生成式人工智能作为一种智能体 （AGENT），可能产生新的犯罪形式，原有刑事法律不能覆盖，需要增加新的法律。
中国社会科学院法学研究所网络与信息法研究室副主任、中国法学会网络与信息法学研究会周辉常务副秘书长围绕“人工智能训练数据的合规与制度调适”作主旨发言。周辉表示，当前生成式人工智能发展过程中仍存在一定的数据安全、知识产权争议等风险。针对这些问题，需要考虑的是如何在既有的数据治理制度体系上去健全完善，比如当下个人信息匿名化制度、去标识化制度的环境下，针对人工智能技术进行更加包容的改革，平衡好数据流通与人工智能科技监管之间的关系。另外一方面是针对著作权法领域的合理使用规则进一步细化，顺应著作权领域的发展变化，对各个领域内的合理使用情况进行适用范围的区分和规定。比如法院在裁判空间内能够为技术创新发展提供一个更加包容审慎的空间，通过案件审判为生成式人工智能技术提供发展导向。随着技术的广泛应用和不断演进，生成式人工智能服务的开发者、提供者、使用者、监管者在未来实践中都还将面临不少的法律挑战，法律上也仍有诸多可填补的空间。这些也是我国下一步针对生成式人工智能立法立规应重点关注的问题。
交流研讨
主题
人工智能赋能司法实务交流研讨
最高人民法院信息中心数据处处长黄国栋、苏州大学计算机学院副院长赵雷、同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员陈吉栋、苏州市中级人民法院科信处处长张祺、昆山市人民法院立案庭副庭长徐淼，围绕人工智能赋能司法实务，提升法院工作现代化水平在清华大学科研院、互联网司法研究院刘奕群院长主持下，开展交流讨论。
议题一
人工智能赋能司法实务的实际应用场景举例
最高人民法院信息中心数据处处长 黄国栋
介绍了人工智能技术在电子卷宗自动编目场景下的应用。他表示，尽管这并非法院的主营业务，但在其他行业中尚未见到类似的应用。这项技术利用了人工智能的图像识别等能力，可以自动归类整理大量的法院卷宗，并提炼出相应的名称，真正为法院减轻了负担。此外，他还提到人工智能在裁判文书辅助生成、立案推送、文书纠错以及法律法规辅助查询等方面也有广泛应用，尽管在一些法官看来效果并不理想，但这仍是一个正确的发展方向。
苏州大学计算机学院副院长 赵雷
介绍了人工智能技术中自然语言处理（NLP）在法院文书处理场景中的应用。他认为，自上世纪五六十年代以来人工智能技术已发展多年，而其中自然语言处理和理解技术已相对成熟，并且与法院工作高度契合。法院工作涉及大量的文本处理，早期NLP技术主要用于语言翻译并取得了显著成就。如今，这些技术被认为在法院文书的扫描、内容提取、理解和要点提炼等方面有巨大潜力，可以充分利用多年的研究积累，有望成为司法实践中广泛应用的有效工具。
同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员 陈吉栋
分享了在法院建设过程中发现的一个普遍问题：许多法院由于诉讼费用过度支付后难以退还，导致法院账上累积了大量资金。他提出，可以通过应用智能合约技术来自动处理这些过度支付的费用，从而优化退费流程，以解决这一长期困扰法院的财务问题。
苏州市中级人民法院科信处处长 张祺
从法官在阅卷、写作、查找类似案例和卷宗等方面的真实需求出发，他认为，人工智能赋能司法实务的关键在于如何落地并提供良好的用户体验。他建议抓住重点，利用深度学习等先进技术来解决法官工作中的实际困难，推进法院整体工作，并与法院和法官的实际工作相结合，在他们面临问题时提供更快、更便捷的解决方案。
昆山市人民法院立案庭副庭长 徐淼
认为文书生成是人工智能对法官最有帮助的一个方面。他举例说明，在使用“未来法官助手”系统处理八大类案由时，其中的“三个一键生成”功能（一键生成意见、阅卷和文书）让法官感受到了操作的便利性，这种便利甚至突破了年龄限制，使得一名退二线的老法官也能熟练使用该系统处理物业纠纷案件，文书生成率达到95%以上，大大减轻了工作负担。
议题二
当前司法实践中最期望通过人工智能来解决什么问题
同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员 陈吉栋
分享了上海已经制定的多项人工智能和数据相关法规，但也指出这些法规在实践中仍然存在适用的问题。他强调，随着社会数字化转型，法院系统的角色应从传统的纠纷解决场所转变为数字社会治理的核心。他提出法院应借助人工智能建立信任，强化作为社会治理中心的地位。此外，他提到法院在采用人工智能系统时面临的怀疑，并强调了建立模型的过程中法官的积极参与和需求反馈的重要性，以及在场景建设中必须考虑到监督和底线问题。
苏州大学计算机学院副院长 赵雷
提出了对法官获得感的理解。他认为，法官希望通过人工智能降低劳动强度并提高工作质量，但要能够真正有效地使用人工智能，法官需要了解其基于概率的工作原理，即从已学习的材料中找到与问题最相似的结果进行模仿。因此，他强调了提供优质学习材料的重要性，建议法律界提供更多优质案例以供人工智能学习，以便逐步提升法官的获得感，即使短期内法官的获得感可能不明显，但通过持续努力，这种感受将会逐渐增强。
苏州市中级人民法院科信处处长 张祺
提出了两项主要期望：一是利用人工智能提高法官的工作效率，减轻法官的劳动强度，避免法官仅仅成为案件处理的“机器”；二是希望人工智能能够帮助法官实现他们的创意和处理一些原本难以应对的事务。他认为，人工智能技术发展应该能够提供简单的工具和手段，以快速地满足法官对资料的需求，并及时反馈。同时，通过每个法官对人工智能模型的贡献，可以进一步完善这些模型，增强其功能，最终达到提高整体工作效率的目的。
昆山市人民法院立案庭副庭长 徐淼
提出期望人工智能扮演好两个“助手”的角色：一是“办案助手”，需要人工智能能够推送相关案例，帮助法官审阅电子卷宗，进行案例讨论，并提供判决依据，如通过微信聊天记录确认合同的成立；二是“管理助手”，需要人工智能能够规范管理案件，帮助安排工作，控制办案节奏，从而提高工作效率和质量。
最高人民法院信息中心数据处处长 黄国栋
认为随着法官对系统的期望和标准在不断提高，仅仅提供看似精准的服务可能并不能满足法官的实际需求。为此，法院正在优化裁判文书库的检索功能，通过将裁判文书信息与结构化信息相结合，并引入大模型训练，帮助法官更高效地检索所需信息。同时，他也呼吁，希望能有法官更多参与到系统优化过程中，共同推动人工智能在司法领域的应用发展。
议题三
人工智能参与司法裁判过程中的风险防范与规避
昆山市人民法院立案庭副庭长 徐淼
提出了三点建议：一是人工智能所使用的语料必须源于真实、有价值的案例，并建立纯净的案例库以保持语料的真实性；二是必须建立一个校准验证的过程，确保法官对人工智能的回答及其来源能够进行数据回溯的验证，以保证判决的准确性；三是法官应对文书的最终内容负责，并对其进行严格控制。他认为，通过这三个措施可以将人工智能产生的风险控制在较低水平。
最高人民法院信息中心数据处处长 黄国栋
强调了数据安全的重要性，并提出法官尚未充分感知到人工智能的能力和潜在风险。他认为，一方面是理论研究总是领先于实践，因此必须在规制性约束和人工智能的精炼上下功夫；另一方面，技术研究也不必追求全面的进步，而是应专注于在某一方面取得重大突破。他举例说明了美国人工智能司法裁判中的种族偏见问题，认为算法所体现的歧视源于人类自身，所以我们应当重视这一问题，并确保这种重视能够被感知和体会到。
苏州市中级人民法院科信处处长 张祺
认为人工智能作为一个基于概率统计的开放式平台，其语料库的质量至关重要，同时，人工智能的自学习能力意味着使用者的反馈对于模型风险的管理也至关重要。目前，人工智能在司法系统内部的部署是以优质电子卷宗为基础，法官的使用和反馈将直接影响平台的性能提升。此外，他也引用了最高人民法院的相关规定，强调人工智能应作为辅助工具而非替代法官做出最终裁判，而通过源头和使用过程的严格控制，可以有效避免人工智能在实务中带来的风险。
苏州大学计算机学院副院长 赵雷
提出了人工智能技术本身和技术使用过程中两个层面的风险。技术层面上，目前人工智能的风险主要在于结果的不确定性和不准确性，而使用中的风险则源于人们可能过度依赖或轻信人工智能。因此，他强调在使用人工智能时必须保持客观和理性的态度。
同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员 陈吉栋
介绍了欧盟新通过的人工智能法及其对风险的四级划分，并指出司法系统中使用的人工智能系统无疑属于高风险类别。他提到，根据欧盟法律和上海市的相关条例，司法领域的人工智能系统需要进行一系列严格的评估和认证。同时，他也强调了在司法系统中应用人工智能时管理人员的重要性，提到法官的权限与身份设置的重要性，并说明这些风险无法仅靠政府的纪律解决，而应通过技术规则的设计来进行。
昆山市人民法院立案庭副庭长 徐淼
希望技术能够全面辅助法官工作，将他们从日常辅助性事务中解放出来，使他们能专注于核心的审判工作。
苏州市中级人民法院科信处处长 张祺
认为人工智能技术应当用于提高法官工作效率，给法官和公众带来实感，同时对法院现代化和数字化工作体系的效率增加起到支撑作用。
同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员 陈吉栋
认为法院已经从一个单纯的场所转变为整个社会系统中的一个节点。他强调，要让公众真正体验到智能审判系统的作用，法官需要更多参与到人工智能规则的研发过程中。
苏州大学计算机学院副院长 赵雷
提出了“热情拥抱、科学理解、合理应用”的12字方针。他强调了人工智能时代的不可逆转趋势和发展潮流，提出应该积极接受人工智能，同时科学理解它的优势和局限，并在这个基础上合理应用。
最高人民法院信息中心数据处处长 黄国栋
提议技术和理论界应当以工匠精神去打磨人工智能产品，使其像百年老店一样经久不衰。他同时指出，目前人工智能在司法实务中的应用还没有真正展现出其技术能力，还需要更多地投入与探索。
在研讨小结环节，清华大学科研院、互联网司法研究院刘奕群院长总结认为：各位专家围绕人工智能赋能司法实务主题开展了热烈的讨论，大家觉得开展人工智能司法的研究应该是有三个不同的层次的，第一个层次就是研究人工智能的人跟研究司法的人坐在一起；第二个层次是研究人工智能的人和研究司法的人，能够听懂对方的术语；第三个层次就是人工智能领域的专家和司法领域的专家能够提出并且被对方认可的一些研究的问题。人工智能领域专家能给司法领域提出一些重要的研究问题，司法领域专家也能为人工智能领域提出一些重要的研究问题，做好这一点就是一个非常好的融合。同时也希望今天的研讨，能促进大家去思考司法人工智能的研发过程和目标，从而取得一个更好的结果，让人民群众和我们的司法的工作者都能得到更多的一个获得感。
最后苏州市中级人民法院党组副书记、副院长韦炜总结表示，今天与会代表围绕人工智能赋能法院工作现代化，人工智能的司法规制与保护两个主题作了精彩的主旨演讲，就人工智能赋能司法实务进行了深入的交流。通过下午的研讨，与会代表在司法人工智能的规制发展不能等方面进行了充分的对话，大家以思想碰撞，点燃智慧火花，以真知灼见凝聚发展共识，会议取得了丰硕成果。接下来苏州全市法院将进一步增强数据意识和数据思维。不断拓展已未来法官助手为重点的人工智能司法应用新场景。充分运用司法人工智能技术，为司法为民公正司法提供全方位智能辅助支持，加快现代化法院建设步伐，不断提升为大局服务，为人民司法的能力水平！
继续滑动看下一个轻触阅读原文
苏州市中级人民法院向上滑动看下一个
原标题：《AI大爆发时代，人工智能如何赋能司法审判——“司法人工智能与法院工作现代化研讨会”观点综述》