摘要：当前，人工智能技术快速发展，将对全球经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战，引发一系列现实和潜在的法律问题。如何充分发挥司法职能作用，促推在法治轨道上加强和完善人工智能治理，事关公平

充分发挥司法职能作用

促推人工智能健康发展

— 张军 —

最高人民法院党组书记、院长、首席大法官

目次

一、人工智能给司法工作带来的挑战

二、中国法院应对人工智能挑战的举措

三、中国法院关于应对人工智能挑战的倡议

当前，人工智能技术快速发展，将对全球经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战，引发一系列现实和潜在的法律问题。如何充分发挥司法职能作用，促推在法治轨道上加强和完善人工智能治理，事关公平正义，攸关人类命运，是世界各国法院共同面临的时代课题、必须回答的时代之问。在此，我从三个方面分享中国法院对相关问题的认识和采取的举措。

一、人工智能给司法工作带来的挑战

从蒸汽机、电力，到计算机、互联网，人类每一次技术革命都会推动法律制度、司法制度发生重大变革。人工智能是人类发展的新领域，对人类社会的影响将超过以往任何一次技术革命，正在全面而深刻地改变着人们的生产生活方式、社会组织方式、国家治理方式。在司法领域，这些影响和变革既以新型案件的形式投射到司法审判工作中，也为司法审判工作提供了新的科技支撑。面对新形势新任务，我们需要在法律规则层面积极作出回应，同时也要在司法应用层面不断深化探索。

一方面，人工智能对司法审判提出新课题新要求。人工智能技术加速发展，新领域、新业态、新模式不断涌现，各种新型矛盾纠纷也相伴而生。面对人工智能引发的新型、疑难、复杂案件，如何在新技术背景下明确裁判标准、加强规则指引，推动完善法律制度，是司法工作必须面对的挑战。比如，在中国武汉等城市，无人驾驶汽车已经作为运营车辆投入使用，一旦发生交通事故由谁来担责，是车辆运营商、车辆所有者，还是智能程序设计者？又如，生成式人工智能获得极大关注和发展，产业创新模式也发生深刻变革，人工智能生成的图片、文章、视频是否受著作权法保护等法律问题、新型案件随之而来。再如，传统犯罪借助人工智能技术，危害后果更为严重，利用深度伪造技术实施诈骗、敲诈勒索，利用生成式人工智能编造、传播虚假信息等新的犯罪手法、形式已经出现。

另一方面，人工智能给司法应用带来新机遇新挑战。人工智能技术与审判工作深度融合已成为现实所需、大势所趋，既为推动审判工作高质量发展提供强劲动力，也不可避免带来多重风险挑战。比如，关于证据审查，电子数据作为诉讼证据已经广泛出现在各类诉讼案件中，而人工智能技术一旦被用于伪造、篡改、删除电子数据，证据的完整性、真实性和案件事实认定将会更加困难，这要求法院必须加快完善适应新技术发展的证据审查认定规则。关于数据需求，司法人工智能需要大量优质司法数据用于训练，这就对案件卷宗电子化、数据采集标准、数据资源互联互通等基础工作提出新的更高要求。如果不能有效解决数据壁垒、“数据孤岛”、数据“沉睡”等现实问题，人工智能司法应用就是无源之水、无本之木，不可能达到我们预期的效果，甚至影响司法决策的正确性。关于算法规则，很多影响司法决策过程的关键因素，如外部环境考量、集体讨论过程、法官裁判过程等，都难以进行数据化、程序化运算，算法规则能否以及在多大程度上参与司法决策，如何有效防止算法偏见、算法歧视、算法黑箱等问题，也是必须慎重对待的问题。

二、中国法院应对人工智能挑战的举措

一是以典型案件办理完善裁判规则。审理以智能“换脸”技术破解计算机登录验证系统案、通过深度伪造传播淫秽视频案等利用人工智能技术实施的违法犯罪行为，有效维护社会公共秩序和公民合法权益。审理大数据权属案、利用人工智能生成图片侵权案、算法商业秘密保护案等，有力保护创新成果、激发创新活力，服务加快发展新质生产力。依法制裁“大数据杀熟”“强制二选一”等滥用算法规则侵害消费者合法权益的行为，为人工智能使用划定边界，有力保障消费者合法权益与平台经济健康发展。审理涉网约车司机、外卖递送等新就业形态人员劳动争议案件，与多部门联合发布指导意见，防止劳动者被“困”在互联网平台的算法里，切实维护新就业群体合法权益。继2021年出台规范“人脸识别”技术的司法解释后，中国最高人民法院2024年又发布反垄断民事诉讼司法解释，对互联网平台通过大数据、人工智能、算法等技术手段排除、限制竞争的行为予以依法规制，不断完善人工智能领域司法裁判规则。

二是推动人工智能与司法工作深度融合。以长远眼光看待人工智能技术发展，发布《关于规范和加强人工智能司法应用的意见》，探索使用人工智能技术为司法赋能，并在实践中取得初步成效。中国法院已基本实现庭审语音智能识别系统全覆盖，帮助法官自动识别当事人的庭审发言并将其转换为文本模式，显著提高庭审效率。2024年6月，广东省深圳市中级人民法院上线运行的人工智能辅助审判系统，能够帮助法官梳理案件审理要点、争议焦点、法律依据、事实疑点和类案裁判标准等，目前该院已应用在所有常见民商事案件中。利用区块链技术不可篡改、不可伪造的特点，北京、杭州、广州互联网法院在司法区块链平台存储的电子数据已超过85.6亿条，区块链证据采信率达到99%，有效破解电子证据取证、存证、认证难题。2024年4月，最高人民法院启动“版权AI智审”试点，借助“以图搜图”功能，实现图片比对和查明来源等功能，有效解决了版权侵权纠纷中“图案查重困难”等问题。此外，许多地方法院借助人工智能技术，为当事人提供法律咨询问答、诉讼流程引导、一键生成起诉状等，服务当事人更加便捷地参与诉讼、实现公正。

三是大力推进数字法院建设。充分发挥我国社会主义制度优势，积极融入数字中国整体布局，计划2025年起实现全国3500多个法院在“一张网”上办案办公，将彻底解决各地各级法院司法数据壁垒，推动人民法院信息化建设迭代升级。比如，对同一当事人或诉讼代理人在各地提起关联诉讼的情况，法官无须经过烦琐的申请流程和人工搜索，在“一张网”上就可以快速查询掌握，进而方便法院统筹关联案件的处理，防止法律适用不统一。下一步，我们将以全国法院“一张网”作为数字法院建设的底座和基础，在办案系统中嵌入业务规则，自动向法官提示预警信息、推送类案判决，辅助法官审理案件，提升司法审判质效。积极应用人工智能技术，不断提升办案智能化水平，形成一套从数据源到数据治理、数据应用的完整方案，助推实现与数字时代相适应的审判方式变革和诉讼格局重塑。

三、中国法院关于应对人工智能挑战的倡议

2023年10月，中国政府向全世界发出《全球人工智能治理倡议》，倡导各国通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。中国法院愿与亚太各国法院一道，在倡议指引下，深化交流、加强合作，共同为人工智能时代的人类司法文明进步作出积极贡献。在这里，我就司法如何积极应对人工智能带来的挑战，提出三点倡议：

一是守住安全底线，促进技术发展。我们应当统筹好发展与安全，充分发挥司法审判职能作用，从纷繁复杂的技术变革中把握司法规律，形成具有引领作用的人工智能司法裁判规则，支持人工智能技术创新和产业创新。同时，通过规范法律适用守住科技伦理和安全底线，依法处理好自由与秩序、私益与公益的关系，充分尊重和保障各群体合法权益，有效抑制技术发展可能产生的负面影响，最大限度降低风险，确保“智能向善”。

二是加强技术应用，提高司法效能。人工智能技术发展是不可逆转的时代潮流，在司法活动中的应用只会越来越广泛、越来越深入。我们应当坚定拥抱科技革命的信心，加快推进人工智能技术与审判执行、诉讼服务、司法政务等工作深度融合，加快建设司法人工智能技术应用体系，为司法工作注入新动能。同时，必须充分认识到，无论技术发展到何种水平，人工智能都不能代替法官裁判。我们应当坚持人工智能对审判工作的辅助定位，提升技术研发、产品应用、服务运行的透明度，确保司法裁判始终由法官作出、司法责任最终由法官承担。

三是加强务实合作，凝聚治理共识。亚太各国地缘相近，经济社会交流密切。面对人工智能给司法审判工作带来的挑战，亚太各国法院应当携手应对、凝聚合力、共建共享。中国法院愿与亚太各国法院一道，加强交流互鉴、相互取长补短，进一步拓宽人工智能领域的司法交流合作，共同研究解决人工智能领域的司法问题，加速实现数字化、智能化转型，努力为人类司法文明进步作出新的更大贡献。

习近平主席深刻指出，“中国愿同世界各国一道，把握数字化、网络化、智能化发展机遇，深化人工智能发展和治理国际合作，为推动人工智能健康发展、促进世界经济增长、增进各国人民福祉而努力”。让我们携手合作，积极应对人工智能给司法审判工作带来的挑战，让人工智能更好地服务于维护社会公平正义，更好地造福人类，推动构建人类命运共同体！

(本文系张军院长2024年10月12日在第19届亚太首席大法官会议上所作的专题发言，刊发时略有修改)

来源：最高法司法案例研究院