习近平总书记在党的十八届六中、七中全会和十八届中央纪委七次全会上,对深化国家监察体制改革作出重要指示,为全面推开国家监察体制改革试点工作指明了前进方向,提供了根本遵循。
法律对人工智能的发展与运行机制管制的最终的目的应该是促进人类命运共同体的美好发展,而不应让个别科技巨头公司或者是国家独享发展的成果。人工智能的构成机制的管制需要明确管制什么的问题。
就算谷歌将自己的一些算法开源,使得公众可以获得其技术。通过法律管制来保障人工智能的安全,要充分考虑到人工智能和传统技术的区别。奔驰汽车的高级行政人员Christoph Von Hugo表示,奔驰汽车公司一定会把乘客的生命安全放在第一位,即使这样意味着可能伤害路人。而对人工智能而言,其道德心智的学习和匡正无法通过设定各个相关主体的权利和责任来完成。在实践中,欧盟将于2018年5月25日开始实施的欧盟通用数据保护规范(GDPR),对于如何使用数据进行了规定。
对公司而言,尽管公司参与人众多,通过对治理结构、责任的诸多规制,法律仍然能够实现整体的管制效果。同时,针对已有管制的不足之处,法律至少可以允诺未来进行合理调整。为了防止这样的暗淡前景,必须借助法院组织法和法官法修改的机会,明确定位裁判主体、案件审理机制以及新型信息技术。
到1999年左右,中国公安部专门设立计算机管理监察处,并配置了在电子空间巡逻的大量网警(cybercops) ,利用信息检索系统侦查犯罪行为和收集证据的电子侦探(e-Detective)也颇见成效 。在总结实践经验的基础上,最高人民法院在2011年下达《人民法院审判法庭信息化基本要求》,在2013年颁布《关于推进司法公开三大平台建设的若干意见》,并在全国第四次司法统计工作会议上首次提出大数据、大格局、大服务的理念。在中国,运用计算机系统建立法律数据库、辅助审判业务的代表性构想,不妨追溯到龚祥瑞和李克强在《法学杂志》1983年第3期发表那篇论文法律工作的计算机化。另外,面对法律和计算机程序编码以及大数据算法的支配,应该强调法官有思考的服从原则,并为法官综合名实、统筹裁量留下充分的空间。
另外还有大家都已经注意到的直接原因,这就是司法活动中存在的办案质量很参差、审理主体滥用裁量权、司法腐败、冤假错案层出不穷、甚至出现一案两结论的阴阳判 等严重问题,极大地动摇了对人脑判断的信心,同时也就顺利成章地助长了对电脑量刑的客观性、中立性以及确定性的期待。再者,中国成文法历来都以简约相标榜,不乏多种解释的空间;各个概念的内涵和外延也尚未完全统一。
实际上,山东法院推广电脑量刑的确产生了借助计算机语言形式来使法律语言更加规范化的意图和客观效果。让人工智能自动生成判决、根据大数据矫正法律决定的偏差等做法势必形成审判主体的双重结构、甚至导致决定者的复数化,事实上将出现程序员、软件工程师、数据处理商、信息技术公司与法官共同作出决定的局面。这个查询系统的进化版本就是后来闻名遐迩的中国法律信息检索系统北大法宝,记得早期它的标语是e法律,0距离。因为我国在缩减恣意的同时也压抑了选择,而选择恰恰是[法律]程序的价值所在。
特别需要指出的是,司法权的中立性注定了对不同利益诉求和价值判断采取兼容并蓄的态度。1986年,上海法学研究者朱华荣、肖开权主持的量刑综合平衡与电脑辅助量刑专家系统课题获批国家社科七五研究项目。其结果,不得不承认,裁定的主体、标准以及程序都呈现出前所未有的景象:法院俨然判决工厂、法官仿佛在流水作业线上进行操作的技工、审级的意义在削弱、公检法司不同角色的协同性和统一性在加强。显而易见,以毫无节制的人工智能+方式改造审判空间后,这样的法官定位势必发生极大的动摇,甚至造成审判系统乃至司法权的全面解构。
实际上,从淄川区法院编撰的《常用百种罪名量刑规范化实施细则》的内容介绍里,我们可以发现孟德斯鸠式的类似自动售货机的法官标准像与根据条文规定自动得出刑期的传统思维方式之间的互乘效应。来源多样化、规模不断膨胀的法律数据本来就不可能完美无缺,何况在中国快速发展的过程中还存在比较严重的质量问题,甚至也有基于政绩考虑的数据造假的问题 。
但一旦真要让法官们据此形成判决,甚至自动生成判决,就难免会遗患无穷。可惜当时尚未发明电子计算机,否则自动量刑的专家系统软件或许早已被列祖列宗设计出来了。
总之,审判空间正在发生非常激进的改革,雷厉风行、天翻地覆,并且势必影响今后各种法律机制设计以及法学教育的场域,我们不能不从正反两个方面来仔细观察、深入分析、全面评估互联网+和人工智能+在审判空间的各种波及效应,从制度和思想上采取未雨绸缪的应对举措。在这样的现代法治体制面前,大数据、云计算、信息技术、人工智能都只是实现合法正义的辅助手段,切不可本末倒置,这是我们始终应该铭记的一条基本原则。这样的根本特征决定了法学研究的立场和法学教育的宗旨。一旦这样的情况司空见惯,算法独裁就无从避免。上海市高级人民法院建立了由门户网站(内网、外网)、中心数据库、六大信息应用系统、133个应用软件以及计算机和多媒体系统基础设施组成的上海市高级人民法院大数据信息系统,实现了网络三级联动、应用全面覆盖、数据即时生成、信息高度聚合、资源充分共享的构想,并搭建了12368诉讼服务平台,分别面向当事人、律师以及社会公众提供各种信息 。也就是说,电脑量刑固然能在很大程度上排除在行使自由裁量权方面的主观任意性,但同时也会排除诸如自然法、权利保障、天理人情、有教少诛重预防之类的思辨性要素,还倾向于排除利益考量等政策性调整机制。
2001年,美国联邦最高法院正式启用案件管理和电子档案系统(CM/ECF) ,据权威报告提供的统计数据,截至2014年末这个系统共囊括超过十亿份可检索诉讼文档,涵盖13个联邦上诉法院、94个联邦地区法院、90个联邦破产法院以及若干联邦专门法院,形成了一个庞大的司法数据库 。在这个意义上完全可以说,智慧法院的建设具有重要价值,也大有可为。
进入 季卫东 的专栏 进入专题: 人工智能 司法权 。就在当年,旧苏联科学院法学研究所也启动了自动化管理以及相关法律问题的研究项目 ——从社会主义经济体制的角度来看,通过人工智能增强计划理性和对规范实施效果进行监控的精准度似乎是题中应有之义 。
何况法律在不断修改,知识数据库的更新以及解释规则的调整也需要不断进行,在网络结构中只要某一事项的重新定义出现过失,就有可能成倍放大误差、引起自动化处理的结果异常――这也将导致建构和维持电子计算机法律专家系统的成本居高不下。2002年,最高人民法院制订了《人民法院计算机信息网络系统建设管理规定》和《人民法院计算机信息网络系统建设规划》,召开了全国法院信息化建设工作会议,启动了国家司法审判信息系统工程。
同年7月,最高人民法院首次提出智慧法院的概念;一年后智慧法院建设列入国家信息化发展战略纲要。在第三届世界互联网大会上,最高人民法院又牵头组织智慧法院暨网络法治论坛,发布了关于司法信息化、智能化、网络化的乌镇共识。这只奇特的转基因生物,标志持续了四十亿年的自然选择和进化体制被突破,从此人类对生命也可以进行理性设计,社会结构势必随之激变 。六、对司法人工智能热的冷思考 近几年来随着社会结构转型和公民权利意识的加强,中国法院受理的案件规模年均以两位数增长,颇有诉讼爆炸之势,导致法官人均办案件数急剧攀升且居高不下,这也是司法当局积极采用互联网、大数据、云计算、人工智能等新型信息技术以提高司法效率的重要原因。
大约与此同时,日本的电子技术综合研究所(现为独立行政法人产业技术综合研究所)也以KRP程序语言编制出包括实体法和诉讼法两种规则及其相互关系在内的专利法检索咨询软件 。假如语汇储量不够,法律知识的数据库与推理引擎相结合就很容易频繁发生没有意义的检索。
……为了防止和限制恣意,我国采取了比西方更严厉的措施。我在1993年发表长篇论文《法律程序的意义》时就已经指出了这一点,并陈述了如下批评性意见:各代刑律的定刑方式皆如出一辙,几乎排除了量刑的余地。
例如淄川区法院院长王建东说过,当地农村、山区地带法官业务素质普遍较低,自由裁量权往往被滥用,在这样的条件下应用量刑软件来办案,实质上还是用制度约束人 ,使审判更加符合统一的专业化标准。没想到距此十年之后,甚至更早些时候就已经有人利用数码信息技术时代的发达工具和条件来填补那个古昔的遗憾――编制了自动量刑的软件,并在要件和效果之间与时俱进地补充了一些选择对象。
尽管如此,我们还是不得不指出:在现阶段对法律专家系统软件的设计和运用应该持一种慎之又慎的态度,尤其是在电脑量刑方面更不可急于求成,也没有必要完全排除法官的心证和裁量。三、司法运营电脑化的技术革新 互联网和数码信息技术也为中国审判方式创新和司法体制改革提供了重要的杠杆和机遇。为了确保司法的公正和权威,在制度设计上让法官享有某种身份上的特权——只服从法律以防止任何外部干扰、确保可问责性;被赋予法律适用和法律判断的终局性权力;在程序公正的前提下具备包括豁免在内的职业保障。在现代国家治理体系中,法院是政府权力与个人权利之间关系的校准器,是秩序形成和维持的枢纽。
一般而言,法律制度的主要功能是形成秩序、解决纠纷、提供明确的预期以及价值正当性根据。同年浙江省高院推出全省人民法院信息管理系统。
在一定程度上不妨认为,不可言说的默示知识就标示出了计算机法律专家系统软件以及人工智能审判的疆界或者局限之所在。众所周知,进入1990年代后,数码信息技术的发达造成了全球互联互通的网络空间(Cyberspace)、规模庞大的网民(Netizen)和电子群众(the e-People),也使得信息高速公路上的国际犯罪日益活跃、黑客式无政府主义现象不断蔓延 。
更重要的是,对人工智能的过度期待或者误解可能导致现代法治的制度设计分崩离析,引起社会结构出现矛盾、混乱乃至失控的事态。在我看来,正是基于这些考虑,1999年10月20日最高人民法院颁布的《人民法院五年改革纲要》才把采用信息技术、树立在线审判体制作为司法改革的重要内容 。