大会主旨发言由中国法学会立法学研究会副会长、山东大学(威海)法学院教授刘松山主持。重庆市人大常委会研究室主任、市人大制度研究会副会长张良皓、中国法学会立法学研究会副会长丁祖年、《华东政法大学学报》主编、教授马长山、清华大学公共管理学院教授于安、成都市人大常委会法工委主任陈春建、贵州省人大常委法工委副主任李勇、重庆市第三中级人民法院党组书记、院长谢宝红、西南政法大学民商法学院副教授郑志峰、西南政法大学数字法治政府研究院院长、立法研究院执行院长、教授周祖成等九位嘉宾分别就各自主题作主旨发言。
(一)重庆市人大常委会研究室张良皓主任作题为“突出地方特色、坚持务实管用、努力创造具有重庆辨识度的地方立法成果”的发言
张良皓主任从地方立法的角度,系统总结了重庆市立法工作的开展情况和实践成果。他表示,重庆市人大及其常委会坚持以习近平新时代中国特色社会主义思想为指导,把握新时代地方立法工作的新任务新要求,遵循不抵触、有特色、可操作的地方立法工作原则,坚持立法决策与改革决策相衔接,制定出台了一批彰显重庆特色、具有重庆辨识度的地方立法成果,为全市的经济社会发展提供了有力的法制保障。截至目前,重庆市现行有效的地方性法规有211件,其中国家机关事务管理类22件,财政经济类32件,监察司法类19件,农业农村类21件,城乡建设与环境保护类49件,教科文物类27件,社会建设的33件,民宗侨外有8件,自治条例和单行条例18件。
张良皓主任表示,重庆市推进地方立法工作始终坚持以下五个原则:第一,遵循立法规律,科学编制立法规划和计划;第二,扩大群众参与,深入践行全过程人民民主;第三,注重质量效率,充分发挥人大在立法中的主导作用,坚持党委领导、人大主导、政府依托、社会参与的立法工作格局,在实践中总结、在探索中创新、在深化中完善;第四,服务国家战略,扎实推进川渝人大协同立法;第五,坚持守正创新,常态化开展法规清理工作。
(二)中国法学会立法学研究会丁祖年副会长作题为“数字技术赋能地方立法的实践与思考”的发言
丁祖年副会长深入分析了数字赋能地方立法的现状、问题和建议。首先,丁祖年副会长认为,数字技术发展为地方立法突破一系列实践瓶颈提供了技术可能。数字赋能地方立法总体上经历了“法律数据库建设与应用——立法工作中OA应用——开发专门立法工作系统——规范性文件备案审查系统——集成式智能立法系统”的发展过程。
其次,丁祖年副会长总结了当前数字赋能地方立法存在的主要问题:第一,人机友好度低,操作便利性不强;第二,智能智慧度低,应用获得感不强,语义分析能力有限;第三,应用控制性差,保障公平公正性有隐患。
最后,丁祖年副会长为推进数字技术更好赋能地方立法提出了四点建议:第一,要因势利导,既充分发挥数字技术的特别优势,补充人的行为能力之不足,又充分保障人在立法活动中的充分主导权,避免为数字化技术牵制、掉入技术陷阱;第二,要切实防止数字化技术在立法应用中可能出现的不公平不公正现象;第三,在立法中应用数字化技术的进程应当从实际出发,循序渐进,先局部后整体,先部件后集成,不要急于求成;第四,是在开发当中注重便捷性、实用性,注重资料收集的全面性、工作程序的成效性、信息共享的及时性充分性、文本格式的规范性统一性等方面。
(三)《华东政法大学学报》主编马长山教授作题为“人机‘价值对齐’风险的法律控制”的发言
马长山教授全面论述了人机价值对齐的内涵、风险及其法治约束。首先,马长山教授提出,所谓“价值对齐”就是人类要像老师一样教会机器遵照人的价值观进行决策并做出符合人类利益的决定。这是因为,信息革命到来之后,人机关系从物理空间转向虚拟空间、从生物属性转向数字化生存、从主客关系转向人机融合,人和机器融合共事的情况越来越多。由此,人类的伦理就会转向机器的伦理,机器参与决策就会有伦理,这堪称数字时代下的一场伦理革命。
其次,马长山教授分析了“价值对齐”的四重风险:其一是多元悖论,我们要像老师教学生一样教育机器按照人类的价值运行,但是人类本身就有很多不确定的东西;其二是内在局限,例如数据不全、数据质量不高、算法算力有限等;其三是负向教导,网络世界中有明网和暗网,暗网当中存在不法分子编写各种破解工具、钓鱼软件、恶意攻击软件,借此是可以教导机器进行犯罪的;其四是反向塑造,长期来看,当大模型机器深度参与人类的知识生产以后,人类创造的知识可能越来越少,整个知识体系也渐渐被机器塑造,这又将变成下一代机器的语料,最终将形成恶性循环的局面。
最后,马长山教授讲述了防范上述风险的法治约束措施:第一,构建基本准则;第二,设置技术规程,比如国际上有些尝试是关于宪法性AI的,其中一个AI审查环节是它是否符合人类的价值观,还有环节是风险评估体系等等;第三,建立分级分类的备案监管制度;第四,探索多元化的监督机制,如加强社会介入,增强价值分析的透明性、可视性、标识性、可靠性等。
(四)清华大学公共管理学院于安教授作题为“数字政府法治的体系化构建”的发言
于安教授集中讲述了数字法治政府建设的制度供给问题。首先,于安教授认为,目前我国数字法治政府建设的制度结构是一个四边形结构,分为政策、软法、硬法、行政措施四个种类,其中起主导作用的是软法。这种结构基本契合我国数字化制度发展的特点。但现在的问题主要在于结构的合理性,即上述四个方面所对应的政府与法律、法律与政策、软法与硬法三对范畴之间的结构性关系是否合理。现行的规则存在分散化、碎片化,硬法不足、软法缺少一定框架、软法与硬法之间平衡性不够等问题,这些都将影响数字法治政府的有效建设。
其次,于安教授认为,要落实中央关于数字法治政府建设的要求,很重要的方向是推进制度供给的系统化。系统化不一定是要制定一部集中的法律,比如数字法;系统化的方式有很多,如果能在系统化的核心概念、构成要素、基本原则等方面达成共识,系统化就可以大大往前推进。其中非常重要的因素涉及到基本原则的问题,因为现行行政法不能完全满足技术应用所提出来的要求。由于技术应用会产生供给者与受益人之间谁主导的问题,可能会形成以受益人为核心的新原则。因此,我们既要重视现行行政法原则对体系化构成的作用,同时也要注意提炼由技术应用所产生的新基本原则。
最后,于安教授总结了由数字应用所产生的三个问题:其一是数字政府的整体化对数字法治提出了新要求,比如“一站式”公共服务打破了传统分部门、分层次的情况,对行政组织法提出了新挑战;其二是基于数字技术应用产生的政府业务重整,政府业务的集成化对法治的要求不是分散的,不完全是软法的,集成性的政府业务流程需要系统化的规则;其三是自动化决策,数据驱动的自动化决策涉及到政府决策的依据问题,需要解决大数据证据效力问题,此外,自动化决策还可能对公共行政的合法性基础作出新解释。因此,数字法治政府的命题需要更高的站位,以解决系统化问题为核心,以此来提高数字治理体系和治理能力的现代化。
(五)成都市人大常委会法工委陈春建主任作题为“加强地方数据立法,促进现代化城市发展”的发言
陈春建主任基于成都市在数据管理方面的经验探索,生动呈现了地方数据立法的实践状况。首先,陈春建主任描述了成都市数据管理的现状。他表示,目前成都市对数据的管理主要是对公共数据的管理,初步构建了数据管理制度体系规范。但是,如果地方数据立法仅以公共数据为主要调整对象,那这样出台的地方数据管理条例对促进地方发展、推进地方治理现代化的作用相对就比较有限。
其次,陈春建主任分析了当前成都市数据管理的需求。一是公共数据管理体系需要完善;二是要着重强化数字产业的融合发展,包括数据的产业化、传统产业数据化改造、城市智能化治理提质增效等问题;三是要找准地方立法在数据管理中的着力点,包括条例的调整对象要尽可能全面有效,对于国家上位法已经做出明确规定的不做重复规定,要尽可能体现成都特色、加强它的针对性和可操作性。
最后,陈春建主任总结了成都市数据管理立法的五个基本着力点:第一是明确数据工作的总体要求;第二是完善数据收集整理的规范制度;第三是促进数据有序的流通交易;第四是推进数据要素的开发利用;第五是构建数据安全的治理体系。
(六)贵州省人大常委会法工委李勇副主任作题为“关于数据流通交易促进地方立法的几点思考”的发言
李勇副主任基于贵州省在数据立法方面的经验探索,系统论述了地方数据立法的意义、内容、程序和需要思考的问题。首先,李勇副主任描述了贵州省数据立法的总体状况,并提出数据聚集起来后,关键是要发挥它的价值以及促进数据流通,因此需要再数据流通交易领域实现立法突破。目前人们对数据的重要性,尤其它作为重要新型生产要素在经济社会高质量中的重要作用已经有比较深刻的认识。但是数据要素要发挥作用,还面临着供给难、定价难、监管难等问题,需要在立法中明确数据的权属界定。数据不具备传统理论中物的排他性,可以反复使用,不能适用民法上的物权债权来界定,所以在立法过程当中贵州省对权属的认定考虑是把数据作为一个独立的数据财产权。
其次,李勇副主任总结了贵州省数据流通交易立法的主要内容。在立法过程中始终坚持三个导向:目标导向、问题导向、实践导向。目标导向意味以下内容:一是促进规范数据流通交易行为;二是释放数据价值;三是培育壮大数据要素市场;四是推进数字经济发展创新区建设。问题导向的重点难题在于公共数据价值释放不充分、数据要素定价机制不完善、市场主体不活跃、数据交易监管难、权益保障不足等问题,并针对这些问题建立对应的制度机制。实践导向是指贵州省先行先试,2015年成立了全国第一家大数据交易所——贵阳大数据交易所,2022年完成优化提升。
最后,李勇副主任分享了关于数据流通交易立法需进一步思考的三个问题:第一是数据权属保护的立法保障问题,即地方立法怎么能够保护好数据资源的使用权、数据加工的使用权和数据产品的经营权;第二是政策与立法的衔接问题,即国家层面要出台数据确权方面法律;第三立法共享与交流的问题,数据立法要跨区域协同、国家和地方协同、理论与实务协同。
(七)重庆市第三中级人民法院谢宝红院长作题为“数字司法的现实与展望”的发言
谢宝红院长全面论述了数字司法的意义、现状、问题和展望。首先,谢宝红院长阐明了数字司法的意义:第一,数字司法是护航数字中国的有力举措;第二,数字司法是实现数字正义是的关键手段;第三,数字司法是助力审判效率提升的重要动力。
其次,谢宝红院长描述了数字司法的现状。一是在全国范围内,法院系统的数字化建设已经取得诸多成效;二是在重庆法院的数字化实践方面,按照最高法院要求,正在推进全方位智能化、全体系一体化、全流程融合化、全体系自主化的全渝数字法院建设,特别是在利用信息化的手段直接服务人民群众方面有持续探索;三是重庆第三中级法院在落实数字化建设方面也在不断地做出一些探索。
再次,谢宝红院长分析了数字司法面临的问题。一是脱离实际的风险,实践中一些地方为了创新而创新,不切实际上项目,浪费人力物力财力;二是观念转变滞后,有的律师和当事人不太愿意接受新技术,这类情况影响数字司法的推广应用;三是技术依赖的引诱,各环节对技术的信赖可能造成司法裁判结果的过于依赖,司法决策权力让位于算法决策;四是机械司法的挑战,通过数据和算法有可能弱化司法体现天理国法人情的统一;五是在数字鸿沟方面的困境,对电子设备不熟悉的老年人、残疾人等弱势群体难以享受数字司法带来的便利。
最后,谢宝红院长提出了对数字司法的展望。一是在数字司法理念方面,一定要从公平兼顾司法效率,向实现司法公正方面的转变,而且要审视对待现代科技的应用,确保法官的主体;二是在数字司法设施配套方面,要突出目标导向,将重点放在远程评审的开展,同时要进一步拓宽云上法庭分布范围,努力实现当事人在就近地方就能够开展远程开庭;三是在数字司法规则方面,加强数字司法的规则制定,完善在线诉讼的常态化机制;四是在数字司法的资源使用方面,要加强联动,基于数字司法的分析建议推动政府科学决策化解矛盾防范风险,实现溯源治理,改善营商环境和促进企业合规。
(八)西南政法大学民商法学院郑志峰副教授作题为“人工智能立法的民法应对”的发言
郑志峰副教授从民法角度深入讲述了如何进行人工智能立法。首先,郑智峰副教授认为,一方面,人工智能引发的民法相关的挑战非常多,包括对民事主体、侵权责任等各个方面的挑战;但另一方面,人工智能相关立法中的民法元素却很少。民法占据的位置非常重要,但为什么内容这么少呢?这是一个值得认真对待和严肃思考的问题。
其次,郑志峰副教授分析了民法如何参与人工智能立法。策略一是区分人工智能的立法层次。人工智能立法不等于人工智能法,人工智能立法必须针对人工智能特殊性,起码可以从智能科技、智能要素、智能应用三个角度进行分层。第一个层面围绕人机冲突来立法,民法肯定是大有可为,比如在主体层面是否是主体,行为是否构成民事法律行为、侵权责任等等都是民法可以参与的地方。第二个层面是智能要素,本轮人工智能与以往人工智能对比,取得成功的原因在于智能三要素,就是数据、算法、算力。在该层面也有民法参与的空间,比如数据可以大幅度参与。第三个层面是智能应用。因为人工智能是通用型技术,可以赋予不同的技术,所以延伸出来自动驾驶、人脸识别、生成式AI等不同类型的人工智能,不同类型的人工智能面临的挑战也不一样,所以民法可以参与进不同人工智能应用场景中。
策略二是区分人工智能的立法类型。从以往的三次工业革命来看,科技立法基本包括两个情况,一种是预防发展不足,另一种是预防发展过度。所以法律规范分为三种:第一是促进法中的政策法,比如规定资金税收人才教育等等;第二是促进法中的市场法,通过建立产权、竞争、交易等各种规则促进科技的发展,这个民法大有可为,当然经济法也有大有可为;第三是规制法,民法也有独特的制度,比如侵权等等,也可以参与其中。
策略三是人工智能立法的具体路径。第一是直接入法,比如立法目的当中把社会主义核心价值观,例如诚信公序良俗等写进去;第二是转介条款,比如人格权规定等可以作为转介;第三是配套立法。数据本身有三个层面:战略层面、生产要素、个人人格层面,人格层面有个人信息保护法,目前比较关键的是生产层面,下一步应发展该层面的立法。
第四是场景入法,不同人工智能场景挑战不一样,所以民法要积极参与。
(九)西南政法大学数字法治政府研究院院长、立法研究院执行院长周祖成教授作题为“数字化发展的伦理法治控制及其立法应对”的发言
数字化发展受到社会的普遍关注,从今天会议的发言也可以看出这一点,政府、企业、个人等各种社会组织都在关注,专家学者们更是关注,研究其中的各种问题及其引发的社会变革。大家为什么会普遍关注?因为数字化是一场全面而深刻的社会变革,是人类社会发展的一次质的飞跃,这在某种程度上可能不亚于人类社会的工业化发展,没有人能置身于数字化之外。纵观数字化发展趋势,我们会发现,数字化能够促进社会发展,给生活带来很多便利,但同时也会带来巨大风险,技术发展总是伴随社会风险,习近平总书记强调:“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。”在应对风险的过程中,需要人类产生新的应对机制,制定新的规则,形成新的社会机制。故数字化发展离不开立法的引领和应对,一是要通过立法促进数字化发展;二是要通过立法控制可能产生的风险;三是要通过立法创建新的社会规则、建构新的社会伦理和社会秩序;四是要通过立法调节数字行为、数字利益关系、解决因数据流通、交易、利用等引发的社会纠纷;五是要通过立法保护数据权益、保障数据安全等。
大家都知道,人类在工业化进程当中因过于注重利益和技术导向而出现很多社会问题。如果我们的数字化发展还是以利益和技术为导向,不顾一切追求利益最大化,可能也会带来很多社会问题,甚至引发社会危机。个人认为,数字化发展必须贯彻以人为本的原则,人才是一切的根本和目的,技术本身不是目的,数字化本身也不是目的。数字化发展不能对人的基本利益和社会发展机制形成破坏和侵蚀。立法一定要保护这个,数字化的过程一定要贯彻法治、伦理这些原则和底线。
要重视数字化发展的伦理法治控制。若不注意该问题,一旦酿成恶果,就需要用更大的成本去治理,并且这种破坏是机制性的,是内在的,人类要为此付出沉重的代价,且难以修复。如何引导科技向善成为一个重大的社会问题。人类的福祉与安康、社会的公平公正、技术背后的伦理道德,成为数字化发展中不能不重点关注的问题,要防止数字化特别是AI技术对人类的冲击和危害。大家细想,一个社会的人如果没有基本的法治观念,没有基本的伦理观念,特别是在智能化以后,如果给整个社会的法治和伦理带来很大冲击,问题将是巨大的。所以我们既要应用数字技术,也要保证人类对技术的控制。相比之下,在农业社会,即使控制力稍弱也不会面临这样的问题,但机械化后,风险就大了,就像开车,没有控制的话就是灾难。因为刹车不灵、意气用事将导致严重的问题。而智能化引发的社会控制问题将更为严重,将不再是机械性问题,而是内在的伦理问题、机制问题,是人机关系、数字化生存引发的极为复杂的控制机制问题。坚守伦理法治原则,坚持以人为本,保护社会发展的内在机制及其基本利益,保护人类向上、向善的价值导向和激励机制,对数字化而言,极为重要。我们要重视数字化发展过程过于偏重技术发展而忽略伦理法治控制的问题,忽视保护社会发展的内在机制及其基本利益问题。要筑牢数字化发展的伦理法治底线,从法律制度上确保对人工智能系统及其成果负责和问责。
在数字化发展的立法应对上,我认为要从这些方面来考虑:一是要强调数字立法的系统性、整体性、结构性,如果只偏重哪个方面的话,就不能从整体上和结构上激发数字化发展的活力。二是通过立法促进数字化发展,目前很多地方从这个方面着手来规划立法,比如数字经济促进立法,数字政务促进立法、数字文化促进立法等。三是通过立法促进数字技术创新和应用,数字技术的创新可能比科技创新更重要,因为它能够被应用在很多社会资源上,把社会资源全部连接起来,通过相互作用激发其活力和作用,这是非常重要的,这是数字技术的魅力所在。工业社会很多技术具有领域特点,而数字技术则具有社会普及性,是跨界的,我们要通过集合数据资源、开发利用数据资源促进社会发展。四是通过立法规范数字行为,在数字化发展过程中,政府、社会组织和个人可以做什么、必须做什么、不能做什么,应该有明确的要求和规定,这是建构数字秩序的基础。如果行为没有边界,带来的就是灾难。目前有立法规制数据处理、流通、交易、安全等方面的行为,还有其他方面的数字行为需要新的法律法规去规范和调节。五是通过立法控制数字领域的国家权力保障公民权利,尤其是保护数字弱势群体的权益,防范数字技术的权力化,解决权力数字化后的非程序化和非参与化引发的各种问题。六是要通过立法优化数字化发展环境,采取措施提升人的数字素养、数字技能,培育数字伦理,就像人从农业社会进入工业社会以后,若缺乏工业社会的规则、技能和伦理素养,是无法适应工业社会的发展的。在考虑数字立法问题时,不能只强调经济等看得见的方面,还要考虑伦理、素养等看不见的方面,建议地方制定《优化数字化发展环境条例》促进数字环境建设,培养数字素养、素质技能、数字人才、数字文化、数字伦理。七是通过立法加强对人工智能技术的监管,《互联网信息服务深度合成管理规定》的出台意味着我国走在世界的前列,如强调政治与合法及其向上向善的要求、安全可控、身份认证、信息真实及不良信息识别、数据安全评估等;八是通过立法加强对平台的治理和监管,我们现在的生活全面平台化,依赖各种各样的平台,平台制定规则、执行规则、裁决因这些规则引发的纠纷,但平台的规则是否合理?执行和裁决是否公平?这些关系到每个人的切身利益,平台可以把公民的基本权利排除在外,在各种纠纷处理中,作为利益关系的一方,其公正性可能存疑。我们必须重视对平台这种私权力的控制,建议由具有立法权的人大常委会对平台制定的各种规则进行合法性审查,由法院对平台的执行和裁决进行司法救济,建构防范和救济平台私权力的社会制度机制。
AI技术对人类社会的冲击是空前的,可能会产生新的社会形态、新的社会关系、新的社会生活方式以及新的社会规则。需要应用法律规则促进其积极作用,防范可能产生的风险及其反社会倾向。在数字化发展的立法应对中,还要注意智能技术应用背景下,如何保持人的思想的活跃性和创新积极性的问题,如何保持社会的公平竞争机制问题等。在获取数字化带来的便利的同时,保证人类积极向上,保护整个社会共同体的发展机制,保障公平竞争,防范因数字技术垄断引发的严重社会不公,也是非常重要的。