人工智能时代的政府治理：挑战与应对

内容摘要：摘要：人工智能作为一项颠覆性技术，将对政府治理产生深刻影响。随着人工智能广泛深入地嵌入政府治理的各环

摘要：人工智能作为一项颠覆性技术，将对政府治理产生深刻影响。随着人工智能广泛深入地嵌入政府治理的各环节和领域，传统政府治理的技术体系、价值目标、伦理结构乃至思维理念都会遭遇冲击和挑战。因此，作为集应用者和治理者双重角色于一体的政府，应高度重视人工智能的影响，加强对人工智能相关知识的宣传和讲解，加大人工智能在政府治理中的开发和应用力度，加快制定相关法律法规，建立健全相关制度体系，完善政府治理伦理结构。

关键词：人工智能;政府治理;“人机和谐共生”;“智能+”思维

中图分类号：F275 文献标识码：A 文章編号：1007-8207（2019）08-0053-07

收稿日期：2019-04-27

作者简介：王张华（1990—），男，湖南株洲人，湘潭大学公共管理学院博士研究生，研究方向为技术进步与政府治理。

基金项目：本文系湖南省教育厅重点项目（2016）“省级政府权力清单制度完善研究”的阶段性成果，项目编号：16A216;湖南省研究生科研创新项目（2018）“人工智能发展背景下政府治理模式变革研究”的阶段性成果，项目编号：CX2018B336。

技术进步是驱动政府治理转型的重要动因。随着互联网、大数据、机器学习、精准算法等技术的不断发展和进步，互联网的整体水平得到进一步提升，数据出现井喷式爆发，使人工智能逐渐获得了与人类相匹敌的“智识”，在诸多方面展现出了超越和替代人类行为的技术能力，引发了政府治理新一轮的历史性变革。在政府治理创新实践过程中有越来越多的新型技术得以广泛应用，其中，以人工智能技术为典型代表，诸如语音图像识别、智能客服、智能政务机器人以及杭州的“城市大脑”等，使政府治理实时化、精准化和场景化的能力和水平在人工智能技术驱动下有了显著提升。在不久的将来，人工智能会更加深入广泛地嵌入政府治理的各个环节和领域，这不仅会引发政府治理技术层面的变革，同时还会给传统政府治理的技术体系、价值目标、伦理结构乃至思维理念带来重要影响。对于人工智能技术的这种影响，相关部门必须积极研判和主动应对，正如美国学者“人工智能百年研究”项目常务委员会主席、哈佛大学工程与应用科学学院教授芭芭拉·格罗斯（Barbara Grosz）所认为的那样：“现在是时候考虑人工智能技术给人类带来的规划、伦理及政策等挑战了。只有当下严肃地对待并着手处理这些问题，才能在未来规划设计出更好的体系、更恰当的政策来指导技术应用。”[1]因此，对人工智能的发展应以一种客观理性的态度审慎对之，正视其给政府治理所带来的影响。

一、人工智能概述

（一）人工智能的定义

在1956年达特茅斯会议上，“人工智能”的概念被正式提出。在其60余年的发展历程中，历经了高潮和低谷，然而对于什么是人工智能，一直争论不休，尚没有形成一致的定义，从现有梳理的文献来看，对于什么是人工智能可以概括出两种趋向：一种是实践导向性的定义。以美国学者罗塞尔（Stuart J.Russell）和诺维格（Peter Norvig）为代表将其归纳为四大类：[2]像人一样思考的系统;像人一样行为的系统;理性思考的系统;理性行为的系统。日本学者野村直之认为：“目前人类理想的AI被称作“强AI”，它不仅能够像普通成年人那样，做到认知自己的存在，懂得待人接物，感性兼具理性的思考、判断、发言、行动，甚至具有人类的大脑结构。”[3]①美国学者约翰·麦卡锡（John McCarthy）认为：“‘智能’关乎完成某种目标的行为‘机制’，而机器既可以通过模仿人来实现行为机制，也可以自由地使用任何办法来创造行为机制。”[4]我国学者贾开认为，人工智能是建立在现代算法基础上，以历史数据为支撑而形成的具有感知、推理、学习、决策等思维活动，并能够按照一定目标完成相应行为的计算系统。[5]另一种是实验性学科论者的定义。美国学者乔治·罗格认为，人工智能研究的是智能行为中的机制，它是通过构造和评估那些试图采用这些机制的人工制品来进行研究的。[6]总体而言，实践导向性的定义更能为人们所理解和接受，学术界也多从这一视角对人工智能进行定义。因此，笔者认为，依据实践导向，人工智能是指在算法程序、仿生学、认知科学等技术支撑下，实现对人类思维和行为的模拟，展现出联想、记忆、学习和推理等类人能力的机器智能体。就技术的发展程度而言，国际上普遍将人工智能划分为弱人工智能、强人工智能和超人工智能三个阶段。

（二）人工智能的特征

人工智能不是一项简单的技术，其不仅颠覆了现有的技术体系，也逐渐改变着人类社会生活，促使人类社会向高度融合、智能互联的智能社会迈进，是一种集技术属性和社会属性于一体的新技术形态，具有其他技术不具备的新特征。新特征主要表现为以下几个方面：一是自主性。在大数据、神经网络、机器学习等多重复杂性技术的支撑下，人工智能表现为一种自我优化、自我学习、自我总结以及自我判断的自主能力，越来越展现出同人类相匹敌的“智识”，逐渐具有一种拟人化的“自我意识”。二是交互性。现阶段的人工智能暂时还不完全具备人类的“主体性”，但已经开始呈现出一种人机、脑机相互协同和融合的状态，实现了初级的交互，具体包括会话式交互、沉浸式交互、脑机交互三个层面。三是开放性。现阶段的人工智能大多是由数据和算法程序驱动的弱人工智能体，而目前一些智能算法程序本身就是开源性质的，致使驱动弱人工智能的算法程序同样也处在一种开源的环境之下，这在某种程度上使得现阶段的弱人工智能体具备了一定意义上的开放性。

二、人工智能对传统政府治理的多维度挑战

未来，人工智能会更加广泛地应用到政府治理的各个环节和领域，传统的政府治理将面临冲击和挑战。具体而言，人工智能对传统政府治理的技术体系、价值目标、伦理结构以及思维理念都会带来影响，对传统政府治理的能力和水平提出了新的要求。

（一）技术工具变革形成的挑战：“人工智能”将成为政府治理技术体系中的关键技术

技术是社会发展的原动力，塑造着现代社会生活的基本面貌。作为社会系统中重要组成部分的政府治理同样受到技术所带来的影响，新技术不断建构和塑造新型生活样式，使其展现出不同的面貌和形态。从技术的发展阶段看，传统信息化技术的能力逐渐式微，政府治理的传统技术驱动力正在面临更新，传统“电子政务”“网上政府”“电子政府”等形态将逐渐被以人工智能等新技术为支撑的“大数据+政务”“智能+政务”“智能政府”等模式所取代。一方面，集成化的智能化处理系统极大地提升了政府治理过程中的数据挖掘和数据储存能力，实现了对各类非数值型、非结构化数据的整合和动态管理;另一方面，智能办公系统将取代传统的自动化办公系统，通过实现政务流程的重组确保政务服务迈向精准化、精细化和智能化，极大地提升了政府的治理水平和治理能力。从实践来看，目前，一些发达国家都在积极推动政府治理向智能化、智慧化转型，如英国的“政府即平台”模式、新加坡的“一站式7×24不间断100%的在线政府”模式、美国的“整体政府和互动政府”模式、韩国的“政府3.0”模式和迪拜的“智能迪拜”计划等，[7]这些创新型治理模式背后都能见到人工智能的身影。与此同时，我国的一些城市和地区也开始推动智能化治理，如天津市在人工智能技术的驱动下进一步提升城市精细化管理水平，在生态环境、交通、城建监管、新能源利用等方面打造智能化管理模式;2018年杭州的“城市大脑2.0”正式发布，接入了1300个信号灯和4500路的实时视频，一个数据中心汇集了交通管理、公共服务等诸多领域数百亿级的数据，搭建了完整的城市交通动态网，实现了交通、服务的智能化。这些充分说明在未来的政府治理活动中，人工智能将成为提升政府治理能力和治理水平的关键技术。

（二）价值目标重塑形成的挑战：“人机和谐共生”将成为政府治理价值目标中的新追求

随着科学技术的不断进步，一个由互联网、大数据和人工智能三体叠加而成的智能社会正在形成。而人工智能的广泛嵌入，使得传统构建于人与人之间所结成的生产关系之上的政府治理场景正在面临重建，即由传统的以人类为中心的“人际交互”一元场景向智能社会形态下“人机和谐共生”的二元场景转变，正如我国学者张为志认为的那样：“在智慧共享体系上的信息交互、任务交互不再单纯地停留在自然人之间，而是自然人与自然人、自然人与智慧机器、智慧机器与智慧机器之间的混合式传输、交互与共享。”[8]这说明了在智能时代，人与人工智能体之间的关系逐渐成为政府治理场域中不可回避的一对新型关系，如何实现“人机和谐共生”将成为政府治理价值目标中的新追求。这种变化是由人工智能技术的发展规律所决定的，人工智能目前虽处于弱人工智能和强人工智能并存的阶段，但是人工智能所展现的技术前景和“创造性破坏”①的能力导致不得不重新思考人与机器（人工智能）之间的关系。基于人工智能技术的机器实体或者智能产品正在摆脱其冷冰冰的“机器属性”，变得逐步拥有能够自我判断、自我识别以及自我优化等诸多“主体性能力”，越来越展现出人类才具有的“自我意识”。在同人类的关系中，机器（人工智能）不再完全地被人类支配，而是逐渐获得了一定的自主行为和思考能力，“人与机器的关系从主从关系变成了主体间的共处关系”[9]。不能忽视的是，随着人工智能的不断“进化”，其不仅变革着政府的内部管理和运行体系，诸如智能办公、智能政务机器人的广泛应用等，也在重塑着政府治理的外部场景和价值目标，如智能驾驶、智能机器人和无人工厂等，人工智能的应用形态将成为政府治理不可回避的现实。因此，推动人机关系走向“人机和谐共生”将成为政府治理价值目标的新追求。

（三）伦理结构改变形成的挑战：“人工智能伦理”将成为政府治理伦理结构中的新要素

从伦理的关系结构来看，传统的政府治理伦理①本质上是一种适用于协调人际关系的伦理框架，人工智能的发展和应用正在打破这种建立在人与人之间的伦理准则，因为“现代智能技术的迅猛发展，使其以内嵌于人的身体或人类社会的方式重构了人与人之间的道德关系。人与机器的相互嵌入式发展模式，产生了‘人←→机器←→人’‘（人←→机器）←→人’或者‘（人←→机器）←→（人←→机器）’的道德关系。”[10]未来政府治理伦理结构的建构必须正视这种转变。人工智能在政府治理的诸多领域已经可以完全替代人类的行政行为，代行治理权力，驱动着政府治理进化到一种“无人化”“智能化”的状态，引发了诸如数据和隐私安全、失业和歧视、技术责任的认定和履行[11]以及其他隐性问题，而如何有效解决这些新的问题，以处理传统人际关系为核心的政府治理伦理结构就显得“无能为力”。因此，建构一种以协调人与人、人与机器（人工智能）乃至机器（人工智能）与机器（人工智能）之间关系为根本出发点的“人工智能伦理”就显得很有必要，将其纳入到现有的政府治理伦理结构中也成为一个亟待解决的现实问题。“人工智能伦理”必须从解决政府治理过程中可能存在的人机冲突、机器失控等风险问题出发，最大限度地抑制人工智能的“恶”，张扬人工智能的“善”，实现“人机和谐共生”的目标。从这个层面来看，纳入政府治理伦理结构中的“人工智能伦理”要解决以下两个方面的问题：一是着力解决是否赋予人工智能体同人类一样的权利义务和主体责任问题。其中，以责任问题为首要，如由人工智能体的治理行为所引发的个人信息等隐私泄露以及其他安全风险该如何界定责任、履行责任，等等。二是解决人工智能体存在的潜在算法偏见和歧视问题，确保公共利益得到保障。目前的人工智能本质上仍是一种“算法智能”，依赖的是大数据和内部精确的算法，例如算法“黑箱”问题若得不到完全解决，则会形成一个“自我实现的歧视性反馈循环”。[12]

（四）思维理念革新形成的挑战：“‘智能+’思维”将成为政府治理思维理念中的新维度

从马克思历史唯物主义的观点看，技术被视为生产力中最活跃的因素，无论是对生产关系还是对上层建筑都有着不可忽视的变革作用。因此，从“互联网+”到“大数据+”再到“智能+”，不仅仅是概念和技术手段上的简单转换和更新，更需要人们在思维上进行彻底的变革，形成一种新的思维模式，即“智能+”思维。那么，“智能+”思维到底具有哪些丰富的内涵呢？首先，“智能+”思维是一种认识论和方法论上的转变。在人工智能时代必须积极作为、主动应对，充分认识到人工智能所带来的历史发展机遇，“将智能看作新的思维方式和行动指南。”[13]其次，“智能+”思维是一种场景式思维而非技术性思维。传统技术性思维的核心在于人的参与，人类还是决策制定和实施的终端，技术起到中介作用，辅助人类收集初始化信息。而人工智能技术支撑下的场景式思维“则是根据‘时刻在场景中产生数据’持续不断更新和优化数据，以更敏锐地洞悉情境中‘人’的最佳决策机制，即‘借助于全渠道整合数据和机器式自我进化升级，提供更精准的场景化决策方案’。”[14]再次，“智能+”思维是一种服务式思维而非管制式思维。传统政府治理的一个最主要特征是政府掌握着公共事务的话语权对公共利益进行分配，而人工智能场景下的服务供给越来越走向一种算法支撑下的自主优化道路，最大限度地消除了人类自身的自利性和情感偏好，使公共服务的供给变得更為纯粹。“智能+”将成为影响未来社会生活和治理方式的重要因素，将引发政府治理的变革和转型，“智能+政务”会逐渐替代“互联网+政务”，“‘智能+’思维”将成为政府治理思维理念中的新维度。

三、人工智能时代政府治理的应对举措

从技术的发展规律来看，人工智能的崛起是可以预见的，因为其本身也遵循着一定的技术革新规律，从最早的第一代人工智能萨缪尔编制的“跳棋程序”到第二代人工智能“深蓝”，再到当下的第三代人工智能的代表“AlphaGo”，可见人工智能的崛起也是循序渐进的，并非无迹可循。习近平指出：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”[15]面对人工智能潜在的技术和伦理风险，相关部门应以积极的态度审慎应对，最大限度地控制人工智能技术所带来的负面效应。

（一）重视人工智能给人类社会带来的影响，做到意识上的“重视”

人工智能是一项颠覆性的技术形态，对政府治理而言，这种颠覆性不仅仅停留在政府治理所依靠的技术工具层面，还将从根本上改变行政主体的治理思想和思维方式，从根本上变革传统政府治理的思维模式。政府内部应做好迎接这个挑战的思想准备和意识转换。然而，对于人工智能重要性的认识，目前，一些部门呈现出“上热下冷”的状态。2017年7月8日，国务院印发了《新一代人工智能发展规划》，各省也相继颁布了人工智能发展规划，但大多是集中在产业发展领域，主要以获得经济效益为主，各级地方政府对其所带来的政府治理机遇和挑战预估不足，仍然以一种工具性思维对待人工智能技术的发展和应用。所以，推进国家治理体系和治理能力现代化，必须高度重视人工智能所带来的影响，跳出固有的工具性思维圈，将人工智能视为对全社会生产生活带来根本性变革的技术。正如我国学者何哲认为：“人工智能对于传统的行政体制而言，其高度的信息与决策判断能力，对于提高政府的绩效，是具有显然的促进作用的。”[16]

（二）加强对人工智能相关知识的宣传讲解，实现认识上的“去蔽”

一方面，应转变政府各级领导干部和公务人员对人工智能的看法和認识。目前，人工智能仍然被视为政府治理工具箱中的一种技术工具，对其重要性的认识同互联网、大数据等技术并无差异，所预设的价值定位是辅助人的工具性角色，对其认识还停留在“自动化机器”的初级阶段，因此，要在政府领导干部及公务人员的新型技术知识和素养方面加大培训力度。另一方面，应该将人工智能知识讲解的科普活动深入到公众当中，改变公众对人工智能缺乏认识的现状，深入了解“大数据+政务”“人工智能+政务”等知识，使公众接受和认同政府所提供的智能化服务。为此，必须将人工智能知识科普活动深入到政府内部和公众之中，邀请和鼓励人工智能设计者、工程师以及对此有较为深入思考的哲学社会科学工作者深入到政府内部和公众之中开展知识讲座和培训，争取在较短的时间内改变社会上对人工智能这种“不识庐山真面目”的认识现状。

（三）加大相关人工智能技术的开发和应用，提升应用上的“效率”

习近平指出：“要加强人工智能同社会治理的结合，开发适用于政府服务和决策的人工智能系统，加强政务信息资源整合和公共需求精准预测，推进智慧城市建设，促进人工智能在公共安全领域的深度应用，加强生态领域人工智能运用，运用人工智能提高公共服务和社会治理水平。”[17]这充分说明，在人工智能提升政府治理水平和能力上前途广阔，大有可为，也为各级政府开发和应用人工智能指明了基本方向，即要在智能办公、智能服务、智能决策和智能监管四大领域落实人工智能应用。因此，应充分发挥政府的作用，整合现行的数据管理机构和信息资源管理部门，集中力量研发适用于政府运行的人工智能系统和平台，推进政府治理走向精细化和智能化。

（四）加快制定相关法律法规，让人工智能发展和应用“有法可依”

在国外，作为人工智能应用中最为成熟的“智能驾驶”领域正遭遇着法律困境，其所引发的交通事故以及相关损害正面临着定责、追责、履责的困难，其现有的法律体系尚不健全，适用于人工智能应用的法律仍在探索之中。这不仅仅关涉法律层面，同时还涉及到交通规则的重新设计等一系列问题。随着技术和经济的不断发展，“智能驾驶”“智能工厂”抑或是更先进的人工智能应用将会逐步出现在社会生产生活当中。因此，政府作为社会治理的主要角色，应该预判到人工智能技术发展所带来的“治理场景”转换，加紧组织法学、管理学、伦理学、工程学等多学科领域的专家制定出适用于“人机交互”场景的法律法规。

（五）建立健全相关职能机构、专业管理运营及配套制度体系，为人工智能发展和应用划定“游戏规则”

美国经济学家道格拉斯·诺斯认为，制度是社会的游戏规则，规定了人与人之间的行为范式。在人工智能的应用和治理上，政府应在制度上作出相应的调整和设计，以适应人工智能集技术属性和社会属性于一体的独特属性要求。一是建立专业的职能机构。这一点在机构改革中进行了大胆的创新和尝试，积累了一些经验，如新一轮机构改革中部分省市创设了“大数据管理局”这一新型机构，对人工智能的管理和应用具有积极意义。二是建立专业的管理运营体系。人工智能作为一项集多学科综合、高度复杂的技术，应选拔熟悉人工智能领域的相关专家参与政府治理过程中的人工智能应用和治理，对人工智能技术系统进行专业的管理和运营，如国外发达国家设置的首席人工智能官（CAIO）。三是建立配套制度体系。专业的职能机构和领导体系建立后，还应为人工智能的发展和应用开发新标准、制定新规则以及在人工智能方面完善财政管理体系等，通过配套制度体系的建立促进人工智能的健康发展。

（六）完善政府治理伦理结构，为人工智能发展和应用圈定“行为准则”

伦理的核心在于协调人与人之间的关系，人工智能的出现给伦理学提出了一个新命题——“人机和谐共生”。因此，建构面向“人机和谐共生”的政府治理伦理结构，应从以下两个方面着手：一方面，要明确人工智能的责任划分，明确现阶段的人工智能并不具有独立的责任属性，对代替行政主体所作出的行政行为及其所引发的行政责任以及公共性问题，应当划归到人类责任体系之下，以确保每一个人工智能体都有具体的责任人或者责任机构;另一方面，可以尝试建立类似于电影审查制度的伦理审查体系，成立专门的伦理评估委员会对人工智能所引发的伦理问题进行审查和评价。

【参考文献】

[1]王晓真.正视人工智能带来的伦理挑战[N].中国社会科学报，2016-09-21（003）.

[2]（美）Stuart J.Russell and Peter Norvig.Artifical Intelligence：a Modern Approach，second edition，Pearson Education，Inc.2003，1-5.

[3]（日）野村直之.人工智能改变未来：工作方式、产业和社会变革[M].付天祺译.北京：东方出版社，2018：5.

[4]（美）Mc Carthy，J.What is Artificial Intelligence.URL：http：//www-formal.stanford.edu/jmc/whatisai/whatisai.html.

[5]賈开，蒋余浩.人工智能治理的三个基本问题：技术逻辑、风险挑战与公共政策选择[J].中国行政管理，2017，（10）：40-45.

[6]（美）George F.Luger.人工智能：复杂问题求解的结构和策略（第五版）[M].史忠植，张银奎，赵志崑等译.北京：机械工业出版社，588-589.

[7]王礼鹏，石玉.智能化治理：国内外实践与经验启示[J].国家治理，2017，（37）：34-48.

[8]张为志.人机共生：人工智能发展的必然趋势[J].国家治理，2019，（4）：16-20.

[9]黄欣荣.人工智能与人类未来[J].新疆师范大学学报（哲学社会科学版），2018，（4）：101-108.

[10]于雪，王前.“机器伦理”思想的价值与局限性[J].伦理学研究，2016，（4）：109-114.

[11]颜佳华，王张华.人工智能场景下公共行政技术责任审视[J].理论探索，2019，（3）：88-94.