2019年07月19日 17:09 来源：中国社会科学网 作者：黄亚楠
作为一项颠覆性技术，人工智能在为人类的生产组织方式和生活方式带来巨大变革的同时，也将对经济结构、社会秩序、道德伦理等方面产生的深刻而长远的影响。由于其技术的复杂性和难以预测性，因此，如何建立完善的人工智能治理体系，构筑起人工智能发展的安全网，引导人工智能健康有序发展成为当下学界广泛关注的议题。围绕相关议题，记者采访了清华大学社会治理与发展研究院执行院长张成岗教授，国家新一代人工智能治理专业委员会委员、华东政法大学政治学研究院院长高奇琦，南开大学经济研究所所长、中国新一代人工智能发展战略研究院首席经济学家刘刚，山东社会科学院财政金融研究所所长张文以及东北大学科学技术哲学研究中心教授陈凡。
中国社会科学网：人工智能将使社会治理面临哪些新的议题？
张成岗：人工智能技术的发展正在重塑社会现实，带来社会治理领域的新变革。人工智能既是社会治理的工具，又是社会治理的对象。新技术的发展必然带来新的社会议题，人工智能技术发展及广泛应用将带来新的社会治理、法律规范及伦理规约问题。
就业对国民经济的发展至关重要，然而随着人工智能对人类劳动替代趋势的强化，“机器换人”正在上演，劳动密集型产业中的劳动工人面临失业问题，这是体力劳动的技术性失业；也有不少学者把目光投向了智力劳动的技术性失业，给出了各种各样职业被人工智能替代的时间表，我想这并不是危言耸听。因此，如何与人工智能争夺人类最根本的活动——劳动的权力，以及寻找新的就业增长点，是一个不可回避的社会治理问题。
人工智能同样给立法带来不少新的议题。社会治理的一个重要原则是“公众参与”，问题是到底如何界定“公众”？比如，智能机器是一个社会成员吗？具有法律意义上的社会主体地位吗？智能机器需要纳税吗？这些问题在讨论人工智能在社会治理时都是不可回避的问题。大家都很关注的“责任”问题，也是这一系列问题的衍生。例如如何划定自动驾驶汽车在交通事故中的责任，2018年6月，英国颁布了“2018英国自动电子汽车法案”，成为了世界上第一个规范自动驾驶汽车安全性的法律。但是对于自动系统与自主性机器的行为后果，目前并没有一个公认的标准来评判。
人工智能还带来的新的伦理议题。作为一种技术手段，人工智能对于个人数据的采集与使用，对于隐私无疑是一个极大挑战；人工智能时代的技术红利，如何在不同人群中分配也是一个重要的公平问题。还有上面提到的责任问题也是一个伦理问题，人工智能是否成为人类不为自己行为负责的下一个借口，也有待继续观察。从智能技术物本身来看，其是否具有道德上的地位与权利，也是学术讨论热点，从这个问题衍生出来的人机关系问题、机器权利问题等等都是社会治理应当关注的内容。
刘刚：作为第四次工业革命的引擎，新一代人工智能是基于网络、物理和社会空间三维空间互动的智能系统。在新一代人工智能的发展过程中，不仅形成了包括大数据、云计算和边缘技术在内的核心产业部门，而且在跨界融合中创造了一个更加庞大的融合产业部门。因为网络空间映射了人与人、人与物和物与物的关系，使我们可以通过网络空间进行实时在线数据积累，通过人工智能系统的建立，在数据中发现新的关系、知识和模式，实现资源的优化配置和经济效率的提升。
与前三次工业革命的关键技术相比，人工智能技术具有更强的社会属性。因为网络空间映射的人与人、人与物和物与物的关系数据，包括了隐私在内的大量个人信息。同时，作为颠覆性技术，人工智能在与社会的融合过程中，对原有的经济和社会秩序带来冲击。尤其是平台企业可以依赖数据生态优势，垄断信息，造成市场的不公平竞争，可能损害消费者和客户利益。
随着人工智能与经济社会的加速融合，人工智能内含的技术和社会双重属性及其矛盾越来越突出。一方面带来经济和社会的巨大进步，另一方面又引发人们对技术可能对现有经济社会秩序冲击的担心和恐惧。从目前的实际情况看，社会对人工智能技术可能带来的社会秩序影响的担心包括：第一，就业问题。因为人工智能技术使生产过程更加自动化，息灯工厂的出现和发展，将会减少制造业的劳动就业。同时，还受到影响的包括医生和律师在内的白领阶层。第二，算法歧视。算法是基于已有数据的机器学习系统，因为已有的数据是人类行为的结果，本身就可能包含着歧视。因而，算法给出的决策依据同样包含着偏见。第三，数据隐私和伦理道德。在网络空间的映射下，许多过去难以发现的人类行为和活动被曝露在网络空间中，成为很容易获得的数据资源。被曝露的个人数据和信息，可能被利用给个人造成伤害和经济损失。第四，数据优势和垄断。尤其是掌握数据和信息优势的平台，可以利用垄断地位，对消费者和客户实施隐藏信息和价格歧视。
张文：人工智能是模拟和扩展人类智能的理论、方法和技术的统称。人工智能的发展将对社会治理产生深远影响。一方面，人工智能能够为推进社会治理现代化、智能化提供强有力的技术支持。运用人工智能可以有效破解信息孤岛难题，促进决策科学化；可以统筹分配各类政务资源，促进服务高效化；可以有效提升监管体系效率，促进监管精准化。另一方面，人工智能有望在社会生产方式、劳动力市场供求结构、社会财富分配格局、公众生活方式等方面产生深刻影响，进而可能引发法律、安全、就业、道德伦理和政府治理等方面的诸多新问题。因此，如何在发挥人工智能积极作用的基础上，做好潜在风险的研判和防范，确保人工智能的安全、可靠、可控，将是全面实现社会治理现代化进程中的一项重要命题。
中国社会科学网：人工智能对于国家治理现代化是把双刃剑，您认为，人工智能治理需要重点考虑哪些问题？
张成岗：社会治理是推进国家治理体系和治理能力现代化的重要内容。党的十九大报告提出社会治理的“四化”，即社会化、法治化、智能化、专业化，其中人工智能是实现社会治理现代化的一个重要手段。要以科技创新为内生动力，提高社会治理的智能化水平，政务云平台、大数据决策、智慧城市等都是治理智能化的表现，基层治理也开始应用智能设备与大数据，来加强公众沟通，克服公共决策的不确定性，避免决策效率损失。
同时我们也要看到，作为治理手段，人工智能也带来了不少新问题，我将其总结为智能风险、智能偏见与智能失权。所谓智能风险就是人工智能技术本身存在不确定性，存在失序、失灵、失控的技术风险，当决策、行动、评估行为都围绕其展开时，很可能会出现系统性风险。智能偏见是指我们迷信人工智能带来的决策结果，这实际上是一种智能时代版本的机械论，面对社会现实的不确定，目前弱人工智能只能起到治理的辅助作用。智能失权是指人类很可能失去话语权与劳动权，治理过程交给人工智能，会使得在技术知识储备上处于弱势地位的普通民众更加没有参与治理的积极性与能力；同时，智能机器对于人类体力劳动与智力劳动的取代，也给社会治理带来的新的问题。
高奇琦：人工智能可能会加剧不平等现象，扩大数字鸿沟。此外，隐私问题、安全问题的治理也非常关键。
中国社会科学网：《新一代人工智能治理原则——发展负责任的人工智能》的出台为我国人工智能治理提供了框架与行动指南，未来我们应如何落实八条原则，加强前瞻预防与约束引导，建立完善的人工智能治理体系，最大限度地降低安全风险？
张成岗：《新一代人工智能治理原则》对于人工智能的风险治理是非常关注的，从安全风险的角度总结起来主要有如下四个基本点：环境安全、技术安全、社会安全、信息安全。这四点非常全面和系统，涵盖了目前人工智能安全的几个重要方面。但是从落实的角度，尤其是落实主体的角度，还是有所欠缺的。我们现在是从政策制定者、产业界以及科研人员的角度对风险治理进行落实，唯独缺乏一般社会参与者的角度。加强引导一般意义上的社会成员关注人工智能安全、参与人工智能风险治理，是一个重要的补充维度。对此，我有三点补充性建议：第一，促进公众适应智能社会和接受智能机器；第二，加强智能教育与引导工作转型；第三，树立与智能机器共存的意识。
陈凡：人工智能的发展对经济结构、社会秩序、道德伦理等方面产生的巨大冲击，深刻的改变着人类社会，因而需要作出前瞻性的预防和约束性引导，保障人工智能的健康有序发展。
针对于前瞻性预防，主要的方式是对人工智能进行技术评估，对其本质、意义、状态以及价值等方面进行系统评价，以预测其对经济、社会、环境和人自身在应用中的影响，并将相关信息纳入决策过程之中，将近期利益与远期后果综合起来考虑，在考虑人工智能经济效益的同时，也要考虑其可能导致的难以逆转的社会、环境后果。
约束性引导包括内在的道德嵌入和外在的法律规范。道德嵌入指在人工智能设计期间将特定的道德原则嵌入到从业者观念和人工智能产品的结构或功能中，以引导各行为主体的行为决策，保障人工智能的创新是负责任的。法律规范是从人工智能的外部环境出发，规范人工智能应用所带来的社会利益的重新区分和重塑，约束各行为主体的行为决策，保障人工智能的创新是有底线的，以实现公共利益的最大化和更好的维护了社会的公平和正义。
高奇琦：需要从伦理、政策、法律三个层面推动《治理原则》落地。《治理原则》提出的八条原则需要在社会公众的广泛参与下进一步细化为可供操作的伦理规范，在人工智能的演进过程中不断进行调整，进而逐步上升为政策制度。在此基础上，通过政府、企业、高校、社会团体乃至公众的参与互动，最终推动人工智能法律出台。
刘刚：人工智能的发展，尤其是与经济社会的融合是一个以创新为主导的巨复杂系统，表现为复杂网络的演化过程。多元创新主体活动边界的模糊性和自组织，是智能经济发展的基本特征，对于有效治理体系的建设提出了挑战。
人工智能治理的关键是通过形成利害相关者共同参与的治理机制，在促进智能科技产业发展的同时，避免给社会带来不利影响。其中，在发展中规范和规范中发展是未来人工智能治理机制的核心。一方面要避免过度的行政干预和公众影响阻碍人工智能科技产业的发展，另一方面根据发展中存在的问题进行相机治理，做出积极的防范。同时，规范是为了更好的发展，绝不能因噎废食，阻碍技术进步。人工智能发展中出现问题的解决，从根本上仍然需要技术创新，应看作是技术不断进步的机遇。
张文：《新一代人工智能治理原则》是当前全社会对如何发展人工智能的共识，突出了发展负责任的人工智能这一主题，是我国开展人工智能治理的总体原则。建立完善的人工智能治理体系，首先要对人工智能形成理性的认识。人工智能的应用领域广泛且功能强大，能够将人类从繁重的体力劳动和繁琐的脑力劳动中解放出来。但是，人工智能本质上是一种工具性、技术性的存在，是人类通过模拟自身智能所创造出来的工具。因此，对人工智能技术的开发和应用应以符合人类的价值观和伦理道德为前提。其次，开展人工智能治理体系建设应具备超前性。在互联网高度发达的今天，一项人工智能领域新技术一旦诞生和应用，很容易传播至全球领域，从而使该项技术难以被完全禁用，其影响更是难以被彻底消除。因此，应加强前瞻性预防，明确人工智能技术研发应用的合理边界，切实防范利用人工智能进行非法活动。
中国社会科学网：近年来，我国积极抢抓人工智能发展的重大战略机遇，发展势头十分迅猛，人工智能领域发展的先发优势正在加速形成。在为人类和全球的利益构建全球人工智能伦理和治理的重要时刻，您认为，中国可以为全球人工智能治理做出哪些贡献？
张成岗：在人工智能领域，中国已经进入领先国家行列，中国应当积极参与国际社会制定新的人工智能规范，并能帮助世界各国使用自己的方式理解和解释这些规范。智能革命是从心智到智能的革命，中国社会具有最多的人类心智样本与数据，一定意义上占有智能时代最丰富的物质生产资料。我们需要把这种物质上的丰富性转化成话语权与决策权，并秉承开放与共享的态度，惠及与我们所制定的规范相接轨的国家与地区，构建智能时代的人类命运共同体。
中国特色社会主义的治理现代化模式，可以为全球人工智能治理提供新的道路。目前各国的人工智能治理模式关注的是少数人、核心利益既得者，没有把最普遍的人民群众作为出发点与指导对象。而我国的治理现代化模式把人放在首位，从社会中具体的人的角度，形成社会共识与有效的沟通、变革机制，为人工智能时代的社会治理提供了可供借鉴的中国道路和中国方案。
高奇琦：一方面，在人工智能领域，发展中国家整体上处于弱势地区，中国需要为广大发展中国家发声，争取发展利益；另一方面，中国应积极参与人工智能国际准则制定，抢占通用人工智能发展先机。
张文：人工智能治理是一项全球性命题。中国在大力推进人工智能产业发展，提升经济社会运行智慧化、智能化水平的同时，还应积极参与全球人工智能治理。一方面，应积极参与全球人工智能治理规则制订，人工智能伦理和治理涉及全人类利益，中国理应在其中发挥重要作用，确保国家利益诉求得到体现。另一方面，应大力推动人工智能领域国际合作。与人工智能相关的规范标准制订、风险防范体系构建等工作，均需要全球各国广泛参与。通过强化国家间的交流协作，在全球范围内共同构筑人工智能风险监控和管理体系，将有助于降低人工智能潜在风险，确保人工智能的安全、可靠、可控。
陈凡：当前，我国人工智能的发展在国际上比较突出，处于世界领先地位，同时也面临着更加复杂尖锐的问题，需要加强国际合作。但是在国际技术治理实践中，不同国家和地区在监管机构和措施上的差异阻碍了国家和地区之间的深层次合作和协调。因而需要从全球化的角度重新思考人工智能的全球治理。首先，以各种方式推动解决重大国际共性问题，共同应对人工智能所带来的伦理道德、隐私保护以及安全风险等共性挑战，以此推动构建全球治理机制，制定相关国际标准、搭建国际平台，形成国际合作框架。其次，跨国数据流的快速发展是人工智能进步的直接驱动力，但不同国家和地区数据监管体系的差异限制了数据流的发展。因此，在尊重差异的前提下，全球治理机制的创新和寻求合作的可能性则成了全球人工智能治理所要考虑的重要方面。最后，为了防止垄断，强化主权国家之间合作的多边主义，形成共担、共治、共享合作模式，推动各国共同走向人工智能时代的人类命运共同体。
中国社会科学网记者 黄亚楠