2019世界人工智能大会 新华社发
新华社发
【科学向未来】
作为引领未来的战略性技术，人工智能的迅猛发展将进一步释放历次科技革命和产业变革积蓄的巨大能量，给全球经济发展、国家治理、社会建设和人民生活带来重大而深远的影响，推动人类迈入以科技进步与产业革新为基础的智能社会。但也应该看到，人工智能在创造经济发展新引擎、推动人类文明迈上新台阶的同时，模糊了虚拟与现实、数字和实体的界限，给人类社会的法律规范、道德伦理、公共治理等方面带来了挑战。
人工智能时代呼唤全新的治理理念和治理形式。当前人工智能技术正深入发展，人工智能应用场景不断丰富，人工智能开放创新平台、人工智能创新发展试验区建设正如火如荼推进。利用好这一有利契机，加强人工智能技术发展过程中的人文社会影响研究，开展人工智能社会实验，建设更具有人文温度的智能社会意义重大而深远。
建设有人文温度的智能社会是大势所趋
自16世纪科学革命以来，科学技术的“双刃剑”效应就成为人类社会发展进程中一个挥之不去的议题。科技进步使得生产力得以飞速发展，为人们的生产和生活都带来了极大的便利。但科技创新带来的两极分化、社会摩擦、生态破坏、伦理失范等负面影响也一直萦绕难散。英国著名科学家贝尔纳在其著作《科学的社会功能》中指出：“科学技术的发展本身既为我们揭开了改善人类生活的前景，也为我们开辟了毁灭人类的可能性。”如今，伴随智能时代的到来，科技的正负效应都在不断强化，形成巨大的张力，使得人类文明的前景更加迷茫。
随着人工智能发展与应用的深入，人—机器的社会结构，终将为人—智能机器—机器的社会结构所取代。可以肯定的是，人工智能超强的信息储存、超级模仿和深度自我学习能力，会把人类从各种危险、精密、烦琐、重复的体力和脑力劳动中极大地解放出来。其发展与推广应用会改变“不劳动者不得食”的人类社会基石，不劳动者照样可以丰衣足食，人类想象中的“乌托邦”甚至会因为人工智能技术成为现实。但值得注意的是，与传统科技相比，新一代人工智能技术最大的特色在于它能够具有和人一样进行思考和决策的能力。这种能力正是人类区别于动物，并能够建立起灿烂文明的核心因素。在历史的长河里，人类智慧的伟大之处不仅在于其对自然科学的孜孜以求，也在于其在技术、人文、社会科学领域创造出的累累硕果。然而，当人工智能开始替代人类进行思考与决策时，它们能否像人类一样，在理性之上兼顾感性认知，在追求效率的同时也顾及伦理、价值观、情感和文化。
一个有人文温度的人工智能社会，不仅要拥有更加高效的生产力，也要有更加丰富多彩的精神空间，更加深厚悠久的文化底蕴，更加公平公正的制度保障，更加包容和谐的人文关怀。这需要我们抓住人工智能技术应用刚刚起步、尚未形成锁定效应的这一良好时机，树立正确的价值观念，深入开展基于科学循证逻辑的实证研究，构建全新的人工智能治理体系，并对技术和产业发展形成反馈和规制，引导人工智能技术良性发展，及时规避大规模失业失能、资源财富分化加剧、数字和信息鸿沟加深、人类精神文化生活停滞、人工智能技术失控等潜在风险和危机。
消解人工智能技术发展中的隐忧
作为第四次工业革命的技术基石，新一代人工智能技术发展与应用给人类社会带来的好处自不必说，但我们也必须对人工智能所衍生出的风险和威胁保持警惕。人类对于人工智能技术负面影响的忧虑主要包括两个方面，一是对人工智能技术失控的担忧，二是对社会结构与社会秩序的重塑的担忧。英国科学家斯蒂芬·霍金和美国创新企业家埃隆·马斯克都曾不断发出对人工智能威胁的警告。霍金认为，人工智能会是“人类历史上最重大的事件，不幸的是，也可能会是最后的重大事件”。马斯克也指出人工智能之险尤甚于核武器。他们普遍担心具有人类决策能力的机器人最终将摆脱人类的控制，反过来奴役人类甚至灭绝人类。电影《流浪地球》里，宇航员怀疑国际空间站控制系统叛逃的情节，就反映了我们可能面临的这种隐患。创新工场创始人李开复则认为，人工智能对人类社会真正的威胁不在于技术层面，而在于对工作的含义、财富的创造和分配方式的打碎、重塑，由此“引发前所未有的经济不平等，甚至改变全球力量均势”。人工智能的发展会使大量工作被机器人取代，从制造业到服务业，各层面都可能有大量工作岗位消失。大规模失业的同时，财富迅速并大量集中到少数人手里，进一步加剧两极分化，带来严重的民生和政治问题。
科技进步既改变着人类社会，也塑造着人本身。对于人工智能的发展，我们首先应当树立正确的价值观念，防患于未然，应对科技创新带来的巨大冲击。一方面，我们应积极倡导建立负责任的研发和创新价值体系，在人工智能的研发创新阶段以及后续技术全生命周期，加强对科技创新过程中伦理问题的关注和控制，避免人工智能可能造成的不利影响。另一方面，要从人文社会科学的角度，加强人工智能的社会影响机理、规律与趋势研究，完善和强化人工智能发展的社会政策体系。人工智能技术给人类社会带来的负面影响，归根到底是对人类历经千百年所建立的具有深厚人文情怀的文明架构的全面冲击。因此，在大力推动科技研发的同时，我们也必须促进与新兴技术相关的人文社会科学研究的发展，实现自然科学与社会科学的交融共振，只有这样，才能从根本上消解人工智能技术发展中的隐忧。
深入开展社会实验研究，提升智能社会认知水平
要想解决人工智能技术的负面效应，实现对人工智能的有效治理，需要我们对人工智能时代的社会形态和特征具有全面而系统的把握和认知。而这种认知的建立，有赖于以实践证据为基础的实证研究，特别是社会实验研究的开展。
社会实验是种典型的社会科学研究方法，是以现实情境下的人、组织作为研究对象所开展的研究活动，目的在于通过某些社会、政治过程或技术变革导致的近似于理想实验的场景来研究社会科学的问题。约一百年前，为研究工业化社会所带来的影响，美国就曾通过组织大规模社会实验，史称“霍桑实验”，对进入工业文明时代后，人类的心理和行为问题进行了深入的解析。
如今人工智能技术已经融入当下人类社会和生活，而且正在以几何级增长的速度扩展自己的存在，人类社会正面临百年未有之大变局，快速迈入智能化的新时代。人工智能技术创新给人类社会带来的巨大变革，为开展智能化时代的社会实验提供了理想的要素和场景。
近年来，清华大学、浙江大学等单位的专家学者，汇集全国计算机科学、社会学、心理学、医学等领域的智力资源，在大量前期工作的基础上，针对人工智能社会影响的问题，率先提出了开展长周期、宽领域、多学科人工智能社会实验的政策建议。科技部组织制定了《国家新一代人工智能创新发展试验区建设工作指引》，将社会实验作为新一代人工智能创新发展试验区建设的重要工作。中央网信办等有关部委也制定行动方案，在全国开展人工智能社会治理实验。
近日，第一届全国人工智能社会实验学术会议在清华大学召开，100余位专家学者交流分享了人工智能社会实验的最新成果，研究讨论了人工智能社会实验的工作方案和行动计划。开展长周期、宽领域、多学科人工智能社会实验，有助于我们从小切入，在不对人类社会造成较大规模影响的情况下，准确识别人工智能对人类社会带来的挑战和冲击，深入理解人工智能的社会影响特征与态势，深刻把握人工智能时代社会演进的规律，从而为建立有人文温度的智能社会提供科学的参考依据。
建立智能社会治理体系，实现对技术和产业的积极回馈
在人类社会面临转型的关键节点和重大关口，在应对人工智能等科技变革带来的全新公共治理挑战的情境下，我们要从人文社会科学的角度出发，以人工智能社会实验为起点，加强人工智能的社会影响机理、规律与趋势的研究与探索，在人工智能的研发阶段以及后续技术全生命周期，加强对科技伦理问题的关注和控制，进一步完善负责任的研发创新价值体系，推动应对技术变革的公共政策创新，建立智能社会治理体系，实现对技术和产业的积极回馈。
当前，世界各国政府都陆续出台了相关政策以推动并规范人工智能的发展。美国颁布了《国家人工智能研究与发展战略规划》和《为人工智能的未来做好准备》两个国家级政策框架，日本出台了《第五期（2016-2020年度）科学技术基本计划》，提出了超智能社会5.0的概念，英国政府发布了《人工智能：未来决策制定的机遇与影响》，法国发布了《人工智能战略》，我国也发布了《新一代人工智能发展规划》等相关政策。不同国家对于人工智能发展的态度不同，但都高度关注人工智能的社会影响与治理问题。
我国是一个拥有近14亿人口的大国，并处在经济社会转型升级的关键时期，具有庞大的人工智能市场需求。我们必须保持以市场为主导的“冒险取向的制度设计”和以人文社会为主导的“安全取向的制度设计”间的平衡，这要求我们不断地根据出现的社会问题对人工智能带来的影响进行评估，在此基础上进一步优化人工智能在数据治理、算法责任、技术路径等方面的科学规范与技术标准，构建兼顾理论与实践的全链条研究路径，以保障相关治理及时跟进，从而为人工智能技术发展打造开放有序的环境，推动建立有人文温度的智能社会治理体系。
尽管世界各国在人工智能治理上目前还处于起步阶段，但在不远的将来，一些重要大国参与的人工智能国际治理机制会很快建构并完善起来，这是全球人工智能规范、有序发展的必由之路。尤其是人工智能与物联网、云计算、大数据、互联网等技术深度融合，人工智能所造成的社会影响将会超越一国的边界而成为全球共同关注的公共问题，因此人工智能客观上需要全球性协调机制、全球性协作平台以及全球性的标准和规则，同样也需要国际范围内人工智能的道德伦理系统和价值理念的碰撞与讨论，这些都是人工智能全球治理的发展趋势。
我国是全世界发展人工智能技术行动最早、动作最快的国家之一，面对全球科技创新的新态势，我们要牢牢抓住人工智能发展的重大历史机遇，紧扣发展、研判大势，主动谋划、抢占先机，引领世界人工智能发展新潮流。我们要加快开展以理论探索为导向，以指导实践为目标的人工智能社会实验，在对人工智能综合影响进行持续观测和数据收集、分析的基础上，探索人工智能全球治理的“中国方案”，促进人工智能技术、产业和治理的良性发展，建设有人文温度的智能社会。
（作者：苏竣，系清华大学智库中心主任、清华大学公共管理学院教授；黄萃，系浙江大学公共管理学院教授、信息资源管理系主任）
