■ 刘伟
[摘要]随着新一轮科技革命的发展，人工智能的时代悄然来临。人工智能会带来一系列风险挑战，包括冲击道德伦理、滋生社会差别、产生异化现象、形成规制难题等。应对人工智能带来的风险挑战，应树立风险社会的规制理念，建立多元互助的法律体系，加强行业监管与自律，确立“过程－结果”的双重规制策略。
随着新一轮科技革命的发展，人工智能的时代悄然来临。人工智能（AI）是指通过机器或软件模拟人脑思维而创造出的类人化智能。世界各国都在鼓励人工智能的发展，我国也发布了《新一代人工智能发展规划》等指导性文件。技术发展总是好坏参半。人工智能在促进经济社会快速发展和给人们带来实在好处的同时，也会滋生出许多风险和挑战。尤其是随着ChatGPT、Sora的开发使用，人工智能的发展进入快车道，对人工智能开展风险防控，已成为当务之急。
人工智能会带来诸多风险挑战。
首先，冲击道德伦理。当人类给人工智能输入人类知识、数据和算法时，人工智能就具有一定人之“灵性”，这会对固有的道德伦理产生冲击。人工智能是一种机器或程序，但被灌输了代码与算法的人工智能背后蕴含着人的目标和偏好，体现了人的价值取向。有学者指出，“从一个角度来看，我们创造的机器人貌似只是机器而已；而从另一个角度看，它们似乎是复杂而具有适应性的实体，甚至可能对我们在道德关心的问题有着或多或少的敏感性”。[1]当人工智能大量出现时，人类和机器开始共享同一个世界，人机共处必将成为社会生产生活的常态。人机关系不再是简单的“人－工具”关系，“当机器人变得足够复杂的时候，它们既不是人类的仆人，也不是人类的主人，而是人类的伙伴”。[2]人机成为合作伙伴关系，我们该如何去界定人类与机器之间的关系。譬如，该如何定义机器人的身份，如何分配人与人工智能的权利、义务、责任，是必须考虑的新型问题。
其次，滋生社会差别。在社会发展过程中，技术进步会消灭旧的不平等，也会产生新的不平等。人工智能引发的新的社会不平等体现为：一方面，社会贫富差距可能拉大。随着数字经济的普及和人工智能的迅猛发展，社会财富不仅靠劳动和投资来获得，而更多是通过利用数据、信息和算法来取得。资本精英与技术精英相结合，他们的财富可以在短时间内完成积累。人们会发现，数据来自自己，但自己却不是数据的主人，不掌握数据资源的数字弱势群体会变得更弱，技术鸿沟滋生收入鸿沟，社会贫富差距会进一步拉大。另一方面，可能出现大量“无用”人群。人工智能的发展会大面积取代简单、重复性的人力劳动，造成大量的失业。有人认为，正如火车的出现消灭了马车夫但创造了铁路工人，人工智能消灭了旧工作也会产生新岗位，这仅是工作岗位的换代升级，因而，不用担忧人工智能会造成大量失业。但问题的关键是，从农业社会向工业社会转型，是体力劳动的平移，而人工智能革命则是从体力劳动向脑力劳动的升级。试想，被智能机器人取代的普通体力劳动者，会从事何种更高级的脑力劳动工作？有学者指出，“21 世纪经济学最重要的问题，可能就是多余的人能有什么用。一旦拥有高度智能而本身没有意识的算法接手几乎一切工作，而且能比有意识的人类做得更好时，人类还能做什么？”[3]从工业社会迈向数字社会，被人工智能取代工作的普通劳动者找不到新的工作岗位，绝大多数人可能变成“无用人群”。如果社会充斥着大量被人工智能取代的所谓“无用”人群，社会就会产生危机和动荡。而且，大规模人工智能的出现会加剧人类精神的衰落，引发人类身份认知的危机。人工智能的基础是互联网、大数据与算法，这些基础条件的快速发展都会冲击人类的中心地位。当互联网快速普及，不断扩大着人类之间的分歧，让人类变得孤独孤单；当数据无所不在，以数据为中心的世界逐步形成，以人为中心的世界格局受到冲击；当生活一切皆可计算，算法占据了人类的特有活动，人类有可能丧失本性。人们开始担心，人工智能可能还没有完全变得像人，人类却开始变成了机器，像计算机一样思考和行为。如此下去，人与人工智能可能只关心结果与产出，而不关心人类特有的情感、价值与责任。于是人类世界变得陌生冰冷，我们的心将安放在哪里呢？
再次，产生异化现象。人工智能伴随着负面效果与权利滥用。未来的人工智能世界总被描述得美好，然而人工智能可能被异化。目前，智能互联网的负面后果，如信息链接与国家安全问题、大数据与隐私保护问题、区块链与金融风险的问题，已经开始凸显。现实是，“互联网不仅没有受到公众的控制，反而摇身一变成了控制者”[4]。譬如，人工智能也许没有受到人类控制，反而把人类控制；自动化决策从辅助管理的工具变成决策的操控者；人类一旦把决策交给了算法，就会形成一个算法统治的世界。同时，人工智能可能会被不法之徒利用。这些“集复杂性与紧密性于一体的系统更容易成为那些间谍、犯罪分子以及追求极大破坏性的极端分子的选择目标”[5]。如果有人在人工智能中植入恶意或病毒程序，那后果就会令人不寒而栗；如果人工智能其类人化的思维被犯罪分子利用，那对经济社会秩序将造成极大的破坏。
最后，形成规制难题。一方面，产生“黑箱社会”。人工智能的应用，是通过代码和算法来实现。然而，大多数人工智能系统都是封闭、不透明的。“设计者有时并不公开源代码，因此，用户们无法看清其中的规则，无法提出不同意见，也不能参与决策过程，只能接受最终的结果。”[6]于是，人工智能的算法和代码都被装进了“黑箱”，这意味着它们可以规避审查。一旦程序开发者在算法黑箱中装入过多的资本偏好或者不公正的因素，那么，算法黑箱就可能严重侵蚀公众的权益。另一方面，出现“监控国家”。“算法黑箱”会带来公正和秩序问题，这为国家的介入提供了机会。国家介入能够促进“黑箱社会”转向“公开社会”，但同时，它也很容易为公权力过度扩张提供理由。有专家预测，“人工智能通往的是更完善的民主，还是更潜伏的专制？ 永恒的监视才刚刚开始 ”。[7] 有一天，当我们享受人工智能互联、快捷、方便的服务时，却发现到处都在“刷脸 ”，到处都是探头，人人都是“玻璃人”与“数字人 ”。
既然人类已悄然进入人工智能时代，那对伴随的风险应早做应对与防范。
首先，树立风险社会的规制理念。任何科技进步都会带来风险。社会风险与某一事物发生“坏事 ”的概率有关，具体而言，就是这种“坏事”的严重程度与受影响人群的范围。应对人工智能的风险挑战，要分析人工智能风险的容忍度。对容忍度的判断，可以从背景、公正性、民众偏好三个层面来分析，从而确定国家法律规制的范围和标准。对人工智能监管一般有两个原则：预防原则与成本效益原则。使用预防原则时，要规范权力介入与干预的“度”，确保政府权力在法治轨道上运行，不得妨碍科技创新的底线。使用成本效益原则时，要警惕分析不精准、考虑不民主的问题，防止规制的扩大使用。同时，在人工智能监管中，要落实程序正当性原则，确保程序公开、公平、公正，充分保障公众的合法权益。
其次，建立多元互助的规制体系。促进人工智能发展，要从政策鼓励迈向法律保障，给人工智能的风险套上法律的笼子。这些法律规制是最大限度地减少新技术的有害影响，不是事无巨细的干预，更多是提供原则性、方向性指引，从而维护人工智能发展的稳定性和持续性。同时，还需要可靠的科技伦理作为支撑。科技发展需要自由与创新，我们经常看到，“在大多数情况下，设计师们都不会理会使用计算机技术所引发的伦理问题 ”。[8]甚至，一些领域是“最没责任心的从业人员会得到最多的专业技术”。[9]故而，对人工智能的风险防控，除了法律的规范指引外，还需要构造一个人工智能的伦理框架，将道德算法嵌入算法体系中，在人类与人工智能的互动中落实道德规范。
再次，加强行业监管与自律。迅速发展的人工智能充满了机遇，已经成长为一个遍布全球的朝阳行业。除了宏观原则性指引的法律规制，还需要更精细、更灵活的行业规范，设计出行业的防御技术标准，这是人工智能健康发展的重要保障。同时，加强行业从业者的自律。代码和算法是人工智能的基础，代码和算法作者越来越多地成了“立法者”，他们决定着智能机器人的识别能力和行为方式。这样，规制人工智能的社会风险，就离不开设计开发者的自我约束，从业者应该为自己的发明创造负责，为人工智能的发展担责。
最后，确立“过程－结果”的双重规制策略。在以往的农业革命和工业革命过程中，社会发展基本是在自然的物理空间中进行，而如今随着人工智能的突飞猛进，社会形成了人类发展从未有过的虚拟空间，产生出人机互动的新发展模式。其中，人工智能的高速发展塑造了智慧社会，数据、代码和算法发挥着重要作用，并在经济社会发展变革中实现了智能化。此时，我们对人工智能的风险控制，就不宜再采取传统单一物理空间的固有方式，尤其不能按照对应物理空间的逻辑来管理虚拟空间，不能套用对待机械工具的模式来对待人工智能，而应实现与之相符合的模式转换，形成智慧社会的制度秩序。我们需要从外在的物理空间规制转向内外并重的双重空间规制，从对代码和算法结果的规制转向对代码和算法过程的规制，实现“法律技术化”与“技术法律化”的双向发展，从而推动人工智能持续健康发展。
（作者系中共四川省委省直机关党校科社·法学教研部主任、教授）
参考文献：
[1]〔美〕温德尔·瓦拉赫，科林·艾伦.道德机器——如何让机器人明辨是非〔M〕.王小红等译．北京：北京大学出版社，2017.188
[2]〔美〕约翰·马尔科夫.人工智能简史〔M〕．郭雪译。杭州：浙江人民出版社，2017.208
[3]〔以色列〕尤瓦尔·赫拉利.未来简史〔M〕．林俊宏译。北京：电子工业出版社，2017.311.286
[4]〔英〕约翰·帕克.全民监控——大数据时代的安全与隐私困境〔M〕.关立深译。北京：金城出版社，2015.299
[5]〔英〕詹姆斯·柯兰等.互联网的误读〔M〕.何道宽译。北京：中国人民大学出版社，2014.340-341
[6]〔美〕卢克·多梅尔.算法时代：新经济的新引擎〔M〕.胡小锐等译。北京：中信出版社，2016.213
[7]〔美〕佩德罗·多明戈斯.终极算法——机器学习和人工智能如何塑造世界〔M〕.黄芳萍译。北京：电子工业出版社，2017.365
[8]〔美〕约翰·马尔科夫.人工智能简史〔M〕．郭雪译。杭州：浙江人民出版社，2017.328
[9]〔美〕ＲayKurzweil.奇点临近——2045年，当计算机智能超过人类〔M〕.李庆诚等译。北京：机械工业出版社，2017.239
