北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results

《黑镜与秩序:数智化风险社会下的人工智能伦理与治理》

作者:刘志毅、梁正、郑烨婕 出版社: 出版日期:2022年08月

内容简介

本书从现代科技伦理的隐喻“黑镜”出发,系统而深入地剖析全球人工智能伦理与治理发展的理论根源、人工智能落地应用场景中的伦理问题以及全球视野下的人工智能治理问题。书中既包括对传统西方伦理学的形而上学的研究,也包括人工智能有关实践案例和国际政策的解读。本书的目的不仅仅是对人工智能伦理和治理问题进行学术性梳理,而更在于寻求解决真实世界中人工智能伦理与治理问题的路径,是一部在理论和实践层面都非常有意义的专著。本书不仅讨论技术伦理涉及的伦理学、政治经济学、哲学和社会学等人文科学思想,还涉及计算机科学、生物学以及医学等自然科学框架,利用跨学科思维深入探讨如何在人工智能时代形成伦理共识和建立智能社会治理规则,以期帮助智能经济参与者、人工智能研究和应用开发领域的专业人员以及公共管理决策者获得全面和独特的科技洞察。

“想象中的2022 ”

我们从未想过这样的2022年,是人类社会面对如此巨大挑战的一年。当新冠疫情所带来的余温依然触手可及,当各类社会经济组织面临了前所未有的危机,越来越多的人停下脚步开始进一步思考:人类是否在未来的某一时刻面临生存与毁灭的困境?人与地球是否能够实现真正的可持续发展?何为人与人工智能机器的相处之道?曾经声势浩大的人工智能浪潮是不是正在褪去?

1957年,美国著名科技杂志《大众机械》提出:“21世纪20年代初期,美国的道路会变成气动管道。”1965年,美国科幻电影《史前星球之旅》上映,人类宇航员旅行了数千万公里登陆金星探险。1997年,《连线》杂志也曾做过相似的预测:即大约在2020年前后,人类可以登上火星一探究竟。

据维基百科不完全统计,至少有97部科幻电影的时间线涉及到21世纪20年代。想象中的现在,《银翼杀手》中汽车已能够在高楼林立的城市中穿梭飞行;《捍卫机密》中人类只要戴上一个头盔,无需说话就可以直接利用人脑运输资料;《机器战警》中被科学家改造成了半人半机器人的“铁甲威龙”守卫着城市的和平;《终结者》中人类打造的机器人甚至开始统治世界……

然而,如今的世界并没有像科幻电影里一般变得“赛博朋克”,车还是不能在空中行驶,人工智能依旧不能代替真人,“脑联网”还没有被马斯克实现,我们也没法买张机票飞去火星……

但是,我们确实在迈向一种人机共生的时代。从早上睁眼开始,我们的目光就需要在各类电子屏幕之间移动,移动通讯设备和笔记本电脑成为大多数人生活中最重要的“伙伴”,不论是学习、工作还是社交、娱乐,机器让一切都变得简便。三次工业革命让人类的生产力大大增加,最近一百年创造的知识和财富远超过去几千年的总和,这让人类有了从未有过的雄心壮志。当人工智能、云计算等这些已经被实际应用的技术越来越融入人们的日常生活,人类有理由期待更加自动化的生活。

“人类自私的基因 ”

马克思说:“各种经济时代的区别,不在于生产什么,而在于怎样生产,用什么劳动资料生产。” 当科技成为了我们的一种基本思维方式、生活方式的时候,智能经济时代的序幕已经拉开。

然而科技在推动社会进步的时候,可能会成为某种不恰当工具来推动人性的异化以及扭曲,而这种异化和扭曲反过来会进一步推动技术进步,引发更多的负面性。电影《她》中的主人公沉溺于虚拟智能世界,难以适应现实社会。这种现代版的洞穴之喻表明,我们不再害怕黑暗的虚幻之物,却害怕面对现实的光明。

电影中的超级 AI不仅仅是幻想,它表明了现代人早已不再满足于冷冰冰的科技产品,而是想发明一种像人的玩物来满足私欲,自己去扮演全知全能的角色,不用承担现实责任。这是否意味着,科技这一丰富的养料正在助长人类自私的基因?

当一个个更先进、更智能的 AI产品,被创造出来填补某些欲望之壑的时候,人与人之间的秩序尚还是无解之题,何以构建人与机器世界的和谐伦理秩序?也许我们能在新书《黑镜与秩序:数字化风险社会下的人工智能伦理》中找到一些启发。

“黑镜 ”

在这本书中,作者从“黑镜”的隐喻出发,将人工智能的伦理与治理置于大历史框架下,置于科技史、哲学史乃至世界史之中,讨论范围涉及计算机科学、经济学、管理学、心理学、生物医学等跨学科领域之中,兼具学理性与通俗性。书中比较系统地分析了现代新兴技术伦理发展困境和全球人工智能伦理与治理体系,结合人工智能行业实践案例和国际政策解读,为读者提供前沿的技术洞察,寻求解决数智化社会现实问题的有效路径。

正如清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜教授所言,“也许人类终究难以找到如何与人工智能相处的最佳之道,但只有透过科技的镜像不断反思人类社会的伦理,才能推动社会治理范式的适应调整,这也是本书带给我们的最大启示。”黑镜的隐喻,就是人性在科技浪潮中的狂欢下带来的反思,我们难以在历史中找到相似的范式,尤其是如何与AI相处的层面,人类是缺乏经验的。

当屏幕上的光亮渐消,漆黑的面板终于暴露了被遮蔽的真相,“世界先是变丑,然后熄灭”。这里不可忽视的是镜中映射出的交互图像:人类一旦进入到元宇宙虚拟世界之中,其主体性就被解构了,并以新的编码方式重构为另一种形态。当我们回溯性地重构,得到的便是一个扭曲了的“我”。这就是“第二自我”(即赛博空间代理人)与真实自我之间的巨大裂缝。更严重的是,“第二自我”还会对真实自我造成伤害。网络的便捷性加速了第二自我取代真实自我的趋势。但真实自我被取代之后,第二自我无法具有人的爱恨情仇,于是一种自反性的悖论出现了。这使后人类主义走向了自己的反面,如幽灵般徘徊在“精神—身体—精神”与“人文主义—后人文主义—人文主义”这一螺旋结构中。

“秩序 ”

回到数字社会本身,这本书中反思了 AI的发明和制造本来是为了什么呢?我们是想追求一种和谐美好的生活,一种人类与智能机器友好共处的文明社会。当前,我们离理想化的数字社会还有很长的距离,人们面临的挑战在于,科技行业习惯于向前看,更多地关注产品创新、技术落地、产业变现等问题,这对行业而言是件好事。当写字楼里西装革履的高管、兢兢业业的程序员都在整齐划一地朝着这些问题前进,很少有人愿意花时间、甚至愿意接受一种有益的做法,即认真观察后视镜,以便能够利用过去的经验来预测转弯之处的问题。然而,观察后视镜,即通过梳理历史信息,时刻按住科技发展趋势的脉搏,迎接不断严峻的科技社会伦理难题,对任何一家“高速路上”的科技公司来说都是意义重大的。



关闭