北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

与渐冻症抗争近5年后,6月15日,全球首位真正意义上的“半机械人”(又称赛博格,是人类与电子机械的融合体)——彼得·斯科特·摩根的生命定格在64岁。
2017年11月,彼得被确诊为肌萎缩侧索硬化症(ALS),俗称渐冻症。渐冻症被世卫组织列为五大绝症之一,发病率不高,但尚无法治愈。随着运动神经退化,患者行走、说话、吞咽、呼吸等功能会慢慢丧失,多数患者在症状首次出现后的三到五年内死于呼吸衰竭。
作为全球机器人研究领域小有名气的科学家,彼得决定用现有科技改造自己——把自身器官部分替换为机械。在他看来,只要还能活着,还有自由思考的能力,生命就有存在的意义。
彼得的离去并非结束,不少人相信他为人类开启了一段全新旅程。多位受访专家认为,这是一场围绕人类生存质量展开的科技探索,是技术为人服务的前沿试验。
而当人机融合的触角深入生命本身,人们想要知道:未来该如何定义人类被“困”在身体里的意义?人类的进化发展是否还有新的可能?如何理性认识生命的复杂性?

梁正教授认为:人体数字化改造相关智能技术在应用层面仍存在瓶颈,尚处于探索阶段,特别是在思维表达、情感输出等方面,技术难度远比我们想象的更大。目前,人机融合尚处于外围领域,更深层次的人机融合在全球范围内鲜有成功案例。在怎样划定人机融合的边界方面他建议,明确人机融合边界首先需要明确使用目的,根据使用场景具体分析,并遵循风险可知可控的原则,其评估风险需要在人机融合的全过程引入伦理委员会审查机制。


人体数字化改造技术任重道远

2019年10月,彼得进行了最后一项手术——全喉切除,以避免因无法自主控制喉咙的运动,导致唾液进入肺部威胁生命。而这个月,原本是医生估计的彼得死亡时间。术后,彼得彻底失去了声音,但可以通过存储在电脑中的合成声音表达思想。于是,一个依靠大脑、眼睛、人工智能和各种电子设备与命运抗争的“彼得2.0”诞生。依靠科技加持,彼得成为人类历史上第一个“半机械人”。不过,现实版的“半机械人”与影视作品中科幻人物的无所不能存在较大差别。据媒体报道,彼得在改造后经历了常人难以想象的痛苦。比如,智能装备并不能完全领会他的意图,说一句话都要花费很长时间等。
清华大学人工智能国际治理研究院副院长梁正称,这些细节表明,相关智能技术在应用层面仍存在瓶颈。他介绍,当下语音合成、虚拟化身等技术在娱乐和生活服务方面应用场景较多,比如智能客服、虚拟偶像等,相关技术已逐渐成熟,但人体的数字化改造是相对特殊的场景,尚处于探索阶段。特别是在思维表达、情感输出等方面,技术难度远比我们想象的更大。

受访专家建议,人工智能技术的发展主要依靠学习。未来可考虑增加样本量,鼓励更多专家、患者甚至健全人参与进来,跟踪、学习人类身体运动与生理的变化规律。当学习样本足够充足、技术性能较为稳定时,技术就可能为改善患者生存状态等提供更多机会。


人机如何深度融合

作为“机器化人”的现实例证,彼得的自我改造为人机深度融合提供了更多想象空间。
据了解,在“机器换人”时代,随着自动化、信息化、数字化技术的发展,部分人力被替代,在一定程度上造成人机关系的对立。但机器在替代部分传统岗位的同时也催生出很多新职业,如自动化培训师、数字化管理师、互联网营销师等。“人机是互补关系而非替代关系,并将逐步走向深度合作。”梁正说。特别是随着深度学习技术推动人工智能进入新阶段,其再次深度改造人机关系,让“机器化人”逐渐成为可能。
与云端的“大脑”对话需依赖众多技术,机器学习是其中的关键。梁正介绍,与目前主要基于深度神经网络和大规模数据训练的机器学习不同,下一步面向人机互动乃至“融合”的技术路线主要有两种:一种是模拟人类的学习方式学习,但因为目前尚不能准确还原人类的学习过程,对其中的因果关系尚不清楚,所以机器学习的深度和精度都有局限;另一种则试图建立一个穷尽人类所有知识的知识库,并将该知识库注入机器,但由于数据量过于巨大,如何顺畅调用各类数据也存在难度。显然,相较于一些人的美好愿景,以机器学习为代表的人工智能技术的成熟度还远远不够。“打个比方,现在还处于细胞阶段,距离复杂的生命还很遥远。不是说完全没有可能性,只是路还很长。”梁正说。总体来说,人机融合尚处于外围领域,比如为运动功能丧失的患者换上假肢等。对于更深层次的人机融合,全球鲜有成功案例。


怎样划定人机融合的边界

彼得的生命已经终止,但其留下的关于人机融合的边界等讨论仍在继续。科技是一把双刃剑。在新一轮科技革命助力传统产业转型升级、驱动智能经济快速发展等的同时,当人机融合的触角深入人类生命,也可能引发一些社会风险。
受访专家谈到,相关技术一旦落地,在使用中可能伴随不公平现象,比如是否所有人都有机会平等享受数字化改造的资源,以及改造后的人类在某些领域可能具有天然优势,更易造成两极分化等。因此,人机融合的相关制度规范必须走在技术发展的前面,为社会治理保驾护航。
梁正建议,明确人机融合边界首先需要明确使用目的。当人机融合用于疾病治疗、提高个体生活质量时,通常满足四项基本医学伦理原则即可。而当人机融合用于增强身体功能时,专家提出设置更多红线,根据使用场景具体分析,并遵循风险可知可控的原则,即对风险可控的增强技术可以适当放开,对风险不可预估或难以控制的则要严格限制。
梁正举例说,体育竞赛领域显然不能对人体进行增强改造,否则将与体育的公平宗旨背道而驰。在教育领域,提高智力的增强技术可能造成不公,未来风险也难以估计,因此需要对类似场景的使用加以限制。如果技术可以帮助人类摆脱学习中的重复性操作,这一类型的人机融合应用或许可行,但如何准确、科学地划定边界,必须严格论证。
刘瑞爽、梁正等表示,评估风险需要在人机融合的全过程引入伦理委员会审查机制,伦理委员会一般组成人员包括医学家、伦理学家、社会学家、法律专家及社区人员和普通百姓等。对于涉及重大社会利益的典型案例,甚至需要法庭介入并通过相关行政机关审批。

不可否认,机器相较于人更加理性、效率更高、工作时间更长、应用场景更广,但也正是人类的不完美带给生命更丰富的体验,也给文明的进步带来更多可能。很多时候,正是因为人类不能决定生命的长度,才得以努力提升生命的广度、深度和高度。从这个意义上说,我们需要的或许不是一个理想的“超人”,而是一个独特自由的自己。


上一篇:龚克:加强5G合作,推动全球数字化转型

下一篇:薛澜受邀出席2024世界人工智能大会暨人工智能全球治理高级别会议并在全体会议上发表主旨演讲

关闭

相关文章

读取内容中,请等待...