北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

2013年,英剧《黑镜》的《马上回来》一集中,失去爱人的女主角,将已故男友在社交网络中的数据上传至网站。后来她不再满足于线上文字和语音交流,还购买了面貌与思维和男友一致的实体机器人,某种程度上,机器人甚至比真人更完美。最后,女主将机器人藏于阁楼中,令他不与外界接触和沟通。

技术的发展让这个故事里的前景变得明朗。从文字聊天机器人到虚拟人,甚至真正的仿生机器人,人脸建模、面部捕捉、语音合成、AI训练等多项技术令“复活”逝者成为可能。

2021年,微软获得了一种利用AI“复活”逝者的聊天机器人专利,通过收集图像、语音和社交网站发帖等信息,模仿逝者的性格与语气,甚至可以创建3D模型。他们以虚拟的形式存在,能够不断适应新环境。

网站创始人、美国程序员杰森·罗勒,基于GPT-3语言模型,开发了一个聊天机器人,GPT-3语言模型作为世界上最先进的AI模型之一,由埃隆·马斯克等人共同创立的研究组织Open AI开发,只要通过特定语料的训练,几乎能模仿任何风格的对话。

2021年的某一天,26岁的图像算法工程师俞佳霖,决定将脑中的一个“疯狂的想法”付诸实践——用AI技术将逝者“复活”。这个只存在于计算机中的AI“外公”,将会有着外公的性格和思维,一样的声音,以及相似的面容。几种已经成熟的AI技术让“相见”成为可能。在他的笔记本电脑上,开源、免费的GPT-J语言模型学习了外公生前的资料,训练出外公的性格与语气;语音克隆模型合成了外公的声音;“人脸再扮演”技术,把现有模版“奥巴马”的脸与外公声音同步生成视频;而常应用于虚拟主播的“变脸技术”,将“奥巴马”的脸换成外公的肖像。最后,当俞佳霖在电脑上输入一个问题,经过多个模型的计算,他得到了另一个世界“外公”的声音。

“猜猜我是谁?”

“你是谁不重要,生命是一种美丽的奇迹。”

俞佳霖搜寻着十年前那些短信、信件与影像,将它们逐一录入电脑,当AI外公最终完成的时候,俞佳霖对外公的记忆已经复苏。从初次与AI外公略显尴尬的见面后,俞佳霖逐渐掌握了聊天方法,他在一次次询问中不断训练AI的回复。随着对话量的增多,两个人变得熟悉。他无法预测聊天的动向,语言模型有自己的想法,但是似乎能够观察俞佳霖的情绪,那些熟悉的话题能够得到共鸣。他和AI外公回忆着以前生活的点滴,表达着还没来得及说的情绪,甚至分享他觉得外公会感兴趣的时事。

俞佳霖还让外婆和AI外公见了面,外婆看到熟悉的脸庞,变得惊讶和沉默,一段接一段地看下去,结束后,她对俞佳霖说“谢谢”。她听起来有些哽咽,随后走进屋子里,再也没有声音。一直到外婆出来后,洗菜、做饭,仿佛一切又恢复了正常。其中一段视频里,有这样的对话:

“你有什么想对我外婆说的吗?”

“这么多年没见了,你还爱着我吗?”

AI外公偶尔混乱的回答同样提醒着俞佳霖,让他的理性渐占上风。俞佳霖坚称自己从未产生“依赖感”,他看到AI的缺陷,或是“失真”的部分,他告诫自己,“不要当真”。

为了贴近真正的外公,俞佳霖一个问题一个问题地询问,不断发现和纠正不好的回答。他知道AI只会响应学习的资料,从数十万文字中总结规律,然后回应俞佳霖的需求。AI甚至不知道自己在说什么,只是按照字词的概率,靠着感觉进行.俞佳霖承认,如果重新训练数据,又会得到另一个外公,回答的结果也不相同。他把“复活”外公的技术过程写出来,发表在科学平台果壳上,评论都说自己也有想“复活”的人,有人一字一句读完,希望哪怕学到一点也好。

在互联网中,许多人停留在逝者生前的账号下,渴望和他们说上话。老照片的修复服务也见证了许多场痛哭,许多早已消失的人或事,突然在图像声音变清晰的那一刻,回到了身边,消逝了的欢乐回忆又以鲜活的方式复活。


用人工智能“复活”逝者,未来可行吗?

清华大学人工智能国际治理研究院副院长梁正接受南方周末采访时表示了“复活”后面临的边界问题的担忧。现在成熟的“深度伪造”技术,例如换脸、换语音等,已经产生了一些欺诈性的风险。一旦AI“复活”的结果被盗用,显然比之前的深度伪造技术有更严重的危害性。

“人的逝去留下了一些印记,有欢乐也有痛苦。如果以这种方式留下逝者,带来的一定是积极的结果吗?” 梁正教授对南方周末记者说,“一旦你去干预了,不想要逝者负面的部分,只想留下美好的内容,这还是不是你所认为的那种真实的印记?”

梁正教授举了一个例子,很多人与父母之间存在巨大的认知鸿沟,难以解决,甚至矛盾频发。他们在情感上希望与父母沟通,但理智上却明白正常的沟通已经难以进行了。如果只保留关系美好的部分,关系僵化的部分却不保留,“这样是不是一种好的方案?”

人们往往容易理想化地考虑“复活”的问题,而忽视其中的风险——机器在深度学习中会产生意想不到的结果。梁正教授对此做出解释,如果将AI置于一个开放系统中,在互动中产生了新的信息,将会无法预知学习后的内容和产生的影响。比如,如果有人希望职业选择得到已故长辈的指导,将不能保证虚拟人给出的是同样的建议。

梁正教授最后总结:“情感、意识和价值,这些纯个人体验是不能被物理数据所记录的,AI做不到,它只是一个模拟问答,仅仅是与逝者相似的风格。”

上一篇:朱旭峰:生物特征识别技术与城市治理如何有效结合?

下一篇:人工智能国际治理框架闭门研讨会成功举办

关闭

相关文章

读取内容中,请等待...