2022年6月25日,新华社《瞭望》杂志就“元宇宙”概念的爆红引发的相关治理问题、如何助推该行业向善发展等议题采访了清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正等专家学者。本文系根据梁正教授的采访内容整理,以飨读者。
观点预告
虚拟世界的“性侵”行为当下或难以认定为犯罪,但针对新型权利和利益的冲突,未来很可能需要调整相关法律规则
有必要提早布局“元宇宙”治理规则,在现行法律法规基础上优化、细化,推动虚拟世界和现实世界的规则相接轨
不能完全依靠企业自觉,必须设置监管红线,在兼顾效率的同时兼顾公平,注重个体权利的保护,助推行业向上、向善发展
近日,一名女性玩家称在一款以元宇宙概念创作的VR游戏中,疑似遭陌生人“性侵”,甚至被围观、起哄,引起社会广泛关注。
自20世纪80年代虚拟人开始出现,虚拟人涉嫌犯罪事件时有发生。2007年,在网络游戏《第二人生》中,一虚拟女性被另一虚拟人利用一组程序编码控制了她在游戏中角色的身体并实施了“强奸”,比利时警方对此展开调查,但该案最终未能起诉。
近来,随着“元宇宙”概念破圈爆红,虚拟人渐渐从小众范围的“尝鲜”体验走进越来越多人的网络生活。
诸多具有时代特色的新问题随之产生:当“性侵”蔓延到虚拟世界,这种行为是否涉嫌违法犯罪?当虚拟世界和现实世界的边界日益模糊,会延伸出哪些新问题?平台、企业在虚拟世界中需要承担怎样的责任?如何确保行业向上向善?
梁正教授认为,随着VR技术的发展,用户已经可以在虚拟世界实现沉浸式体验,拥有身临其境的感官延伸。“该案例表明,虚拟世界和现实世界的规则接轨需尽早提上日程。”
监管助推技术向善
诸多案例表明,虚拟世界的纷繁复杂对治理能力提出了新的挑战。
梁正说,以往为了实现商业价值,更注重如何更快形成用户黏性,未来企业应更加着力于技术行为的伦理导向。国外对此探索尝试较早,很多数字企业通过设置伦理委员会以规避相应风险。特别是一些头部企业,在项目开发的全过程引入法律、市场、历史、心理等外部专家,评估项目对特殊人群、对社会、对公司发展等可能产生的影响以及社会的接受、认可程度。
目前,我国一些从事人工智能领域的企业也已开始在产品研发阶段把责任与公平的理念嵌入到开发的标准流程中,特别是在一些相对敏感的领域,比如涉及未成年人、社交互动等,已经形成一些标准化的合规操作,从产品开发、应用、推广各环节进行产品把控。因此,对相对规范的企业来说,风险相对可控。但问题是一些在资金、技术、人才等方面都相对欠缺的企业,仍可能存在盲点和堵点。
显然,不能完全依靠企业自觉,而要设置监管红线,在兼顾效率的同时兼顾公平,注重个体权利的保护,助推行业向上、向善发展。
梁正建议完善全口径、全链条、全流程监管。
首先要事前预防,完善监管要求,建立防范机制,监督企业对照相关标准,完善实名规则,提高算法评价标准。
其次是事中处理,畅通投诉通道,监督企业做好全过程留痕,及时保留证据。
最后是事后补救,对多次被举报的企业依法依规处理,对多次涉嫌违法的用户采取批评教育、限制虚拟活动等措施,发挥正向引导作用。
“数字王国里并不等于可以为所欲为”
当下,第四次工业革命正在向纵深发展,推动技术与生活深度融合,为人们带来前所未有的数字化体验。互联网原住民的话语权不断提高、消费能力不断变现,“元宇宙”概念应时而生,虚拟人技术作为虚拟世界的重要基础,发展速度肉眼可见。
据统计,2020年和2021年,我国虚拟数字人相关企业新增分别超过3万家和6万家。截至目前,国内虚拟数字人相关企业数超16万家,预计2025年,该数字或将突破40万。
资本市场对此积极乐观。速途元宇宙研究院相关数据显示,仅2022年1月,一月之内,虚拟人领域融资就达近百起,累计融资金额超4亿元。
多位受访专家相信,以虚拟人为代表的技术作为依托,未来现实世界和虚拟世界将进一步深度融合,虚实互动的场景将越来越多、互动方式将越来越频繁,互动效果也将越来越真实。
与此同时,现实世界的一些原有秩序、默认情形和公认原则在被平移的同时也在被颠覆。可预见的是,争论和分歧也会进一步发酵,从而影响虚实之间的互动逻辑。
梁正坦言,自从有人类文化以来,虚拟和现实之间的互动就一直存在,只不过在虚拟现实技术的推动下,这种互动变得更加真实、更加强大、更加频繁。“没必要过分夸大虚拟空间的特殊性,在数字王国里并不等于可以为所欲为。虚拟人物的言行必须遵循与现实世界相同的规则,不能违反公序良俗,不能违背主流价值观。”
在某种意义上,当下出现的很多问题,是新事物在发展过程中必然经历的一个阶段。梁正认为,正因为风险往往很难被提前预见,法律往往不能穷尽所有可能出现的问题,监管在实践中也存在一定的滞后,因此更需强化底线思维。
梁正说,在坚守底线思维的同时,根据新判例的出现,不断用新角度去解释,在此过程中,一些基本的伦理道德准则会慢慢升华,最终形成成文的规则。
在纠正乱象的同时,还需正确看待虚拟世界,既不要过分夸大虚拟世界的短期影响,也不要忽略虚拟世界的长期影响。
梁正认为,当下很多人对虚拟世界产生一定程度的认知偏差,体现为“近视效应”——聚焦当下忽视长远。
他解释说,“元宇宙”虚拟世界短期尚属游戏层面,其影响相对有限,但在不可预知的未来,虚实世界之间的医疗互动、文化互动、教育互动等,可能带来意想不到的变化。从业者可积极挖掘虚拟世界在这些领域的潜在价值,同时建立保护机制,为虚拟世界长远发展护航。