2022年6月1日，2022智源大会-人工智能伦理、治理与可持续发展分论坛顺利于线上举办。论坛由清华大学人工智能国际治理研究院、人工智能治理研究中心（北京人文社会科学研究中心）共同承办，邀请了国内以及来自美国、日本的知名专家学者探讨人工智能的伦理问题及其治理，为可持续的人工智能发展建言献策。
论坛由清华大学公共管理学院教授、人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正主持。邀请到科技部中国科学技术信息研究所党委书记、所长，科技部新一代人工智能发展研究中心主任赵志耘；卡内基理事会资深研究员、清华大学人工智能国际治理研究院学术委员Wendell Wallach；国家新一代人工智能治理专业委员会委员、上海交通大学人工智能研究院首席顾问教授李仁涵；东京大学大学院情报学环教授Osamu Sakura；清华大学文科资深教授、人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任薛澜；中科大机器人实验室主任、CAAI人工智能伦理治理工委会主任、全球人工智能理事会执行委员陈小平相继做主题报告、对话探讨。
首先，梁正教授简要介绍了论坛话题及背景，指出人工智能的广泛应用对伦理价值带来了前所未有的挑战，如可控性与可信性等新问题，以及放大了歧视、偏见、公平等传统问题。如何形成人工智能伦理治理共识，亟待解决。那么，如何应对人工智能伦理问题？人工智能治理准则究竟应发挥怎样的作用？人工智能伦理与传统的伦理问题有何差异？各国的人工智能伦理治理实践案例有何值得学习和借鉴之处？本次论坛围绕上述问题及相关问题讨论展开。
赵志耘书记分享了题为“人工智能伦理治理——从理念到实践的分析与思考”的报告，主要包括全球人工智能伦理治理现状、中国的治理实践以及人工智能伦理治理如何从理念走向实践三个方面。就现状而言，她指出各国政府、国际组织、学术界和产业界共同推进了人工智能伦理治理发展，产生出一批代表性成果。美国、欧盟、日本纷纷将人工智能伦理治理纳入国家发展战略；国际组织在人工智能助力科学教育、医疗防疫等领域逐渐深化共识；学术界如斯坦福大学2018年发布的《以人为中心的人工智能计划》、IEEE于2020年发布的《道德人工智能与资助系统健康度量标准》促成了人工智能伦理建设；企业作为人工智能技术研发的主要力量，主动参与到人工智能伦理治理进程中。赵书记着重介绍了中国人工智能伦理治理措施，包括：第一，建立组织推进机制，加强专家队伍建设，推动对重大问题的调查研究和决策咨询。第二，发布实施治理文件，强调将伦理道德融入人工智能全生命周期。第三，部署专门的项目强化研究，对重大领域伦理风险进行评估。第四，积极拓展国际合作交流空间，通过国际研讨会等形式促进多方沟通。她认为人工智能伦理治理是一个动态过程，从技术发展到问题产生，再到治理理念更新、实践路径变化，再到新伦理问题产生是一个循环过程，必须坚持多方协同共治、敏捷治理。因此，必须理清人工智能的发展规律和特点，明确现实问题，掌握发展变化，把握治理边界，平衡治理发展关系。在管理主体的引导和监督下，研发主体要遵循技术指南、履行伦理责任，使用主体要善用人工智能，提升伦理意识，实现科技向善治理理念和实践机制的有机互动。
Wendell Wallach教授的报告主题为：“人工智能治理的软硬法：三种路径”，比较了中国、美国、欧盟在人工智能伦理治理现状。他指出硬法主要指政府制定的法律和规则，通常具有强制性；软法是一种不同的治理机制，在行业内的特定领域非常有效，软法的治理机制主要包含合作性自治、伦理委员会或技术监督机构，同时也可能包含工程师的价值嵌入设计或机器伦理考量，如价值敏感设计对选择和行动产生的影响。接下来，Wallach教授比较了中、美、欧作为三种方案的主体在人工智能伦理治理中的不同进路，他认为中国在2021年出台的《个人信息保护法》非常具有前瞻性；欧盟则希望通过法律行为引导具体伦理实践，尤其是对数据保护提出了非常高的要求，很多主体在进入欧盟前都会被要求宣示遵守这些规定。而美国通过制定算法责任法，希望公司担负起相应责任，特别是遵守网络空间管理条例，但是目前相对处于停滞状态。Wallach特别指出美国人对于创新的执迷，使得很多美国人不得不思考如何既提升效率，又把价值因素考虑在内，达成生产效率与伦理治理之间的平衡。因为相应的监管力量在很大程度上都落后于科学与技术的发展，使得很多新的社会问题产生，这就需要软法与硬法的协调，以及各个主体如学术界、企业、专业机构、非政府组织以及政府之间的互动治理与合作共治。因此，人工智能的技术复杂性使得相应伦理治理呼吁设定一种非常稳健的机制，需要软法和硬法的结合，需要美国、欧盟、中国之间的国际合作。
李仁涵教授的报告主题为“构建人工智能评测平台（体系），造福未来”，始于他对人工智能未来发展趋势的几个判断：其一，人工智能发展势头迅猛，弱人工智能加速发展，强人工智能可能预期到来。其二，人工智能自身产业与产业赋能发展主旋律不变，人工智能产品打造的智能时代新格局正在形成。其三，未来的国际竞争，人工智能+规则的竞争可能成为定局。其四，构建人工智能评测平台体系，将会造福未来。李教授首先介绍了人工智能的技术发展趋势，认为通用人工智能并非不可能实现，目前的技术发展还是可控可信的，但随着组合算法、组合模型的叠加，不可控不可知的问题也许会显现。人工智能技术的发展到了嵌入场景的阶段。其次，人工智能产业发展将进入新阶段，形成新的爆发力，赋能产业升级，形成智能时代蓝图。最后，李仁涵教授重点强调了推动构建人工智能评测平台体系的意义，指出人工智能是模拟人类认知能力的技术，有拟人化特征，因=此应该以人的标准对其约束，才能实现人与技术的和谐，评测平台的目的就是建立一个可信可控的技术支撑体系。因此评测平台体系的建立有助于人工智能伦理治理的落地，必须要尽早规划，做好安全、伦理、前瞻性的研究，把软性变刚性有利于操作落地。
日本学者佐仓统阐述了题为“什么是日本人眼中的歧视？来自/对于算法偏见的含义”的报告，通过定量研究的方法比较了种族、性别因素在算法歧视中的表现及影响。佐仓统指出该研究旨在回答两个问题：1.算法感知歧视的关键因素是什么？2.日本人如何看待算法偏见？他的研究建立于三个前提条件：第一，对于公平没有唯一的、普遍的定义；第二，西方国家尤其是美国对算法偏见的研究非常多；第三，在亚洲相关研究却不多，而对于公平和偏见还没有一个直接性的调查研究。他指出：在性别歧视方面，男性与女性的看法很不同，男性倾向于模糊地判定性别歧视，而女性对性别歧视的甄别却很敏感。在种族歧视方面，受访者本身的种族对判定种族歧视的结果并不具有相关性，这是出乎意料的，也是非常有趣的结论。值得注意的是，如上所述在种族歧视量表中受访者身份与结果相关性不大，而在性别歧视量表中则表现出很强的相关性，说明日本人的态度在种族歧视中体现不明显，在性别歧视上却特别明显。佐仓统教授总结了他的研究结论，指出其实在社会环境下是复杂的，也是敏感的问题，研究也表明了人类和机器之间的歧视感知也是非常不同的，我们应该更多地考虑亚洲场景。
薛澜教授的报告主题为“人工智能伦理问题分析与解决思路”。薛教授通过中美欧人工智能论文发表数量对比、专利申请及被授予情况、人工智能领域私人投资量将话题进入，运用定量方法总结了人工智能在近些年的发展情况。他指出，人工智能技术应用在中国非常活跃，涉及到公众个人层面、行业层面、社会层面。例如金融领域运用人工智能技术精准地判断农户资金需求和潜在信贷风险、蚂蚁集团将人工智能用于保险理赔、智能网联汽车落地、人工智能赋能医疗设备等。这些例子说明人工智能就像第二次工业革命的电力技术，成为一个广谱技术，渗透到人类生活的方方面面。他认为人工智能治理经历技术层面、环境变革层面、社会认知和适配层面、文化层面才能形成一个相对稳定的治理范式。同时，治理过程中还必须考虑区分不同种类的问题，如经济类的成本收益问题、技术可替代性问题、与社会行为规范的适配问题、技术预计和评估问题，需要不同的研究和分析，才能为治理提供可靠的依据。薛澜教授总结到：人工智能伦理治理是全方位的，既需要健全相关治理体系，又需要推动法律法规标准规范出台，既要有多主体参与的对话机制，又要建立评估预警管理机制。此外，加强伦理教育，提高公众的伦理意识，普及对人工智能相关认知水平，才能使人工智能真正造福人类。
陈小平教授分享了“人工智能伦理治理——一种新型问题及其创新挑战”的报告，从图灵的模仿游戏出发，强调人工智能是以功能模仿为基本原理，因而人是具有决定性作用的，人工智能伦理治理的出发点是技术逻辑。陈教授将人工智能伦理问题划分为三类性质不同的挑战性问题：合理性问题、可控性问题和重大相关问题，认为合理性问题可以技术使用传统的治理模式，而后两类则不适用于传统模式，可控性问题需要设立智能科研新分支专门研究，重大相关问题则需要我们探索新型治理模式。陈小平教授从技术逻辑上总结了AlphaGo的成果秘诀，在于它不模拟人类围棋思维原理，用它自己概率原理超越人类棋手，因此人工智能是有能力在以特定领域完全超越人类功能的。这就预示了可控性问题和重大相关问题产生的可能性，传统的事后治理模式不再适用，人工智能引发的不可逆、不可预测，带来了治理挑战，考验人类应该如何应对。他强调没针对可控性问题，应设立人工智能新的分支——“可控性研究”，系统地回答不可控人工智能是不是可靠，如何防范风险等。对于重大相关问题的治理，需要建立全新的治理模式，不是事后治理，而是提前引导，运用“公义创新”的设想，统筹GDP效益和度量效益，同样包括在传统治理模式上做新的探索。
主题报告后，论坛在梁正教授的主持下进入了对话环节，报告人分别回答了听众提出的问题。
问题一：人工智能伦理教育应该如何开展？谁是教育的主体？谁是教育的对象？
Wallach教授认为当我们讨论伦理教育，应先清楚伦理教育到底是什么。技术具有非常复杂的影响，因此技术伦理教育应当关注如何使工程师和专家有伦理和价值的敏感性。在教育的过程中，案例研究是非常重要的方法。工程师伦理教育中通过评估、权衡各类价值因素在技术应用中的影响，案例研究帮助他们理解、具体分析技术中可能的偏见与歧视，并在未来的设计中具备价值的敏感性。我认为案例研究是个很好的让工程师在设计技术时接受伦理教育的方式。
问题二：如何将伦理治理嵌入AI研发、应用的全生命周期？中国在这方面有何经验实践？
赵志耘书记：《新一代人工智能治理的伦理规范》就是考虑到了全生命周期，从研发设计、到应用都考虑到如何嵌入伦理，下一步转化为可操作性规范，落实到实践中。其中关键是参与的各个主体：研发、应用、管理的主体。各主体要联动，培育伦理意识，把伦理规范转化到实际操作中，嵌入实践中。政府的作用就是引导各主体重视伦路规范。实验区的建设就是要做社会实验，做伦理治理规范的实验，每一个实验区都针对如何落实有相应的操作规范。如北京的实验区中，未来科技在人脸识别的研发和应用中就考虑伦理规范。下一阶段，将推动实验区的评价工作，重点发挥政府的引导作用，让规则和理念在政府引导的各种应用中体现全生命周期的作用。
问题三：人工智能伦理是否可以通过特定治理工具解决？测评平台组如何考虑伦理问题和隐私保护？
李仁涵教授：就目前情况看，短时间内可能只能解决一小部分。首先可以理解柔性的（伦理的特征）的特征应用。因为其柔性特征，很难有统一标准，可以开放性探讨。关键还是技术标准和法律法规，伦理治理是一个从无序到有序的过程，如平台中的因素保护问题便需要刚性的指标，才能更好实现。人工智能造成的扁平化特征促使传统观念发生很多变化，隐私保护、数据保护的新特征必须要探讨，需要研发，需要标准、需要平台共同讨论，找到共同点，评测平台用于规划和研究，多元主体能够做什么不能做什么也是评测平台需要发挥的作用。
问题四：伦理可以被治理吗？伦理问题在新兴技术治理中应对如何看待和处理？
薛澜教授认为，伦理问题的核心还是社会行为准则和规范，不同人有不同看法，分歧是正常的。新技术会对现有规范造成冲击，人工智能也不例外，这是人类社会始终面临的问题。治理还是管理，还是解决分歧，需要共识和解决之道。首先可以构建交流平台，让各个主体充分交流，消除信息不对称，在掌握充分信息的基础上，充分的交流共同是必要的。其次，在交流的基础上思考如何求同存异，找到解决的机制，寻求各方都能接受的治理框架。其三，一个平衡、合理的折中是必要的。因为一方面技术本身会发生变化，另一方面观念也会发生变化，可能使我们对原有的行为准则和规范的认识发生变化，这就需要不断更新原有的治理机制。
问题五：人工智能伦理与其他伦理有何本质差异？这种差异又对其治理范式提出了何种要求？
陈小平教授指出，根本差异还是要从技术逻辑角度出发，人类对传统技术也曾有担心，如自动化技术是否会代替人类劳动。人工智能在某专用领域可以远超越于人，取代人，领域递进，都用人工智能代替人，存在这样的风险。因为人工智能技术蚕食人类的生存空间，通用人工智能可能全部蚕食，这种可能性不能排除。强人工智能有能力为自己的生存找到不依赖人类的方式，这理论上是可能。因此可控性问题必须高度重视，不能等发生后在解决，必须提前思考。对于专用人工智能的蚕食，不是技术本身带来的，而是由于现有的GDP导向的创新模式。本质上人工智能既可以为老年人服务，也可以为年轻人服务，但由于GDP导向的创新模式，商业逻辑和经济逻辑，年轻人的消费能力决定了人工智能的服务导向，人工智能对我们的创新模式提出挑战。这真正说明人工智能时代是本质上的新时代，传统的治理模式不一定有效，必须发展新的治理模式。我们如何认识这个新的时代，需要更多的思考、交流、讨论，共同迎接这个新时代。
梁正在与发言专家对话时指出：人工智能伦理教育不是单向的，而是多元主体之间的互动和建构过程。中国在人工智能治理方面进行了多种形式的试点示范，如开展人工智能社会实验和设立人工智能创新发展实验区，部分借鉴了新兴技术的“沙箱监管”理念。人工智能伦理治理除了需要自上而下的引导，也需要自下而上的创新，如国内外已出现的提供伦理治理工具和服务的公司以及AI治理挑战赛等。新兴技术治理可以充分借鉴历史上已有的经验，通过技术与制度之间的相互调适来找到其平衡点。人工智能伦理治理面临的可控性问题和重大相关问题，可能需要通过建立人机协作与共生的新型数字文明才能最终得到解决。
此次论坛引起社会各界普遍关注，给予参会观众关于人工智能伦理治理和可持续发展的全新启发与收获。会议还通过新浪微博、中国网、中国证券报等网络平台进行了直播，据不完全统计，累计观看人数超过2万人次。
