编者按

数据和算法构成了当前信息通信技术特别是人工智能创新发展的关键要素，在其开发和利用过程中产生了诸多伦理风险和问题。为进一步厘清这些问题和风险，就如何在算法和数据治理过程中科学地贯彻落实科技伦理准则和有关法律法规进行探讨，2022年5月13日，在中国网络空间安全协会数据治理专家组的支持下，伏羲智库、清华大学互联网治理研究中心以“加强科技伦理治理背景下的算法与数据治理”为主题在线举办“伏羲智库学术沙龙·数据治理前沿系列研讨会”。本文系根据清华大学文科资深教授、人工智能国际治理研究院院长、苏世民书院院长，伏羲智库高级顾问薛澜在会上的发言内容整理，以飨读者。

前面几位的发言非常精彩，为接下来的讨论提供了空间。结合今天会议的主题议题，我主要想从道理和执行两个层面来谈谈对算法和数据治理的看法。

首先在道理层面，我们习惯把伦理问题和治理问题放到一起讨论，但其实两者是存在差别的，需要区别对待。伦理问题主要涉及社会行为准则和规范。以职业伦理为例，我们去找律师或医生，一定会披露很多个人隐私，但很少会有人担心，因为医生和律师都是受职业伦理和行业规则约束的。而当前人工智能面临一些伦理问题，很大程度上是因为人工智能技术比较新，相关的伦理规则尚未在全社会形成共识。如果有更多的交流和讨论，能够形成被公众普遍接受的伦理规则，那么人工智能面临的一些伦理问题就可以部分地得到解决。很多伦理问题并没有绝对的对和错，大家观念意识不同，可能看法会不同，所以伦理方面的问题可能更多地是求同存异。

治理问题则是从公共管理角度出发，对新兴技术的研发和应用带来的有社会影响的问题找到解决的办法。例如游戏，它本身作为一款产品没有太大问题，但若未成年人沉溺其中，就会带来不利的社会影响。怎样能够让我们的产品或服务在改善公共福利的同时，尽可能减少潜在的不利影响，是治理需要考虑的。例如，人工智能技术的应用确实提高了政府、企业、社会等各个方面的效率，但从长远来看，其对整个社会就业带来的影响是治理需要关注的内容。

将道理层面的东西梳理清楚并不简单，比如讨论什么是公平。公共管理领域的公平有很多种类型，包括起点公平、过程公平、结果公平等，然而要确保所有的公平很难。大家对概念的理解本来就存在不同看法，所以要求企业和用户在某些方面达成一致看法具有挑战。还有一个值得关注的问题是，在新的技术条件下，原有商业规则面临新的困境，如算法歧视、差异化定价等，需要从更基础的经济学理论去研究，探讨相关的规则。

其次是在执行层面，存在准则、标准、规范、法律等多种治理工具，但其中最好的工具之一是市场的公平竞争，可以帮助我们解决很多问题。但我们这里说的治理主要是解决一般市场运行自身解决不了的问题。对算法和数据治理应当考虑以下两点：一是关于成本和收益。行业治理和行业发展应是并行不悖的关系，如果治理成本过高，最后可能对行业发展产生重大的不利影响。二是关于国际竞争力。一方面对行业的治理要把国际市场的因素考虑进来。例如，有些企业如果仅仅在国内市场看已经是垄断了，但如果在全球市场的范围看，根本就排不上。另外，制定相关治理规则要考虑国际通行做法，特别是在立法上要格外慎重。我们不一定要走在最前面，但也不能落后。

最后，治理的具体执行层面，到底是结果导向还是过程导向？过程导向是通过设立特定规则或流程，让企业行为符合规则，但最后效果怎么样有不确定性。还有一种执行方式是结果导向，但执行过程就不一定规范了。这也是我们下一步在落实目前出台的有关文件时需要重点考虑的。