我国算法治理政策研究报告

清华大学人工智能国际治理研究院

二〇二二年十月

内容简介 

人类社会已经进入第四次科技革命时代，算法成为新的生产工具，并给生产关系带来深刻变化。由于算法运用具有的扩散性和分散性，同时某些算法结果具有的不可解释性，给社会治理带来挑战。为实现“科技向善”，并将算法关进制度的笼子里，需要坚持公私合作治理的模式，不能仅靠政府机构的单向控制式规制，而是需要充分发挥政府规制与企业自治的双重作用。此外，算法深深嵌入到社会运作的方方面面，算法治理的对象不应局限于平台和算法技术本身，而是需要分析与算法运行发生联系的各个组成部分，比如从主体维度看，包括技术研发者、技术运用者、监管者及消费者等；从技术环节看，包括数据处理环节、算法研发环节及算法落地环节等。只有各个组成部分实现协同治理，才能实现算法系统的“良治”。

算法治理也不是一场“打地鼠游戏”，应为算法建立一套体系化的综合治理框架。对此，本报告提出算法治理的五要素，即治理目标、治理主体、治理对象、治理手段和治理模式，并依据此治理框架横向比较其他法域的治理实践、分析我国算法治理现状和未解决的问题以及提出继续完善我国算法治理的政策建议。

具体而言，本报告共分为四个部分：

第一部分主要分析算法的社会价值与潜在风险，算法犹如一把“双刃剑”，既有正向价值，也有负面效应。治理算法的目标就是要实现趋利避害，因此政府和社会公众对算法价值和风险的认知需秉持“管、促、创”的基本认知逻辑，即坚持守住风险底线的前提下促进算法应用，同时创造条件实现算法创新。

第二部分总结和分析欧盟、美国、新加坡以及主要国际标准组织在算法治理方面的实践经验。

第三部分以算法治理五要素为维度，重点对比分析欧盟和美国算法治理的相同点和不同点，这些算法治理的最新实践可以为我国构建算法治理框架提供镜鉴。同时分析了我国算法治理现状和未解决的问题。

第四部分提出了若干政策建议，包括（1）在治理目标上，实现算法可问责与算法经济高质量发展；（2）在治理主体上，通过部际联席会议制度形成算法治理合力；（3）在治理对象上，从算法应用主体和应用场景角度拓宽算法治理的范围；（4）在治理手段上，补强司法救济和技术治理措施；（5）在治理模式上，优化多元主体参与的协同共治模式。同时对医疗辅助算法和自动驾驶算法的产业发展与治理问题进行了案例分析。算法治理是一项需要持续完善和迭代的系统工程，应结合技术的演进和场景的变化完善治理措施。目前我国针对算法治理集中出台了一些规制措施，其治理效果如何需要追溯和评估，并根据治理情况及时调试治理框架和改进治理措施，治理效果评估是未来研究的一个重点内容。

点击下列附件，获取报告原文↓↓↓