2021年7月16日，由清华大学人工智能国际治理研究院、南开大学新一代人工智能发展战略研究院、商汤科技智能产业研究院共同举办的AI企业内部治理模式与体系建设专题研讨会顺利召开。本次研讨会采取线上与线下相结合形式，邀请到来自清华大学、南开大学、大连理工大学、国务院发展研究中心、中国科技发展战略研究院以及中国科学技术信息研究所AI发展研究中心的共14名专家、学者，以及来自商汤、华为、腾讯、阿里巴巴、字节跳动、京东、三快科技、百度、微软和英特尔公司共18名企业代表，就人工智能企业内部治理模式与体系建设展开讨论。

研讨会现场

首先，清华大学人工智能国际治理研究院院长、苏世民书院院长薛澜教授发表致辞，他表示，探寻人工智能敏捷治理的模式需要靠政府部门、学术界以及企业界共同探讨，企业怎样更好地加强内部治理，更好地形成一些行业共识，能够为人工智能领域的健康发展提供更好的框架，期待此次研讨会能够为下一步推动人工智能领域的健康发展做出贡献！

薛澜教授线上发表致辞

世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克教授随后发表致辞。龚克教授重点谈及了共担责任的问题，他表示，责任是所有利益相关方、参与方都要共担的，而不光是当事人。此外，共担是全面的，从规划、设计、管理、使用到维护，都需要共担，并且要强调开放和敏捷治理。企业是非常重要的利益相关方，企业应该怎么担起责任，哪些是以企业为主的责任，以及企业内部的责任由谁共担，是需要积极探索的问题。

龚克教授线上发表致辞

商汤科技开发有限公司联合创始人、副总裁杨帆在致辞中表示，从企业的角度来讲，希望在好的治理前提之下，还要做一个好的发展。人工智能的很多产品的形成涉及多个行业，因此，怎样共同形成好的责任，包括企业内部怎样形成好的治理推动，其实还有很多具体的挑战，和需要我们解决的问题。

商汤副总裁杨帆线上发表致辞

国务院发展研究中心创新发展部原部长，全国人大常委会委员吕薇做引导发言，她表示，人工智能被广泛应用的同时也产生了一些问题，如大数据杀熟的问题，吕薇部长站在消费者的角度思考了消费者对人工智能企业不信任的问题，以及企业内部治理和外部监管到底有何不同的问题。此外，人工智能企业内部治理的目标不应该是为了管企业，而应该是为了促进人工智能行业的健康、持续发展，因此应该遵循以下几个原则：落实公共治理的规则，保障人工智能功能符合公序良俗；企业应该提供一套管理方式，向社会提供更好地产品和服务；遵守数据安全原则，保障获取和使用数据的安全，保护数据提供者的个人隐私和商业秘密；以及鼓励创新，研究领域和应用领域可以用不同的规则，但是应用一旦要上市的话，一定要有市场准入审查。

吕薇部长引导发言

本次研讨会主题发言环节由清华大学人工智能国际治理研究院副院长梁正教授主持，邀请到了人工智能治理领域的四位专家学者做主题发言。

梁正教授（右）主持

南开大学讲席教授、中国公司治理研究院院长李维安教授首先从公司治理的角度谈了对人工智能治理体系的探讨。他表示当前人工智能治理主要还是从公共治理、技术治理和科研治理这几个角度来考虑，需要考虑治理人工智能企业治理的基础是什么，企业治理的目标是什么。李维安教授还着重讲了什么是绿色治理，他表示，不只有环境是绿色的，绿色治理是一种包容性的发展。最后，李维安教授就人工智能企业内外部治理体系的建构提出了几点对策，他表示，内部治理需要考虑管理层面的风险控制，提出了是否可以在人工智能企业设立首席伦理官的建议，对于外部建议，他提倡形成“三位一体”的治理体系，即政府审慎监管、行业自律和社会监督“三位一体”的格局，在内外部治理机制建立后，最后再通过绿色治理理念升级人工智能企业的社会责任，建设更好的社会。

李维安教授

大连理工大学经济管理学院教授兼院长朱方伟教授随后从全生命周期伦理治理角度出发，从原则、内部治理建议、人工智能监管体系这几个方面探讨了人工智能企业的治理问题。朱教授表示，制定治理规制的目的是为了发展，而不是为了规制而规制。此外，未来人工智能企业的竞争可能主要取决于内部规制，真正能够促进人工智能企业可持续发展的核心问题应该也是关于内部规制的问题。他表示，从企业内部治理内容的角度来讲，需要关注内部治理结构构建，数据安全，算法透明度和公众信任这四个问题。最后，朱教授提出，下一阶段是否能够围绕监管的内容达成共识，多维度构建人工智能企业协同监管体系，实现自内而外的敏捷治理是需要考虑的问题。

朱方伟教授

商汤科技开发有限公司安全副总监成瑾主要从商汤人工智能产品的安全实践角度，通过介绍商汤的基本情况，聚焦企业面临的安全威胁与挑战，以及实践中采用的安全路线和具体工作这几个方面向参会者介绍了人工智能企业的治理模式。特别是企业面临的威胁与挑战方面，以商汤为例，企业关注的核心要点主要有三点，第一，算法模型安全，第二，数据安全，第三，安全与产品。从开发多种形态人工智能产品的过程中，商汤从安全角度总结了六个需求，即算法模型安全，数据隐私安全，产品运营安全，软硬件安全，交付安全和训练数据完整性安全。商汤还总结了安全业务的四个矛盾，即安全卡点与研发效率的矛盾，安全功能与产品实现的矛盾，安全投入与产品利润矛盾和安全检测与修复漏洞的矛盾。为了解决这些矛盾，商汤重点关注解决安全与产品的矛盾，提升安全工作的效率，以及将安全融入到产品经营之中。

商汤安全副总监成瑾

最后，南开大学法学院教授、副院长宋华琳从法律角度以及人工智能产业行政规制和内部治理的角度做主题发言，他表示，确实存在一些缺少引导人工智能发挥作用的准则，人工智能也加剧了相应的不平等、歧视的问题。人工智能伦理的问题，不仅仅是科技问题，还涉及到数据、训练、模型、预测的问题。宋教授表示，数据在人工智能中很重要，并将数据和人工智能企业的关系比作农作物和收集加工农作物的工厂的关系，因此数据来源透明度的问题需要关注，商业数据也应该合理记录，以及还要考虑数据义务的问题和数据的安全管理问题。宋教授还提到了算法治理的问题，他将算法称作智能产品的灵魂和创造者，是智能社会中最重要的生产工具，并且影响着智能社会的生产关系、社会关系和法律关系。

宋华琳教授

本次研讨会的企业代表发言环节由商汤智能产业研究院AI伦理和法律研究中心主任吕长军主持，参会企业代表纷纷发言，介绍了其在人工智能治理方面采取的措施、方式，取得的成效，以及对未来企业内部治理人工智能的展望和初步规划。

参会企业代表

最后，世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克教授做此次研讨会总结，龚教授表示：人工智能治理问题有三个多，多元、多面和多层。这三个多分别体现在，人工智能治理是多元的，不论是数据治理、系统安全治理、伦理治理还是风险治理，这些治理之间的关联度都非常强，此外不仅企业治理本身是多面的，治理还会涉及社会面、政府面和公众面，并且会涉及到诸如控制层、管理层、能力层、工具层、要素层等多层面。龚教授还提议关注人类自治的原则，在人工智能治理中提出第一责任人理念。

龚克教授总结

本次人工智能企业内部治理模式与体系建设专题研讨会取得圆满成功，清华大学人工智能国际治理研究院期待与专家学者、企业代表们在此平台的基础之上，继续深入相关研究，助益人工智能企业内部治理体系的建设！