2022年7月28日星期四下午两点，清华大学人工智能国际治理研究院（I-AIIG）《人工智能国际治理论坛》第五讲，暨系统工程学会“新时代的系统观•系统工程大讲堂”第六讲于线上顺利举办。清华大学计算机系长聘副教授，博士生导师崔鹏主讲，清华大学交叉信息研究院助理教授、I-AIIG国际交流项目主任于洋主持。两位老师就“可信智能与算法监管系统工程”话题展开深入讨论，探讨了算法系统的可信和可解释性之间的关系，因果推断与可信人工智能之间的关系等相关问题。

于洋老师从什么是可信智能、可信智能监管的理论及技术可行性、人工智能如何学习因果机制才能变得可信等方面提问，并通过观众提问的方式与崔鹏老师讨论了如何基于因果分析和系统控制的基本思想形成支撑可信智能框架的问题。

崔鹏老师表示，如果人工智能的可信问题不能够解决，其应用场景可能仍会被限制在互联网、大数据等领域，且人工智能的研究路径越来越多样化，目前还没有一个关于人工智能的可信与可解释性之间关系的确定定义，需要进一步的研究和解决。从因果推断与可信人工智能之间的关系来看，不应该将因果问题扩大化，需要更多的聚焦到因果推断的可用性、功能性，而不是其正确性方面，从而帮助到人工智能在实际应用中的发展。最后，从算法监管角度来看，人工智能技术与工业时代产生的技术存在本质差别，其算法监管系统同工业时代的监管系统有所不同，本身具有独特性，在借鉴之前已有的监管系统形成思路之上，我们也需要有一定的开放性监管思维去思考如何建立系统的算法监管体系。