嘉宾简介

崔鹏：清华大学计算机系常聘副教授、博士生导师

主持人简介

于洋：清华大学人工智能国际治理研究院国际学术交流项目主任、交叉信息研究院助理教授

Part 1：如果人工智能的可信问题不解决，其应用场景可能会受限制

于洋：人工智能它就是一个通用技术，我们在历史上很少出现一个通用技术，它是不可控的，它是不可解释的，它的运行机制是几乎不透明的。把人工智能算法本身它看作一个系统，是一个系统工程，它的不确定性是源自于哪里？

崔鹏：人工智能发展到现在，我们感觉在实际落地过程当中碰到的很大的一个痛点。也就是说可信的问题，不确定的问题如果不解决的话，那么可能人工智能的应用场景还是会局限于现在的互联网做做推荐，搜索。

Part 2：可信智能监管在理论上是否看到方向？

于洋：从监管和社会的角度来讲，做到他们所需要的可信，在理论和技术上是不是从您的角度看还是一个不可解决的理论上的困境？还是说他实际在理论方面我们已经看到了方向？

崔鹏：我觉得目前我们从研究的视角上来看这个问题，应该说最近几年大家越来越多地在意识到这个问题。从原来人工智能传统的研究路数和路径，到我们真正地去使得它可信，其实这里边是存在一个比较大范式上面的变化。

Part 3：人工智能的可解释性与可回溯的区别

于洋：您觉得可回溯和可解释性之间的区别是什么？

崔鹏：其实可解释这个词，我觉得也跟可信性一样，你要求的可解释是对谁解释？如果他要对用户解释，你就要做好可视化。可回溯实际上指的就是说我们现在可能有这样的一个结果，比如这个结果错了，我们做了一个决策，做了一个预测，他错了，但他为什么会错？他能不能追根溯源，追到到底是哪一部分特征，哪一部分输入导致了他犯的错误。