北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

9月1日,世界人工智能大会在上海举行。清华大学苏世民书院院长、人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任薛澜在本届人工智能治理论坛上,谈到人工智能需进入敏捷治理阶段,在政府主导的同时,多元参与协同互动。

在论坛间隙,薛澜接受南都记者的专访,就算法歧视、算法公开、数据泄露、行业自治等热点话题展开对话。薛澜认为,目前广受关注的算法公开问题,需要政府和企业之间建立互信,找到核心症结所在,使政府监管更有效,企业合规成本更低。除了政府监管的外力,企业也需加强自治,要有科技向善的价值导向。

Q1:你觉得目前算法治理领域的突出问题有哪些?

大家比较关注的,比如说算法歧视的问题。计算机也是根据全社会的数据进行深度学习的,可能会纳入一些原有的歧视。算法的不透明,也会使人们对结果的可靠可信程度抱有疑问。这是目前两个比较突出的问题。

Q2:你觉得算法治理目前面临什么难点?

首先,国家已经出台对算法治理的一些要求和规则,这个我觉得是非常必要的。这些规则有助于实现刚才讲到的,减少算法歧视,降低不透明带来的潜在风险。但任何新兴技术在其治理规则形成的过程中都会出现一个问题。比如监管部门要求企业提供算法,但具体提供多少算法,提供到什么程度?其实监管部门不一定了解哪些才是核心,企业也需要有所取舍、选择能够提供的部分。因此双方之间有一个调整的过程,找到核心的症结,使政府的监管更有效,企业的合规成本更低,这个是我们需要解决的问题。

Q3:公众、企业和监管部门对算法公开都有不同的看法。你觉得应如何回应这些不同的认知和需求?接下来算法公开该往哪个方向走?

首先,我觉得让公众每一个人都了解人工智能的算法,其实不是件容易的事情。当然我们需要更多地去普及人工智能相关知识,但不一定要让大家全都了解背后的技术。就像我们看电视机,元器件怎么工作,我们不一定都了解。怎么保证使用的技术是安全可靠的?这时候政府就要发挥作用。公众觉得这个技术是通过相关行业标准、相关合规制度的,就觉得可以相信了。实际上,我们是在委托政府的相关部门对这个技术进行监管。

从公众角度来看是这样的,政府有这个责任了,就要想办法降低风险,采取各种措施来保证技术的安全可靠可信。但事实上政府也有局限性,所以这个时候就涉及到企业,企业对自己的技术是最了解的。在人工智能算法的治理过程中,企业要发挥自治。对企业来讲,政府的规制是外力,但企业内部应该要有科技向善的价值导向,通过科技创新发展为公众创造价值。这两个结合的话,就可能使人工智能治理更加顺利发展。

Q4:在人工智能治理领域,行业自治是一个被频繁提起话题。如何利用行业自治建立一个良好的行业氛围?

从企业自身来讲,我觉得尤其一些头部企业,包括商汤、美团等,现在都建立了伦理审查委员会,他们希望通过企业内部的机制进一步完善对技术的规制。

但光企业自己做,还是有一定局限性。所以我们特别期待中国人工智能这个行业,能够有行业协会发挥更大的作用,把各个企业好的经验整合起来,形成业内的标准规范,这方面是需要去努力的。

当然现在可能行业协会建设的方面还需要有一些改进。

Q5:近些年来随着大数据的使用,还有人工智能技术的普及,数据泄露和算法决策带来的一些问题,会给公众生活带来一定的不便。如何在大规模使用这些技术的同时,减少这些问题带来的风险?

我觉得这是两类问题。第一类是数据安全的问题,因为在大数据时代,人工智能靠的是大数据,不管是个人隐私,还是国家机构数据的安全,都是非常重要的。所以需要所有参与的人,不管是相关公司、机构,包括个人都要树立数据安全的概念,同时通过技术和制度进一步加强数据安全,我想这个是怎么强调都不过分的。

第二点就涉及到技术滥用的情况。比如电信诈骗的情况,我觉得一方面需要政府部门去严厉打击,另外我们每个人作为消费者,其实都有责任。一旦碰到滥用技术进行诈骗的,需要我们及时拿起法律武器,积极去举报去打击,使其没有藏身之地。


下一篇:薛澜教授出席世界人工智能大会治理论坛:人工智能迈向敏捷治理,需建立政府企业间互信

关闭

相关文章

读取内容中,请等待...