编者按:随着人工智能(AI)在社会生产生活中全面渗透,人工智能的治理逐渐成为热点议题。清华大学人工智能国际治理研究院推出系列访谈节目,深入探讨相关话题。第1期节目让我们来听听清华大学人工智能国际治理研究院首席专家曾毅对AI技术与治理的看法。后续节目将陆续推出,敬请关注!
本期花絮一:AI技术与信息映射
于洋:我们怎么样去分析一个技术进入到一对人的关系的时候,它到底是把信息的维度达到一个高维空间,还是把信息的维度降到就是映射到一个低维空间造成信息,我觉得这是第一个有趣的维度。
本期花絮二:AI监控下人类的思想对抗
曾毅:这件事情是对整个社会的长期的影响,我的设想如果说我的孩子,如果他一直在监控的社会当中长大了,我不觉得他会选修人工智能这个专业,(他会觉得说)我每一天走出家门的时候,他都在看着我,现在你想让我选择作为一个专业,我自己研究出来的技术,再去看着别人,我才不要做这样的事情。
本期花絮三:AI技术下的脆弱群体和受损人群
于洋:因为我们的人工智能技术在不断的进入到社会,而且你去阻止他进入社会是对经济有害的。那么你怎么样去让我们每一个人或者每一个公司或者每一个组织,其实都是一个面对新技术的脆弱体,你怎么样能够去鼓励保护这些脆弱体的技术,去面对这些不可知的风险,我觉得这个是一个从治理角度应该去思考(的问题),我觉得今天的关于治理的讨论还没有特别强调的一个部分,第二一个点是你刚刚提到在技术环境下成长的人。(AI)会怎么样影响他的。一个学习和就业秩序,应该也会是一个蛮有意思的事情。
本期花絮四:未来可期的AI伦理和治理研究
曾毅:有些人会说,你发展高等的认知功能对人对于人类来说,是不是非常危险的,但在我看来不是这样的,你像我们刚才说的认知共情,如果使得一个类脑的模型类脑智能的模型拥有的话,它甚至能够在人的 position更好的去理解人的视角,和对于人的影响,从而去 try to avoid这种 negative的 side effect。所以我觉得你刚才的设想,就正是在现在类脑人工智能的研究当中,正在发生的,并且是未来应当说可以跟人工智能伦理和治理的研究,可以相结合的。