2024年7月4日，世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。当日下午，由清华大学人工智能国际治理研究院（I-AIIG）主办的“人工智能前沿技术的治理挑战与应对论坛”在上海世博中心515会议室顺利举行。图灵奖得主、中国科学院院士、清华大学人工智能学院院长、上海期智研究院院长姚期智，香港科技大学首席副校长、英国皇家工程院院士、欧洲科学院院士、香港工程科学院院士、英国帝国理工学院数据科学研究所所长郭毅可，联合国副秘书长、联合国大学校长Tshilidzi Marwala等专家以线下、线上，“数字分身”多种形式出席论坛并作主旨演讲。
在本次论坛上，清华大学人工智能国际治理研究院还联合相关机构共同发布了成果报告《全球人工智能治理与中国方案》研究报告（征求意见稿）、《前沿人工智能发展与治理》新书，启动《中国人工智能重大应用场景白皮书》研究及“智能向善全球伙伴计划”启动仪式。论坛还邀请到来自国内外学界、产业界、智库机构的专家学者，围绕“人工智能国际治理”主题展开圆桌对话。
第一阶段的主旨演讲环节由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持。
姚期智作主旨演讲
图灵奖得主、中国科学院院士、清华大学人工智能学院院长、上海期智研究院院长姚期智作题为《人工智能安全治理的研究方向》的主旨演讲，他首先介绍了前沿大模型带来的信息、物理、生物智能风险与生存风险，引申出AI的系统安全与确保人的利益问题，提出从技术和路径的维度进行分类治理；其次以大模型时代的数据安全研究举例，指出大模型会记住隐私数据，而保护用户隐私的研究尚处在较原始阶段，重要方向是为大模型数据安全开发出一组核心技术；进而以有益的通用人工智能（Beneficial AGI）和可证明的安全通用人工智能（Provably Safe AGI）为例，介绍了AI安全治理的大格局理论研究。他提出AI安全治理的当务之急在于发展AI对齐与相应的评估方法、结合中国优势来建立符合国情的AI治理框架，最后总结指出AI安全治理日趋重要，并已发展成为学术交叉新领域，亟需开展构建AI安全系统的基础理论研究。
Tshilidzi Marwala作主旨演讲
联合国副秘书长、联合国大学校长Tshilidzi Marwala在视频演讲中指出，人工智能技术的巨大突破正在全球范围内掀起一场变革，并带来了安全风险和治理挑战。为了促进人工智能治理，要与联合国宪章和人权原则相对齐，要利用行为科学，设计机制、建立框架、出台政策、形成标准、开展立法，加强数据、算法、计算系统和应用的治理。Marwala强调，联合国一直致力于人工智能治理以造福人类，2021年联合国教科文组织发布了人工智能伦理建议，即将以此为基础提出“全球数字契约”。2024年4月，联合国大学启动了全球人工智能网络，它拥有来自19个以上国家和地区的40多名创始成员，清华大学人工智能国际治理研究院是其创始成员之一，期待中国学者和实践者的积极加入。他最后总结：人工智能作为一种革命性力量，每个人都有责任塑造它的未来使其造福全人类。
郭毅可作主旨演讲
香港科技大学首席副校长、英国皇家工程院院士、欧洲科学院院士、香港工程科学院院士、英国帝国理工学院数据科学研究所所长郭毅可教授通过由AIGC生成他本人的“数字分身”作了题为“生成式人工智能数据安全治理：构建负责任的人工智能时代”的主旨报告，他指出数据治理是人工智能时代技术发展的基础和前提，也关系到数字经济的稳健发展。积极地来看，可以通过区块链增强数据安全、敏感数据风险防控、加密和匿名化等技术手段进行有效数据治理，其中访问控制和权限管理、敏感数据监控和审计对确保数据安全至关重要。随着各国人工智能立法工作的开展，彰显出国际社会对数据安全治理的重视，在这样的背景下，加强国际间合作与交流，共同探讨数据安全治理的最佳实践，分享经验和教训，推动法律法规的协调统一尤为重要。推动负责任和安全的人工智能应用是社会各界的共同目标，也需要世界各国共同努力。
第二阶段的成果发布由清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正主持。
梁正主持发布环节
本环节围绕前沿人工智能治理挑战与健康发展，发布和介绍了研究院联合相关合作伙伴共同完成的三项最新研究成果：
第一项，由清华大学文科资深教授、清华大学人工智能国际治理研究院院长薛澜介绍了研究院与阿里巴巴集团共同完成的《全球人工智能治理与中国方案》研究报告（意见征求稿)。报告指出，本轮人工智能浪潮处于“工具化末期、产品化初期”阶段，“发展治理”和“安全治理”受到高度关注，人工智能技术风险和国际治理挑战普遍存在。在此背景下，中国实践能够为全球人工智能治理注入动力，包括发展中国特色人工智能治理体系，引领国际治理变革；加快科技创新和产业应用，推动全球人工智能发展；发出全球人工智能治理倡议，提出全球治理“中国方案”。报告倡议，应当持续沉淀基于共识的全球人工智能治理理念，着力构建开放包容的全球人工智能治理体系，分步打造综合系统的全球人工智能治理框架。
薛澜介绍联合研究报告
第二项，由薛澜院长担任顾问、梁正副院长主编的《前沿人工智能：发展与治理》新书正式发布。中国发展出版社社长王忠宏在新书发布环节中指出，在清华大学人工智能国际治理研究院的支持下，该书覆盖了人工智能的发展全景、产业应用，深入探讨了人工智能的潜在风险和国际治理等多个关键议题。通过对人工智能的发展与治理进行系统分析和研究，展示我国在前沿人工智能特别是大模型领域的最新进展。介绍了前沿人工智能产业生态发展轨迹及商业变革趋势，并展示了人工智能在工业、政务、教育等多个领域的实际应用案例和成效；探讨了人工智能国际治理议题，提出了构建开放包容的国际治理体系的策略与方法。中国发展出版社希望通过该书的出版，同清华大学人工智能国际治理研究院一道，推动社会各界对人工智能的深入理解，促进人工智能健康、有序发展，并为全球人工智能治理提供中国智慧。
第三项，由白皮书总策划、之江智慧场景研究中心主任陶海青博士就清华大学人工智能国际治理研究院联合之江智慧场景研究中心等机构共同开展的《中国人工智能重大应用场景白皮书》研究工作进行介绍，并热情邀请更多单位共同参与白皮书案例征集及编写工作；最后，国务院参事、研究院院长薛澜，国务院发展研究中心中国发展出版社社长王忠宏，研究院副院长梁正，中国移动集团副总经理李慧镝，中国投融资担保有限公司董事长邓星斌，中国电信研究院党委书记闫丽莉，阿里巴巴集团副总裁李倩，华信永道董事长刘景郁，华为战略研究院人工智能治理产业发展首席专家柳嘉琪，研究院秘书长鲁俊群，之江智慧场景研究中心主任陶海青共同上台，见证了《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”正式启动。
王忠宏作新书发布
陶海青作白皮书研究介绍
启动仪式
第三阶段的圆桌对话由中国政法大学数据法治研究院教授、联合国人工智能高级别咨询专家组成员张凌寒主持。与会专家围绕当前人工智能国际治理面临的突出挑战、如何平衡创新发展与安全监管、如何弥合智能鸿沟、人工智能国际治理中如何促进多元主体协同与多方利益平衡等议题展开深入对话和热烈讨论。
张凌寒主持圆桌对话环节
华东政法大学政治学研究院院长、人工智能与大数据指数研究院院长高奇琦在对话中指出，人工智能发展面临失业、失序、失控等三大风险，当前人工智能国际治理的最大难题是联合国的架构非常松散且碎片化、有效程度比较弱，应注重全球治理与国家治理的平衡，他呼吁参考碳定价的框架来对AI使用进行定价以应对虚假信息治理。
国际治理创新中心（CIGI）全球人工智能风险倡议执行董事Duncan Cass-Beggs表示，AI治理作为一个跨越国境的问题，有些挑战必须要加强国际合作才能解决。他认为，人类需要提前预估AI发展风险，注重防范AI红利分配不均而仅造福一小部分群体、全球层面公众安全威胁和系统性失控、以及仅由少数人和少数企业掌控AI发展议程决策等风险，他呼吁联合国出台具有全球效力的协议，在各方同意的情况下制定一个统一的架构，并配套相应的监管措施以防止部分国家对其他国家进行破坏。
华为战略研究院人工智能治理产业发展首席专家柳嘉琪认为，当今各界对加速AI发展已经达成充分共识，治理是为了给发展护航，并应在发展中治理、在治理中发展。他还强调，应构建分级分类、按场景区分风险的人工智能治理体系，既要用法律法规守住安全防线，也应充分发挥企业在一线治理工作中的关键作用，并需要打造具有全球代表性、多方主体充分参与、表达多方心声和关切的平台。
圆桌对话
卡内基国际和平基金会研究员Matt Sheehan提出，美国的学界缺乏算力和平台，学者缺乏参与AI政策制定的渠道，而中国学者在AI治理中扮演更重要的角色。他表示，很多AI治理问题需要优先在国家内部解决，并呼吁应保证社会的每个主体都能够有资源来参与人工智能治理。
慕尼黑工业大学讲师Alexander Kriebitz指出，在平衡发展和监管的过程中，欧盟的法律建立了许多壁垒，企业很难完全遵守所有的规定，且强监管会给企业带来更多的合规成本。他还指出，面对全球南北方之间日益扩大的智能鸿沟问题，不仅要注重AI发展、完善基础设施并促进AI落地应用，还要从教育上与民众互动，提升民众对AI的信任。
阿里巴巴集团政策法规研究室副主任顾登晨表示，整个中国的AI正走向赋能千行百业，需要充分发挥产业在AI治理中的重要作用，避免过度监管带来负外部性。他还指出，当前人工智能领域的很多治理框架都仅是国内议题并停留于设想阶段，需要集中解决一些人类共同面临的问题；大模型对齐的根本难题不在于大模型本身、而是在于在一些基础问题上人类自身的对齐。就此，2024世界人工智能大会·人工智能前沿技术的治理挑战与应对论坛圆满结束。
