北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

202636日,AI安全国际论坛(SAIF)执行主任Fynn Heide一行到访清华大学人工智能国际治理研究院(以下简称“研究院”)。研究院副院长梁正、副院长肖茜、清华大学公共管理学院副教授陈天昊,中国人工智能发展与安全研究网络(CnAISDA)成员单位、中国信通院人工智能研究所相关专家及研究院科研团队参加会谈。



副院长梁正代表研究院对Fynn Heide一行的到访表示欢迎,并对研究院相关情况做了介绍。

清华大学公共管理学院副教授陈天昊作题为“拟人化人工智能的法治治理:边界、保护与平衡(Lawful Governance of Anthropomorphic AI: Boundaries, Protection, and Balance)”的主题分享。他指出,随着多模态、长时记忆模块以及链式推理等技术的发展,人工智能系统在交互中逐渐呈现出更强的“人格化”特征和持续互动能力,这既带来广阔的应用前景,也伴随着新的治理挑战。围绕拟人化人工智能服务治理,他介绍了相关政策探索思路,包括通过明确监管底线与鼓励方向,规范市场竞争秩序,针对未成年人和老年人等重点群体建立多层次保护机制,以及通过数据源治理、场景化规则设计和用户提示机制等方式实现灵活合规,在保障用户权益的同时促进人工智能技术的健康发展。

SAIF研究员Emmie Hine围绕“中国前沿人工智能监管与治理的考量(Considerations for Frontier AI Regulation & Governance in China)”作主题分享。她结合团队开展的背景研究,介绍了当前国际社会对前沿人工智能治理问题的关注重点,并指出随着人工智能能力快速提升,前沿模型在带来技术创新潜力的同时,也可能在安全风险、技术滥用以及系统可控性等方面带来新的挑战。她还介绍了全球主要经济体在人工智能治理方面的政策进展,包括美国、英国、欧盟以及中国在监管机制、技术评估和制度建设方面的不同探索。

随后,SAIF访问研究员Ben NormanMegan Cansfield围绕“设计减少极端人工智能风险的国际协议(International Agreement Designs to Address Extreme AI Risks)”作主题分享,介绍了在全球范围内通过制度化合作机制应对潜在极端人工智能风险的研究思路,并探讨了构建相关国际合作框架的可能路径。

SAIF访问研究员Sabrina Shih围绕“中美前沿人工智能验证:先例、方法与前进路径(China-U.S. Verification of Frontier AI: Precedents, Approaches, and Paths Forward)”进行分享,结合相关国际验证机制的历史经验,探讨了在前沿人工智能领域开展验证与互信机制建设的思路。

研究院副院长肖茜围绕人工智能安全治理的国际合作进展作交流分享,介绍了中国在人工智能安全治理领域的探索,特别是中国人工智能发展与安全研究网络(CnAISDA)最新工作。她表示,加强国际对话与学术交流,有助于促进各方增进理解、深化合作。

中国信息通信研究院人工智能研究所治理工程师徐鹏结合行业治理实践进行了补充交流,介绍了在人工智能标准化、产业应用治理以及技术评估等方面的情况。

会上,与会人员还围绕人工智能治理政策、技术安全评估、国际合作机制以及未来研究方向等议题进行了深入交流探讨了下一步合作,取得诸多共识。


43E3F



下一篇:问政中国|蒋昌建 梁正 彭嘉昊:AI浪潮如何改写竞争叙事?

关闭

相关文章

读取内容中,请等待...