专题论坛4：人工智能产业发展与治理

2023年12月9日上午，由清华大学、香港科技大学联合主办的2023人工智能合作与治理国际论坛“人工智能产业发展与治理”专题论坛，在香港科技大学卢家驄荟萃楼阶梯教室（Lecture Theater, Lo Ka Chung Building）成功举办。

九章云极创始人兼首席执行官方磊，华为诺亚方舟实验室人工智能治理首席专家毛碧飞，奇安信集团首席工程师尹智清，智谱AI首席生态官刘江应邀出席专题论坛并作精彩发言。奇安信集团副总裁罗若月，电子科技大学（深圳）高等研究院杨军，以及方磊、毛碧飞、刘江参与了圆桌讨论环节。本场专题论坛由香港科技大学（广州）信息枢纽数据科学与分析学域主任陈雷主持。

方磊发表了题为《人工智能本土企业时代》的主旨演讲。他提出，企业正面临着从数字化向智能化的转变。过去20年，企业主要关注数字化转型和软件自动化，但随着人工智能技术的发展，企业智能化转型将成为趋势。方磊建议，需要关注决策过程和可扩展性，以提高企业敏捷性和效率。其中，大语言模型可能会取代现有的软件层，使企业能够更好地利用自然语言来定义工作任务。这种转变可以带来很多好处，包括更容易的界面修改和更广泛的员工参与。通过自然语言界面操作，人们可以更轻松地完成界面修改和其他任务。此外，未来的智能企业将使用数以百万计的复杂代理来完成各种任务。使用各种类型的工具来处理工作内容存在着复杂性。但是，可以使用数学和接口来简化这一过程，可以在同一系统中完成不同的操作。他还谈到了如何减少幻灭感和注入工作作为一种对抗方法，以及人工智能能否复制同事数据的问题。此外，他的演讲还涉及到关于新世界观以及如何享受这一变革过程的讨论。

毛碧飞以《实践性人工智能治理框架的选择》为题进行了主旨演讲。她强调在广泛使用之前，需要逐步评估人工智能技术及其对社会的潜在影响。人工智能技术提供者和使用者需共同努力，使用者有责任了解使用人工智能产品的后果。她还强调了人工智能治理所面临的挑战，包括不同行业所面临问题的差异化。她建议第三方认证机构参与验证和控制风险。她还进一步强调了道德考量、数据安全、隐私保护以及用户和提供商之间有效信息交流的必要性。基于此，她提出了一些建议：建立完善的治理体系，明确各项规章制度和操作流程；其次，加强技术研发，提高人工智能技术的自主可控能力，以避免出现技术瓶颈和安全隐患；加强与各方的合作，共同推动人工智能技术的发展和应用。总之，人工智能治理是一项长期且艰巨的工作，需要不断地探索和创新。只有通过不断地完善治理体系、加强技术研发、加强与各方的合作、加强人才培养和引进以及与业界同仁共同探讨，我们才能更好地应对人工智能技术带来的机会和风险，实现更好的发展。

尹智清在报告中指出，安全事件响应、安全运营、红蓝对抗及攻防演练，是人工智能大模型在网络安全领域最急迫的三个应用方向，且这三个方向都存在同样的生产力短缺难题。他认为，网络安全领域存在大量场景需要人工智能技术，而人工智能则是缓解网络安全领域生产力短缺难题的有效途径。他还表示，大模型应用生产力模型包括交流级、工业级和全面级三类，而安全大模型只有到达工业级应用，才能创造工业级网络安全生产力。尹智清还在报告中提出，工业级安全大模型的三大核心要素包括高质量的安全数据、庞大的专家团队、丰富的实战场景和经验。最后他表示，大模型的能力源于安全能力反哺安全能力，而大模型生产力是基于生产力创造新质生产力。

刘江作了题为《大型模型在实践中的安全与对齐》的主旨报告。他在报告中介绍了智谱AI的发展情况和成果进展，并认为人工智能大模型在实践中安全与对齐框架包括组织结构、内部规章制度、数据安全、内容安全、算法道德、生成和合成标记、个人信息保护、应急处理等多方面。他还强调，人工智能的智能化程度越高，其潜在的危害可能就越大。大模型就像工业革命时代的蒸汽机一样，将带来生产力的巨大提升。他最后表示，希望各界一起共同努力，把大模型带来的负面影响降到最小，并把大模型带来生产力提升的好处增加到最大。

圆桌讨论环节，与会专家围绕隐私保护、产学研合作等议题展开了讨论。罗若月在圆桌讨论中指出，网络安全治理需要改变决策者认知、改变科技的供给、改变生态、改变科技公司利益，且奇安信集团已在尝试通过与高校共建博士后流动站、联合培养硕博士、共建实验室等方式推动产学研合作。杨军表示，隐私保护既需要从技术端推动改变，也需要依赖政府端的监管，并且当前的人工智能并没有那么恐怖，其在知识创造性方面距离人类还相差很远，我们需要积极拥抱新的范式。方磊认为，隐私保护的背后归根结底是涉及到人们把什么样的数据投喂给大模型，且当前法律已基本可覆盖个体层面的隐私保护，但从抽象知识的角度来看，既有法律是难以完全限制住的；同时，当前的人工智能只是敲开了大门，但不是终点，我们还需要更好的算法，还缺乏顶级人工智能人才，这也都需要产业界和高校共同合作。毛碧飞指出，人工智能的类人性容易让人的警惕性下降，且但凡有类人机器助理，就一定要有一个监护人；同时，华为一向重视产学研合作，比如算力和模型基础等多方面都在积极探索开放式的多方合作。刘江表示，未来需要更多依赖技术本身来治理人工智能面临的挑战；同时，他作为智谱AI的首席生态官，本身就在致力于搭建学术生态，并通过产学研合作等方式来提供各种基金支持和推动研究。

本场专题论坛支持单位（排名不分先后）

波克科技集团有限公司

北京九章云极科技有限公司

北京智谱华章科技有限公司