近年来，数字化赋能城市管理成为国际和国内的主要发展趋势，人脸识别、指纹识别、虹膜识别等主要的生物识别技术被广泛应用。生物特征识别技术在城市治理的应用场景有哪些？又存在哪些风险？如何构建与思考技术应用与城市管理有效结合的治理模式？思客邀请清华大学人工智能国际治理研究院首席专家、清华大学公共管理学院教授、执行院长，清华大学科技发展与治理研究中心副主任朱旭峰解析。
生物特征识别技术在城市治理有哪些应用及风险？
生物特征识别技术在城市治理中的应用场景主要有四大方面。
西北工业大学一名学生在图书馆人脸识别系统终端前登记注册个人信息
一是城市大脑，强化城市交通治理。城市大脑旨在解决城市“四肢发达，头脑简单”的交通弊病。通过城市一体化计算平台、城市数据资源平台和人工智能(AI)开放服务平台，交通大脑通过人脸识别和图像识别进行驾驶员和行人的身份识别以及交通状况和事故的识别。“声呐噪音采集系统”可以利用声呐密集识别技术、声纹比对识别技术以及高清摄像头捕捉并抓拍乱鸣笛车辆。将违法瞬间的视频、照片录下来，同步上传到违法鸣笛抓拍管理平台，对违法鸣笛车辆进行精准查控。截至目前，城市大脑已覆盖了全球二十余个城市。
二是“天网工程”，服务安防领域提升公共安全。“天网工程”是指为满足城市治安防控和城市管理需要，对固定区域进行实时监控和信息记录的视频监控系统。城市公共安全相关部门在逃犯追逃、人员布控、身份信息检索等领域，生物特征识别技术往往被用于进行快速的人员比对与确认,并由此成为安防决策的重要依据。通过“天网工程”收集来的人脸识别、指纹识别视频、音频、图像和文档等数据在自主开发的AI赋能平台进行精准分析建模，形成公安系统天网，对在逃人群进行精准抓捕,保证城市公共安全。
三是人口管理，社保申领的精准识别。生物特征识别技术基于人体唯一的生物特征值来进行身份认证，具有唯一、稳定、可靠等特点。利用该技术能有效解决当前社会保险经办中身份认证困难，特别是待遇资格认证困难、养老金冒领等突出问题，满足当前对实名认证、资格认证和身份认证等方面的需求，做到对参保人员的精准识别。
四是社会治理，首先是监考身份确认，指纹、人脸等生物特征识别技术用于考试人员身份核验，可以有效杜绝替考行为。其次是非现场执法治理行动，利用人脸识别等技术，行人违法行为捕捉、电动车走机动车道，逆向行驶、闯红灯等严重违反交通秩序的行为等，自动抓拍曝光系统，可以对交通违法行为进行非现场取证。
但生物特征识别技术还有很多风险，总结来说有四大类的风险问题。
一是技术风险，也就是识别精准度问题，容易出现深度伪造现象。许多因素会影响生物特征识别技术的精准度。如指纹受手指本身状态和环境状态的影响，在湿手、油手或低温、强光等不同场景下进行指纹识别的准确度都会不同；在跨信道识别、音频噪声及多人场景等情况下，声纹识别的精准度可能会下降，个人年龄和健康状况导致的声音变化也会影响识别准确度。深度伪造融合了深度学习和伪造技术，是一种利用深度学习算法和人脸识别技术，创造高度逼真的伪造图像和视频的技术。深度伪造技术目前可以利用人脸识别算法训练GAN网络并模仿人脸图像中的五官特征,仅需一张照片就可以成功进行视频合成。
二是数据风险，存在过度收集和存储安全问题。除了提升技术识别精准度，大量数据作为资产本身可以产生巨大价值,因此企业往往有动机尽可能多地收集数据并进行后续整理、分析，由此产生数据过度收集的潜在风险。随着全球资产数字化的发展和数据价值的剧增，数据泄露事故频发，所泄露的数据颗粒度愈发精细。掌握海量数据的企业正面临更高的数据安全风险。
三是伦理风险，存在隐私侵犯和技术不平等的问题。生物特征识别技术不仅仅局限于对个人身份的识别，还能够辨认用户的身份、性别、年龄、心理状态、收入信息等丰富的标签信息。这些识别信息用于各种场景会导致一系列隐私泄露。生物特征识别技术是海量数据输入的基础设施,不同社会群体对其可及性的差异可能会影响大数据的结构与特征，导致技术识别精准度在不同社会群体间产生差异，并可能进一步导致算法的偏见与鸿沟。
四是社会风险，包括财产损失风险。由于用户的技术使用惯性，许多用户会习惯性地在装载人脸识别或指纹识别的智能手机App中大范围开通人脸识别或指纹识别功能。由于生物特征具有不可更改性,且存在伪造和仿制风险,一旦发生指纹被伪造或人脸伪造等事件，公民的财产安全将会面临全方位的风险。
敏捷治理是什么？有哪些特征？
新兴技术有一些特别的特征，技术是市场需求来拉动的，技术的发展特别快，若政府政策过于富有弹性时，产业发展带来的安全问题可能会给社会带来巨大风险甚至损失；但若不给产业发展保留弹性，新兴产业的创新可能会被过度和过时的监管框架扼杀。所以政府监管政策存在两难的境地。
对此我们提出敏捷治理的概念。敏捷治理包括一是要求政府要有一套具有柔韧性、流动性、灵活性或适应性的行动或方法；二是承认技术变化和中断比以前更快、更复杂；三是不仅意味着治理应对速度增加，还需要重新思考和设计政策流程。
世界经济论坛在2018年提出了敏捷治理的概念，以此再思考第四次工业革命中的政策制定问题。敏捷治理旨在构建一种能够快速且灵敏应对公众需求的治理模式，来提升组织运营效率并改善用户体验。
敏捷治理的概念运用到城市的话，包括治理对象、治理节奏、治理方式、治理关系等方面，要将敏捷文化渗透到多级部门中，形成敏捷型组织，在基层的公共政策决策、公共政策执行、公共问题管理与公共服务方面形成一种工作方式和解决思路。
敏捷治理概念的提出，是为了应对技术的快速发展。技术的发展，特别是生物特征技术的发展，是快速变化的，所以技术发展的不确定性和技术发展的快速性，使得政府对这种技术治理产生了非常大的难度。政府需要有敏捷处理办法，对技术所引发风险能够快速反应，减少新技术所产生的伦理和治理的风险，通过高频率地回应技术发展，来降低公众忧虑。
城市管理中生物特征识别技术的敏捷治理建议
第一，秉承“鼓励发展，预防先行”技术发展策略定位。政府应加大公共部门购买服务，支持生物特征识别技术在城市治理不同领域中的广泛应用，提升城市交通、治安和行政服务的效率与智能化水平；公民应提升生物特征数据的安全意识，充分行使数据基本知情权，以在城市治理过程中使用生物特征识别技术的同时能保障自身数据和隐私权利。
第二，积极参与城市生物特征识别技术应用治理的公私对话。引入公私对话，将企业、公众等人脸识别技术提供方与应用方等多元主体纳入沟通与合作体系，鼓励社会广泛讨论伦理边界；公众可以作为社会力量和市场力量，共同识别风险和补充政策风险研判，推动政府形成具有充分回应性的机构体系与政策体系。
第三，在有条件有需求的地区试点公民数据分红权，撬动政府使用权、企业开发权和公民分红权的政策试验。设置有条件、有需求地区为政策试验区，试行公民数据分红权，探索政府城市管理外包和企业数据模型训练结合过程中的商业化开发。建议政府提前明确界定公众数据的使用边界，鼓励部分地区先行授权部分，企业采用经公民授权后的数据信息以训练模型，从而增强技术精准度和稳定性。
第四，支持政府制定应对生物特征识别技术社会风险的应急方案。在涉及重要城市服务场景出现数据泄露风险、数据识别出错、重大伦理问题等极端情况时，政府可具有临时接管权，部分甚至全面接管企业相关业务。
提升面对新兴技术的风险意识与集体安全意识,充分理解基于国家安全和社会风险控制考虑的政府应急方案，推动技术与产业风险应急管理体系的完善。
