北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


海外智库观察

「新美国安全中心:对美国人工智能国家治理的建议」

2023年7月20日,新美国安全中心(Center for a New American Security)发布其研究员Timothy Fist、助理研究员Michael Depp和研究助理Caleb Withers共同撰写的《对白宫科技政策办公室“国家人工智能优先事项信息请求”的回应(Response to OSTP “National Priorities for Artificial Intelligence Request for Information”)》。文章回应了白宫科技政策办公室(Office of Science and Technology Policy, OSTP)于今年5月发布的一份就人工智能方面的国家优先事项征询书,其中特别关注针对“前沿”人工智能系统的政策措施,尤其是处于能力和风险前沿的通用基础模型,并提供了从人工智能全生命周期来管理这些模型带来的国家安全风险的建议。


首先,作者说明了关注“前沿”人工智能模型,即处于研发前沿的通用基础模型的原因。首先,这些模型很可能代表了人工智能在许多领域的前沿能力和风险,这就需要积极制定政策,为最关键领域的潜在能力提升做好准备。其次,这些模型的开发和部署目前在很大程度上不受监管。最后,这些模型以不可预测的方式开发新的能力,很难保证可靠的安全性,且由于其可能的用途众多,迅速扩散可能性大,未来可能对国家安全的关键领域如军民两用科学、网络行动等构成风险,因此需要在现有的特定领域监管基础上设立专门的防护栏。虽然前沿人工智能带来的风险和挑战往往是新颖的,但也可以从其他部门吸取经验教训。然而,“前沿”模型的双重用途性质使监管者难以将此类模型与显然不会对公共安全和国家安全构成重大风险的模型区分开来,目前还没有一种方法可以可靠地确定计划中的模型是否会具有特定的危险能力。一种直接的方法是使用计算输入(以每秒浮点运算次数来度量),其优点是可以根据模型的计划投入提前确定,但其致命的缺点是随着时间的推移,在训练新人工智能模型的高效算法方面取得的研究进展将减少建立具有危险能力的模型所需的计算投入。为此,美国联邦政府需要完成的三个优先事项。首先,与开发这些模型的人工智能技术专家协商制定一套近期的技术阈值,用于对可能拥有危险能力的高能力模型进行分类。其次,根据人工智能研发的进展和风险缓解措施的开发情况,保持这些阈值的灵活性。最后,鉴于任何基于技术能力代理的阈值都不可避免地存在弊端,应为开发和部署使用特定模型风险评估和评价的强大人工智能系统建立一套监管护栏系统。


其次,作者建议在整个人工智能生命周期中进行权利保护、保障个人安全和国家安全。训练有素的模型是一种易于复制的软件,一旦发布且供下载,就难以进行跟踪和监管,因此在模型发布前就需制定保障措施。首先,要以保障措施的技术研究作为奠定的基础。尽管目前前沿人工智能模型的不断快速发展,但可靠的保障措施设计仍是一个公开的挑战,因为目前的前沿模型可以用来提供危险信息,其内部推理基本上不可捉摸,而且容易捏造事实,产生“幻象”。为此,具有相关专业知识的联邦机构应考虑与前沿人工智能评估机构和标准机构合作,让生物安全和网络行动等领域的科学和政策专家参与模型评估,以帮助确定特定能力给社会带来的风险。如美国网络安全和基础设施安全局(Cybersecurity & Infrastructure Security Agency, CISA)和/或美国国家安全局(National Security Agency,NSA)可就发布的模型中可能对国家安全构成严重风险的网络能力类型提供指导。作者建议减少评估博弈,在实施和解释模型评价时考虑降低评价被糊弄的风险,措施可包括:避免直接训练模型以通过评估;不公开某些评估的某些细节;研究确定模型是否在糊弄评估和测试的方法;让第三方参与评估,其应有明确的目标;专业化,如通过培训、标准化方法和第三方认证;对模型有高度的访问权,至少能直接访问模型的输出结果,并有可能获得有关培训数据和模型结构的信息,以及对模型进行微调的能力;保持独立性,如避免与评估结果挂钩的补偿计划或交叉销售其他服务。其次,鉴于危险模型一旦开发和/或发布就很难防止其扩散,联邦政府应为“前沿模型”设立适当的阈值,并与数据中心运营商合作,以确保前沿模型来源链的透明度。数据中心应能够高效生产前沿模型,执行一套最低限度的网络安全标准,并要求对大量访问计算的用户进行尽职调查。另外,前沿人工智能实验室应确保训练前和部署前风险评估及模型评价,考虑不同部署战略(如分阶段发布和结构化访问)的风险情况。部署前的风险评估应包括评估结果,以及开发者可在评估结果安全部署的理由,考虑已公开可用系统的能力(包括使用这些能力的成本和难易程度)。另外,采用分段发布模型的方式在更广泛地提供模型之前,先在相对较小和可信的用户群中进行测试也可以降低风险。在进行大量额外的训练计算和/或提高性能基准后的人工智能系统,以及更广泛部署后的模型需要重新进行风险评估,因为用户可能会发现新的功能或漏洞,或者系统可能会获得新的工具和数据集。同时,前沿人工智能实验室应具备针对这些系统风险并负责人工智能全生命周期内部审计的职能。其应了解风险管理文献和特定领域的标准,尤其是关于人工智能的标准,以对整个人工智能生命周期进行审计,并将评估组织的风险状况向执行团队报告,委员会也应确保实验室有足够的权力以有效地进行评估。同时,由于前沿人工智能模型是有经济价值的软件,很容易被共享复制成为盗窃和黑客攻击的目标,前沿实验室应在网络安全方面投入大量精力,至少应遵守基本的网络安全标准,如 NIST 网络安全框架或 ISO 27001,在实施降低前沿模型风险的工作中,也应考虑网络安全问题。最后,前沿人工智能实验室应关注核算透明度带来的风险。一般来说,前沿人工智能实验室在其模型方面的透明度有助于支持问责制和信任,但需要注意数据来源、训练方法和模型架构的完全透明往往会涉及专利机密的披露,模型评估和能力的完全透明化可能会引起不良行为者和战略竞争对手的关注,并支持其发展危险能力,或加剧安全困境。在某些情况下,应当只有监管者或外部评估者才能完全了解这些细节(需做出适当的保密承诺),而公众只能得到高层次的结论或摘要。


最后,文章对于美国人工智能监管基础设施提出了建议。文章认为前沿人工智能模型带来的监管挑战需要美国国会建立一个专门的监管机构帮助明确问责制、对技术进步快速反应、有足够数量的技术专长以及对这些模型的整个人工智能生命周期的全面监督,该监管机构应拥有足够的资源、专业知识和信息获取权,以监督开发前沿人工智能系统的实验室和相关的问责生态系统,并有权特别关注社会规模的风险。虽然该机构将承担总体责任,但不应排除机构间合作,或将具体的支持或执行角色分配给其他组织的可能性。在考虑监管前沿人工智能模型的机构角色时,应考虑以下四个因素:首先,对先进人工智能模型的监管与商务部在控制用于训练人工智能模型的高科技人工智能芯片出口方面的作用之间存在重叠;其次,NIST制定和推广相关标准方面的作用;第三能源部在处理具有国家安全影响的科学进步(如先进计算)方面的经验;第四,情报界在评估发布模型架构或权重是否有助于潜在竞争对手的人工智能计划以及识别滥用前沿人工智能系统方面可提供的支持。因此,加强对前沿人工智能模型的监管不应以牺牲现有监管机构对人工智能系统相关使用的监督为代价。此外,文章建议推行许可证制度,鉴于前沿人工智能系统未来可能带来的潜在风险,以及此类系统一旦发布供下载很可能以难以控制的方式广泛扩散,联邦监管机构应将此类系统的部署和模型开发纳入许可制度,要求计划在训练运行中使用超过特定计算量的开发者首先获得许可。需要许可证的技术门槛应只适用于可能对公共安全构成重大风险的系统,以确保不会扼杀小公司或追求危险性较低能力的公司的创新。许可证本身的发放也可以基于开发者证明其符合一套特定的安全标准,例如进行全面的风险评估和参与外部评估。这些标准的制定应由政策制定者发起并持续进行,由技术专家推动,包括人工智能开发者、人工智能学术研究人员以及人工智能安全与伦理专家。同时,作者建议明确责任规则,以激励那些开发和部署人工智能系统的人自愿实施适当的风险管理措施,确保人工智能实验室充分利用其技术专长实施保障措施。考虑到前沿人工智能系统可能带来的挑战,包括不透明的内部逻辑、联网模型自主决策生态系统的不断扩大、用户可通过各种手段广泛获得人工智能受害者的赔偿以及尚未就何为合理关怀达成共识,国会应考虑现行责任法是否适用于前沿人工智能模型。有助于应对这些挑战的责任模式可包括替代责任、严格责任、连带责任或行业资助的赔偿基金。最后,政府采购规则是鼓励前沿人工智能实验室采用最佳实践的一个很有潜力的途径,联邦政府应为接受政府合同的前沿人工智能实验室设定最低标准,虽然特定机构可能会有自己独特的要求,但美国政府总体上应努力制定跨机构的前沿人工智能采购标准化规则,例如通过《联邦采购条例》。



Timothy Fist:新美国安全中心技术与国家安全项目研究员,重点研究利用计算/计算硬件治理人工智能,曾在人工智能硬件公司 Fathom Radiant 担任战略与治理主管。

Michael Depp:新美国安全中心人工智能安全与稳定项目助理研究员,专注于研究人工智能安全性和稳定性。

Caleb Withers:新美国安全中心技术与国家安全项目研究助理,负责支持人工智能安全与稳定项目,曾在新西兰多个政府部门担任政策分析师。

原文链接:

https://www.cnas.org/publications/commentary/ostp-national-priorities-for-artificial-intelligence

行业舆情追踪

国内动态

政府规划

「中国气象局研讨推进人工智能气象预报大模型建设」

8月4日消息,中国气象局日前围绕人工智能气象预报大模型(以下简称“大模型”)建设展开研讨,分析当前大模型发展面临的形势,进一步明确建设方向、目标和实现路径。会议提出三点要求:一要夯基垒台,强化大模型建设基础支撑能力。二要优化大模型研发工作方案,加快建设自主可控的大模型。加强与相关科研单位、机构合作,有序开展现有大模型应用和示范评估工作。三要加快创新研究院和团队建设,努力实现大模型率先业务应用。开放合作,推进大模型研发跨学科、跨部门、跨地区合作,协同攻关解决研发重点难点问题。

来源:环球网


「北部湾港首个铁路智慧调度中心正式投用」

8月4日,北部湾港首个铁路智慧调度中心在防城港码头正式投入使用,智慧“调度”实力加持,守护安全高效生产,为海铁联运一体化发展提供智慧平台保障。在全国港口协会铁道分会年度到发量排行中,2015年至2022年,防城港铁路运输量位列前三。2023年2-5月份,创货物到发量连续4个月突破400万吨新纪录。目前,铁路智能调度作业系统可通过人工智能、深度学习和大数据分析技术,实现生产效率最大化。预估每批计划平均节省时间在10分钟以上,提效80%以上,每班次提效3小时以上。今年2月以来,防城港码头持续升级改造铁路智能调度系统,进路排列时间由5分钟提升至15秒,大幅度释放铁路生产力。

来源:中国新闻网


「宁夏打造千亿级数字产业集群」

8月3日消息,自治区工业和信息化厅表示宁夏将以建设黄河流域生态保护和高质量发展先行区为牵引,努力打造千亿级数字产业集群,重点建设好“一群三基地”:加快建设绿色数据中心集群,发挥可再生能源丰富的优势,抓好现有数据中心节能改造,争创国家绿色数据中心试点,大力推动绿色数据中心项目落地建设,形成具备百万台服务器算力规模的数据中心集群。“三基地”包括:国家“东数西算”示范基地、信息技术应用创新基地和数据供应链培育基地。其中,“东数西算”示范基地建设将开展跨行业、跨地区、跨层级算力服务合作,建设西部算力集成调度平台。提升数据中心智算服务能力,积极承接东部算力服务需求,打造数据交换更便捷、数据安全更可靠、建设运营更省心的“宁夏模式”。数据供应链培育基地建设则将构建数据产业生态,充分发挥中卫数据中心集群集聚效应,加快打造从服务器、网络设备到数据加工、数据治理再到人工智能、 模型训练的算力产业链条。积极搭建政企数据一体化对接平台,探索政企数据流通与融合应用场景,增强数据资源流通活力,充分释放数据价值。

来源:人民网


「济南发展新一代信息技术产业 拉动数字经济“强引擎”」

8月1日,济南市人民政府召开新闻发布会。近年来,该市聚力打造新一代信息技术产业,发展数字经济,加快数字化进程,打造国内数字产业化发展核心区、产业数字化转型示范区、算网一体化建设引领区。会上,济南市工业和信息化局副局长文海生表示,该局全力推动新一代信息技术领域的61个续建和新开工项目建设,围绕产业链精准招引99个重点项目,总投资额289亿元。发挥龙头企业牵引带动作用,引导中小企业围绕龙头企业需求,深耕专业化、精细化、特色化、创新型路径,为产业高质量发展持续注入新动能。“目前,新一代信息技术领域国家专精特新‘小巨人’企业数量达到54家,省级‘专精特新’企业数量达到737家,大中小企业‘一盘棋’融通发展新生态不断优化。”文海生透露,下一步,济南市工业和信息化局将聚焦打造全国领先的新一代信息技术产业高地,加快突破集成电路、人工智能、工业互联网等产业,力争到2025年,新一代信息技术产业规模达到8000亿元,数字经济占GDP比重超过50%。

来源:中国新闻网


政–产–学研合作

 「三六零为辽宁建数字安全底座和城市级大模型」

8月3日,全国知名民企助力辽宁全面振兴新突破高端峰会在沈阳开幕。会谈中,三六零集团创始人周鸿祎介绍,360已在辽宁开展安全产业布局,打造了360东北研发中心。该研发中心为国内唯一的终端安全研发中心、工控安全研发中心。周鸿祎表示,未来将加大在辽宁的投入,将360积累的大数据、人工智能、安全服务、高端人才、创新研发等能力落地辽宁,为辽宁数字化转型贡献力量。据了解,360在助力辽宁数字经济发展上将重点做两件事,一是坚持底线思维,筑牢数字安全底座;二是构建人工智能大模型,推动辽宁从数字化向智能化升级。并为辽宁建设“两脑三中心”。在数字安全方面,360将着力为沈阳、大连等城市建设城市数字安全底座,包括“一个城市数字安大脑”和“城市数字安全运营中心”、“企业数字安全服务中心”、“中小微企业数字化扶持中心”三大中心。在人工智能大模型方面,周鸿祎表示,360希望为辽宁打造“安全向善可信可控”的城市GPT大脑,助力辽宁完成数字化转型到智能化升级。周鸿祎认为,数字化的下一个高峰是智能化,而人工智能大模型在中国的发展应当服务国家产业数字化战略,为政府、城市和企业打造“专属的GPT大脑”,提高生产力和生产效率。

来源:环球网


「华为云推动人工智能助力智慧城市新模式」

8月3日,华为云“百城万企中国行”专项行动正式走进厦门。面对智能时代的新诉求,华为提出两大关键举措:一是打造强有力的算力底座,支撑中国人工智能发展;二是从通用大模型到行业大模型,真正让人工智能服务好千行百业。在城市算力基础设施方面,华为云支持各地政府打造人工智能计算中心,提供普惠的算力基础设施服务。当前,全国已有包括上海、武汉、西安等25个城市,基于昇腾AI建设了人工智能计算中心。华为云大数据与人工智能领域总裁尤鹏强调,华为将结合实际情况,采用多种模式建设算力基础设施,以满足多种多样的算力需求。同时,华为云赋能云在全国建设超过160座创新中心,其中包括15个人工智能创新中心,以城市产业智能化基础设施的形式,为全国超千家中小企业提供AI技术赋能、应用创新、开发者培育、标杆传播等服务,比如在烟台赋能当地工业产业升级,在苏州赋能医药行业IT(信息技术)与BT(生物技术)深度融合,在广西助力农业实现智能化防病虫害风险等,立足当地实际和需求,为各行业、产业数字化转型注入AI新动能。未来,华为云未来将进一步联合厦门当地龙头企业,深入高端制造、新能源新材料、医药健康等重点行业,打造具有行业属性的行业模型,并通过技术创新、人才培养、产业赋能等多措并举,助力传统产业转型,加速企业智能化改造

来源:环球网


科技公司

「阿里大文娱通过AI技术实现数字人出演真人影视作品」

8月4日,优酷上线独播剧《异人之下》,同日官微发布海报,透露阿里大文娱数字人厘里,在剧中扮演神秘角色,这也是国内数字演员首次参演真人剧集。据了解,厘里饰演的二壮,在剧中以神秘人身份出现,为主角提供了重要线索。虽然是数字人,但剧中的厘里同样具有真人特质。特写画面里,可以清晰看到厘里与真人演员交互时细微的表情变化、面部肌肉运动甚至眼神情绪的交流;全景镜头下,厘里身体光影和环境光的反射效果也与真人演员无异。优酷工作人员介绍,厘里是阿里大文娱技术团队自研AI技术生成的超写实数字人,此次通过真人替身加后期光场制作的方式,呈现在《异人之下》中。据了解,作为已经实现了影视级精度的虚拟偶像,去年七夕推出以来,厘里已经以代言、直播和数字藏品等形式,与英特尔、MLB、天猫、华为等多个品牌合作,不久前,厘里还在动画电影《铃芽之旅》联合宣发中展开跨次元联动。此次《异人之下》启用数字演员,也成为国内首部通过AI技术实现数字人参演的真人影视作品。

来源:环球网


「美图:自研视觉大模型MiracleVision已迭代至1.5版本」

8月3日,美图创始人、董事长兼CEO吴欣鸿参加第四届中国人工智能大赛成果发布会。在会上,吴欣鸿透露,目前美图自研视觉大模型已迭代到1.5版本,并应用于美图旗下多款产品。据悉,目前,美图在AI层面有多个成功实践案例。“AI绘画”系列涵盖文生图、文字融合、图生图、涂鸦生图、线稿上色、头像制作、宠物头像等功能。“AI写真”可以帮助训练用户专属的AI模型,革新传统影楼拍摄方式。“AI扩图”能大幅提高图片素材利用率,拓展图片边界,同时用于生活与商业场景。此外,美图设计室推出“AI潮鞋”功能,联合华为云发布SaaS(软件服务)应用“AI模特试衣”,为服装电商提供一站式AI解决方案。吴欣鸿表示,美图自研视觉大模型可以帮助用户提高生产力、助力产业数字化升级。同时,也能在“深化社会美学素养”、“提升全民数字技能”上发挥重要作用。

来源:站长之家


「WPS移动端APP上线AI读写、问答总结等功能」

8月3日消息,WPS宣布在移动端上线WPS AI能力,用户只需动动手指或发段语音,告知想创作的方向,WPS就可以马上写好文章。针对阅读长文档不便的问题,WPS AI可快速提炼重点,并支持语音发起提问(支持Doc、PDF等文档格式)。此外,只需拍一下纸质文档,通过拍摄,WPS AI也能快速提炼信息,询问所需信息,即可获得准确回答。WPS AI能力的上线为移动端创作和阅读提供更智能化的支持。

来源:站长之家


 「斑马发布新版思维机:以AI驱动交互式学习」

8月2日,斑马正式推出斑马思维机G2。据悉,该产品是一款全方位启蒙学习机,以“思维机+拓展题卡”为核心组合,通过AI与大数据辅助专业内容研发,助力儿童全方位成长。据介绍,这是继拼音认读机、点读笔、绘本机等智能玩教具后,斑马通过融合AI技术与专业数字内容推出的新一代升级旗舰产品。据介绍,基于3000万儿童100多亿次学练行为大数据的研究,斑马思维机将体系化的专业内容与AI大数据研究相结合,将“交互式学习”引入应用。此外,斑马思维机针对儿童交互学习各个环节持续进行精细化打磨。儿童的每一次完整交互学习包含了视、听、触三个环节,对应了图像画面的视觉感知、情境化的语音引导和纸屏互动。斑马玩教具业务负责人唐巧表示,未来,斑马将结合AI大数据的研究,进行更多可能性的探索和迭代。

来源:环球网


「阿里云通义听悟上线视频自动提取PPT等三大新功能」

8月2日消息,阿里云通义听悟近期上线了三大新功能,其中包括视频自动提取PPT、浏览器插件、钉钉和微信小程序。其中,视频自动提取PPT的功能通过引入视觉AI算法,将PPT讲解视频自动分割为演示文稿,并总结每页PPT的重点内容,形成一份图文并茂的大纲,从而解决了培训、网课学习等场景中难以获取PPT的问题。此外,通义听悟还增加了浏览器插件和移动端的支持。用户在开会、上网课、看直播、看视频时,可以使用Chrome和Edge浏览器插件全程录制,并实时生成双语字幕。在移动端,通义听悟的钉钉和微信小程序支持PC端的基础功能,可以一键转写手机和聊天记录的音视频文件。通义听悟集成了阿里云先进的语音、语言和视觉AI技术,未来还将上线适用于更多场景的新功能。

来源:站长之家


「数字人“映映”亮相ChinaJoy AI黑科技实时生成数字分身」

8月2日消息,映宇宙数字代言人“映映”亮相ChinaJoy游戏展会,展示零感数字分身生成系统。通过该系统,用户仅需自拍一张照片,即可现场生成数字分身,并随意选择超写实、美形、卡通等不同风格虚拟形象,及多种服饰妆发搭配。用户无须穿戴任何动作捕捉设备,借助普通摄像头即可驱动数字分身,在虚拟场景中进行实时互动。据介绍,零感数字分身生成系统借助自研算法,打造了一套完整的AI驱动引擎。通过普通摄像头采集真人动作,并利用3D+AIGC计算,实时生成对应数字分身的动作,从而突破数字分身需要穿戴设备、搭配动捕设施使用的限制。今年4月,映宇宙正式开启在AIGC领域的探索,7月,映宇宙与昆仑万维达成AI技术服务合作,进一步打造垂直大模型,推动直播、社交等方向的AI智能化进程,为用户带来基于AI技术的互动娱乐体验。

来源:TechWeb


「长城汽车与百度Apollo文心大模型合作 多款车型搭载AI功能」

8月2日,近日,长城汽车宣布成为百度 Apollo 文心大模型首个应用探索伙伴。双方已基于大模型能力,围绕车载交互场景开展深入探索和实践,多项创新功能已在长城汽车量产车型平台完成验证,长城汽车旗下多款车型即将搭载 AI 功能。据悉,在智能化方面,长城汽车重点进行智能座舱、智能驾驶、电子架构等前瞻科技的研发和应用,以“自研+合作”的研发模式,为整车提供全域智能化解决方案。未来,长城汽车同样将通过与百度的深入合作,加速智能网联汽车再进化。

来源:TechWeb


技术应用

「香港多间大学相继为师生免费提供应用程序」

8月4日消息,香港多间大学日前相继宣布,为教职员及学生免费提供GenAI应用程序。当中,作为全港首间表明容许学生使用GhatGPT的大学,香港科技大学4日表示,大学长远而言应该要接受GenAI。香港大学日前召开记者会公布,将在2023/2024新学年,在教与学各个范畴,全面把GenAI融入课程,积极提升学生在对GenAI的认知能力和应用技巧。香港理工大学宣布,由8月1日起,已为全体教职员及学生免费提供GenAI应用程序,包括ChatGPT及Microsoft Bing Chat,每人每月使用配额最多为50万个词元。香港城市大学跟随这一做法,将于新学年推出““城大版ChatGPT”(CityU GPT Chatbot)供师生使用。此外,岭南大学候任校长秦泗钊日前亦在校网撰文称,决定接受ChatGPT,宣布已为全校购买ChatGPT许可证,现正探索评估学生作业和支援学习的新方法。香港中文大学则已向所有教学部门及学生发出电邮,就使用GenAI工具于教与学及学业评核发出指引。

来源:中国新闻网

国际动态

政府监管

「日本寻求打击AI生成错误信息的技术解决方案」

8月3日消息,日本政府在关于生成人工智能法规的提案中指出,将采取技术举措打击错误信息。据多个政府消息来源,提案大纲名为“Originator Profile”,旨在为网络用户提供有关内容创建者、网站运营商和广告商的第三方验证信息。该技术允许网络用户确认社交媒体和其他网站上的信息来源并评估内容的可信度,强调了生成式人工智能“轻松创建复杂的虚假信息”的可能性,并对可能会增加的未来传播错误信息情况表示担忧。此外,提案还呼吁推广前沿项目,考虑开发识别人工智能生成内容的技术,进一步敦促进经济合作与发展组织和全球人工智能伙伴关系。

来源:Asianews


 「马萨诸塞州监管机构对证券行业的人工智能展开调查」

8月3日,马萨诸塞州(Massachusetts)最高政权监管机构、国务卿Bill Galvin宣布,其办公室正在调查投资公司使用人工智能的情况,其中包括摩根大通和摩根士丹利,他们担心这种技术可能被滥用。监管机构已向几家使用或开发AI的公司发送了询问函,包括Tradier Brokerage、US Tiger Securities、E*Trade、Savvy Advisors和Hearsay Systems。此次调查是美国证券交易委员会(SEC)提出的一项提案的后续,该提案要求经纪商在交易平台上使用AI时消除利益冲突。马萨诸塞州国务卿Bill Galvin特别关注公司所采取的监管程序,以确保AI不会将公司的利益置于投资者客户之上。

来源:路透社


「拜登政府将在下周发布限制美国对中国人工智能等在内的投资禁令」

8月5日,日经亚洲报道,拜登政府计划在下周发布一项行政命令,限制美国对中国高科技领域的投资,包括人工智能、半导体和量子计算等领域。这项计划已经筹划了几个月,将对未来美国对中国的投资实施审查程序。尽管美国财政部部长耶伦(Janet Louise Yellen)表示,这些限制将仅仅针对特定领域,并不会对美国对华投资产生广泛影响,但人们对现有中国投资的撤资以及对跨境投资活动的影响提出了担忧。

来源:日经亚洲


「英国军情五处使用人工智能来“自动化”搜索观看暴力视频的恐怖分子」

8月5日,根据英国每日电讯报,英国的MI5情报机构正在使用人工智能来预测观看暴力视频的网民是否构成威胁。MI5的总干事Ken McCallum在演讲中表示,人工智能(AI)这项技术使计算机程序能够取代人类间谍,通过扫描嫌疑人观看的视频来确定风险水平。该系统还可以避免工作人员观看可能导致创伤后应激障碍的图像。

来源:英国每日电讯报


「英国教育部部长:在人工智能时代,以考试条件评估学生可以避免抄袭」

8月4日,英国教育部部长Nick Gibb建议,在考试条件下评估学生的作品可能有助于解决教育中生成式人工智能使用所引发的抄袭问题。Nick Gibb表示,虽然应该拥抱教育中的AI带来的好处,但也需要解决其中的危险,包括抄袭问题。采用考试条件,包括计算机化测试,可能有助于减轻与AI生成作品相关的风险,并确保评估的完整性。英国政府目前正在探索如何安全可靠地在教育中使用生成式AI。

来源:英国独立报


「英国情报机构希望放宽有关人工智能数据使用的法律」

8月1日,《卫报》报道,英国情报机构正在游说政府削弱关于人工智能的监管法律,其认为这些法律对于他们利用大量个人数据训练人工智能模型的能力造成了限制。这些提案将放宽旨在保护民众隐私和防止滥用敏感信息的保障措施,使政府通信总部、军情五处和军情六处更容易使用某些类型的数据。一些专家和公民自由团体对此表示震惊,人权组织Liberty and Privacy Internatiaonal敦促反对减少与批量个人数据集(Bulk personal dataset,简称BPD)相关的现有保障措施,其呼吁抵制对数据安全保障的减少的立法改革。

来源:卫报


政府规划

「韩军拟试点采购无人机防御系统和AI战车」

8月4日消息,韩军预计将引进能击落小型无人机的综合防御系统和运用人工智能技术的战斗工程车。在“快速试点项目推进委员会”第二次会议中,防卫事业厅敲定了两个快速示范采购项目和两个快速研发项目:反无人机多层拦截综合防御系统、基于AI技术的战术车载RCWS(Remote controlled weapon station,遥控武器站)、基于AI技术的有人/无人协同韩式战斗工兵车、用于小型战术车辆的120毫米车载迫击炮系统。

来源:韩联社


行业自治

 「伪装成ChatGPT的Android恶意软件针对泰国用户」

8月2日消息,全球网络安全领导者帕洛阿尔托网络(Palo Alto Networks)最近发现Android恶意软件激增,这些恶意软件冒充人工智能聊天机器人ChatGPT。该恶意软件是在OpenAI的GPT-3.5和GPT-4发布后出现的,主要面向对使用ChatGPT感兴趣的用户。人们发现,伪装成“SuperGPT”应用程序和“ChatGPT”应用程序的元分析软件(Meterpreter)木马会向泰国号码发送高价短信,从而导致受害者被收取费用。原因主要为Android用户可以从官方Google Play商店以外的各种来源下载应用程序,因此用户有可能获得未经Google审查的应用程序。

来源:Asianews


「美国的民间社会团体敦促白宫将人工智能指南转化为具有约束力的政策」

8月3日,一个由民间社会团体组成的联盟呼吁白宫将其提出的人工智能监管指南转化为具有约束力的政策,并将其作为即将发布的行政命令的一部分。该联盟包括民间组织、科技组织和人权组织。在白宫制定与负责任的人工智能创新相关的行政命令之际,他们向白宫发去了一封信,敦促拜登政府将《人工智能权利法案》(AI Bill of Rights)转化为对联邦机构、承包商和联邦拨款受益方使用人工智能的具有约束力的政府政策。这些团体认为,联邦政府应该只使用经证明有效、安全和非歧视的人工智能系统。

来源:国会山报


科技公司

「Meta发布开源AI工具AudioCraft,使用户可以通过文本提示创作音乐和视频」

8月2日,Meta开源了一款生成式AI工具AudioCraft,可以帮助用户通过文本提示创作音乐和音频。根据Meta官方介绍,AudioCraft包含了三个核心组件:第一是MusicGen,其使用Meta拥有或特别授权的音乐进行训练,根据文本提示生成音乐;第二是AudioGen,其使用公共音效进行训练生成音频或扩展现有音频,后续还可生成环境音效(如狗叫、汽车鸣笛、木地板上的脚步声);第三是EnCodec(改进版),其基于神经网络的音频压缩解码器,可生成更高质量的音乐并减少人工痕迹,或对音频文件进行无损压缩。该工具经过开源之后,相关研究人员和从业人员可以使用自己的数据集训练模型。Meta官方宣称AudioCraft系列模型能够长期稳定地生成高质量音频,而且易于使用,能够为音乐家和声音设计师“提供灵感”,帮助他们快速集思广益,并以新的方式迭代他们的作品,但这也引起艺术家和行业专家对侵犯版权行为的担忧,因为机器学习软件通过识别和复制从网络上抓取的数据中的模式来工作。

来源:路透社、IT之家


「Meta准备推出带有不同性格的聊天机器人以留住用户」

8月1日,英国《金融时报》报道,知情人士称,Meta正准备最早在下个月推出一系列推出一系列由人工智能驱动的聊天机器人,这些机器人将展现不同的个性,从而提高其社交媒体平台的参与度,留住更多用户。Meta将设计聊天机器人原型,并寄希望于这些具有不同个性的聊天机器人能够与接近40亿用户进行类似人类间的聊天对话,其中一些机器人可以呈现不同的角色形象,例如,Meta正探索推出一个与亚伯拉罕·林肯(Abraham Lincoln)表达方式类似的聊天机器人。此外,这些各式各样的聊天机器人最早可能在9月上线。

来源:金融时报


「AMD看好中国的AI机遇,计划年底推出AI芯片」

8月1日,美国半导体公司Advanced Micro Devices(简称AMD)的首席执行官苏姿丰(Lisa Su)在财报电话会上表示,AMD拥有足够的MI300芯片组件,将在第四季度积极推出和提高其旗舰MI300 AI芯片的产量,并承诺在2024年供应充足。MI300系列芯片预计于2024年上半年进行早期部署,并将与英伟达已经销售的H100 GPU芯片开展竞争。苏姿丰表示,客户对MI300和MI300X GPU芯片的兴趣非常高,AMD在本季度与云供应商、大型企业和众多领先AI公司的合作显著扩大。尽管AMD尚未给出详细的全年预测,但表示预计2023年包括MI300芯片在内的数据中心业务销售额将超过2022年的60.4亿美元。苏姿丰还表示,AMD的计划是完全遵守美国的出口管制,但中国对AMD而言是非常重要的市场,AMD正在寻找AI解决方案的中国客户群开发产品。

来源:路透社


「日本芯片设备供应商迪斯科将在印度设立中心」

8月1日消息,据《日经新闻》援引一位公司高管的话称,日本迪斯科公司(DISCO)希望在印度建立一个半导体行业的营销基地中心,并为其客户提供支持。DISCO是一家主要从事半导体制造设备、精密加工工具的制造和销售以及维护和相关服务业务的日本公司,主要提供划片锯、激光锯、磨床、抛光机、平面刨床等精密加工设备,以及划片刀片、砂轮、干抛光轮、磨切磨石等精密加工工具。报道称,这家芯片制造设备供应商将考虑在印度开设一个应用实验室,并根据客户要求进行测试切割和其他实验处理。

来源:路透社


「博世在马来西亚开设芯片测试中心」

8月1日消息,罗伯特·博世在马来西亚斥资6500万欧元(约7162万美元)开设了一家新的芯片和传感器测试中心,并计划在2017年中期再投资2.85亿欧元,预计到2030年代中期将创造400个就业岗位。目前,博世半导体的大部分最终测试是在其位于德国罗伊特林根、中国苏州和匈牙利的工厂进行的,上述地点将与槟城的新测试中心一起建立。此前,博世已获得马来西亚的资助。

来源:路透社


「戴尔与英伟达扩大“Helix项目”,提供生成式人工智能解决方案」

7月31日,戴尔科技(Dell)周一与英伟达(Nvidia)合作推出了新的生成式人工智能(GenAI)解决方案,后者的芯片支持OpenAI ChatGPT背后的技术。这些工具将帮助企业构建GenAI模型,是戴尔今年5月推出的Helix项目的扩展。

来源:路透社


「在人工智能的推动下,Meta的Reels收入缩小了与TikTok的差距」

7月27日,Reels, Meta平台(Meta)对病毒式短视频应用TikTok的回应,在2020年推出时引起了人们的关注,被视为Meta复制热门竞争对手的又一个例子。但周三,Meta公布的数据显示,Reels视频在用户和广告商中都在迅速增长,并正在迅速赶上字节跳动(Bytedance)旗下的TikTok应用,后者深受年轻用户的喜爱,重塑了社交媒体的格局。

来源:路透社


前沿研究

「美国空军研究实验室称首次成功进行由人工智能驱动的瓦尔基里飞行」

8月4日,美国空军研究实验室(AFRL)成功进行了首次由人工智能控制的瓦尔基里喷气机飞行。这次为期三小时的飞行是在7月25日在佛罗里达州埃格林空军基地的XQ-58A瓦尔基里上进行的。据说这是第一次成功使用机器学习训练的AI算法进行飞行。据报道,飞机解决了一个“战术相关的‘挑战问题’”,但没有提供更多细节。

来源:国会山报


「NASA将向月球发送人工智能机器人以执行无人任务」

8月3日,根据英国每日电讯报,美国国家航空航天局(NASA)将向月球发送一组人工智能机器人,以完成无需人类干预的任务。明年将发射三台微型探测器,并负责对月球上的Reiner Gamma区域进行3D地图绘制。在从地球上的任务控制中心接收到初始指令后,这些探测器将选出一位领导者,并利用人工智能确定如何最安全地完成分配的任务。该任务的目标是证明移动机器人网络可以合作完成任务而无需人类干预,从而改变未来的探索方式。

来源:英国每日电讯报

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》196期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...