北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


海外智库观察

「布鲁金斯学会:美国应利用隐私立法帮助解决人工智能问题」

2023年7月7日,布鲁金斯学会(Brookings Institution)发布其杰出访问学者卡梅伦·克里(Cameron F. Kerry)撰写的评论文章《隐私立法如何帮助解决人工智能问题(How privacy legislation can help address AI)》。作者从《美国数据隐私和保护法案(American Data Privacy and Protection Act,ADPPA)》入手,讨论了美国应如何利用隐私立法帮助解决人工智能问题,并将人工智能准则和框架的关键要素纳入到ADPPA的条款中。


作者首先指出,以ADPPA为代表的隐私立法可以预见算法问题。从参议员玛丽亚·坎特威尔(Maria Cantwell)和罗杰·威克(Roger Wicker)在第 116 届国会上提出的主要参议院法案开始,主要的隐私立法都包含了有关算法责任和公平性的条款;第 117 届国会上两党基于此共同提出了ADPPA;在本届国会中,众议院能源与商业委员会在3月和4月专门就隐私立法举行了听证会。作者表示,个人信息的收集、使用和共享是许多备受关注的技术应用的基础,而ADPPA中的条款也涉及到了人工智能治理的其他重要方面,许多人也都建议通过隐私立法来解决隐私本身以外的监管问题。ADPPA 法案也包含三项有助于解决人工智能问题的重要条款。首先,该法案将对个人信息的收集、使用和共享设定界限,要求此类过程必须是提供产品或服务或其他列举目的所必需的,这将有助于限制人工智能 “通过将个人信息的分析提升到新的力量和速度水平,扩大使用个人信息的能力,从而侵犯隐私利益” 的力量。事实上,数据治理(包括对数据来源、质量和合乎道德的使用)对人工智能治理框架至关重要,随着基础模型的推出,欧洲和美国加利福尼亚州的隐私和数据保护监管机构也已经开始探索个人数据的来源和使用。其次,ADPPA 包含一项突破性条款,即禁止以歧视的方式使用个人信息,来加强了数字领域对民权法律的保护。正如白宫去年发布的《人工智能权利法案(AI Bill of Rights)》所指出的,算法和自动化系统中的偏见问题有据可查,糟糕的算法设计或不具代表性的训练数据会在影响生活的环境中嵌入历史性的不平等,并呼吁联邦机构运用现有法律和机制解决住房、就业和其他机会方面的歧视问题。而ADPPA的民权条款将加强这些努力。第三,ADPPA的公民权利部分还包含了上述关于算法评估和问责制的条款。这些规定要求算法评估触及人工智能准则和框架的关键要素,不过这些规定可以通过提高人工智能系统的透明度和问责制来完善。


其次,作者就如何将人工智能准则和框架的关键要素纳入ADPPA的算法条款提出建议。根据众议院能源与商业委员会在2022年7月发布的报告,ADPPA规定了两个不同级别的算法评估。首先,“大型数据持有者”(年总收入在 2.5 亿美元或以,或数据来自 500 万或以上个人或设备的实体)将被要求更广泛的“影响评估”,且必须在颁布后两年内进行,此后每年进行一次,被评估者需详细说明设计、使用、训练数据、输出和列举的风险。其次,所有其他被监管实体都必须进行更一般的“设计评估”,评估范围包括算法的“设计、结构和输入”以应对针对大型数据持有者影响评估所列举的相同风险。两类评估都必须向联邦贸易委员会备案,并可选择公开摘要。鉴于对人工智能的关注日益突出,ADPPA应更新涵盖的算法和实体、评估范围、信息披露三个方面的规定,要求所涵盖的实体向公众提供有关算法决策的信息,并明确所涵盖的算法和风险,以及衡量结果的必要性。首先,根据法案条款,普遍适用的“设计评估”要求适用于任何“后果性”算法决策,但“后果性”从措辞上并不清楚所包含的算法决策是什么。此外,尽管ADPPA中“所涵盖的算法”定义已经经过修改,但仍然过于宽泛。例如,当推荐引擎在产品推荐中产生令人反感的歧视或将儿童和青少年带入有害内容的“兔子洞”时,推荐引擎就会引起关注,但并不是每次使用都会引起关注。因此,与其将“后果性”的含义留给算法评估的实质性规定,不如在“所涵盖的算法”的定义中阐述“后果性”的含义,以明确算法评估和问责规定的要求是算法决策的后果。同时,该定义应包含确定的具体伤害类别,以确定应考虑的背景和后果,且额外的总括性语言仍应涵盖这些类别所属的更广泛的伤害。例如,欧盟的《通用数据保护条例(General Data Protection Regulation,GDPR)》规定,“对于对个人有‘法律影响或类似重大影响’的自动化决策,有权进行人工审核”,可以用“机会和经济、社会及个人福祉”这样的措辞来澄清“类似的重大影响”这样宽泛模糊的概念。这将涵盖所列举的类别,但也包括其他影响生活的应用。另外,“设计评估”条款的范围涵盖了“在知情的情况下开发”所涵盖算法的实体或服务提供商,但未关注使用其他实体开发的算法程序的实体,这就涉及到与加利福尼亚州AB 331法案和欧盟拟议的《人工智能法案(AI Act)》有关的软件价值链责任分配问题,而且遗漏了可能会产生影响的用途。作者建议,信息隐私立法不应涉及整个价值链中的此类义务,而应适用对“采用”所涵盖的算法的相关实体进行设计评估的义务。在这种情况下,对设计、结构、输入和输出进行评估的能力可能会受到限制,但无论如何,进行一些此类调查是实现负责任的人工智能系统的必要步骤。第二,关于评估范围,美国国家标准与技术研究院(National Institute for Standards and Technology, NIST)于2023年1月发布了其人工智能风险管理框架(AI Risk Management Framework, AI RMF)的 1.0 版本,为识别人工智能风险提供了一个概念框架,并为评估和管理这些风险提供了一套组织流程。因此,由于NIST的AI RMF将以反复和互动的方式不断更新,因此它比通常的机构规则或指南更具活力,ADPPA 应将 NIST的AI RMF纳入算法评估和设计评价,作为指导参考。例如,为避免设计评估规定一刀切,ADPPA可以考虑按照所涉实体的规模和复杂性,以及数据的数量和敏感性进行分级分类管理,最重要的是,算法评估的要素应通过审计或测试更明确、更清晰地纳入测量,以确保人工智能系统的运行符合预期,减轻潜在危害的措施行之有效,以及避免机器学习的适应性造成不良后果。第三,在信息披露方面,ADPPA 的评估条款将要求大型数据持有者和其他被监管实体向联邦贸易委员会提交相关评估报告,但仅将是否向公众提供这些信息作为可选项。这就忽略了人工智能透明度的一个基本要素。ADPPA 在其有关透明度的章节中详细说明了必须披露的有关相关实体收集、使用个人信息及其隐私保护措施的信息,其中还应包括基于此类数据的算法决策信息,如此类使用和决策的性质及其所依据的数据和逻辑。虽然只有一小部分人可能会查看这些信息,但他们将更容易获得所需信息,当实体的行为与其披露的信息不符时,发表这些公开声明也可以帮助联邦贸易委员依法处理不公平和欺骗性行为。虽然关于从平台内容管理到人工智能可解释性等一系列技术应用的透明度问题还需要进行广泛的讨论,参议员埃德·马基(Edward Markey)也提出了《算法正义与在线平台责任法案(Algorithmic Justice and Online Platform Accountability Act)》来解决其中的几个问题,但涉及个人信息的收集、使用和共享,并要求披露相关信息的隐私立法时,应包括披露个人信息在算法决策中的使用情况,因为这些算法决策可能会影响到作为信息主体的个人,信息披露也可以帮助人们更充分了解和应对人工智能系统的挑战,为相关讨论提供信息,降低风险,并为最有可能对个人产生影响的一些人工智能应用提供基准。



卡梅伦·克里(Cameron F. Kerry):布鲁金斯学会特聘访问学者,专注于研究隐私、人工智能和信息技术的跨境挑战、国际数据流动、数字经济等问题。奥巴马政府时期曾任商务部总法律顾问和代理部长。

原文链接:

https://www.brookings.edu/articles/how-privacy-legislation-can-help-address-ai/

行业舆情追踪

国内动态

政府规划

「工信部、国家卫健委开展第一批“宽带网络+健康乡村”应用试点项目申报」

7月25日,中国工业和信息化部办公厅、国家卫生健康委员会办公厅近日联合印发《关于组织开展“宽带网络+健康乡村”应用试点项目(第一批)申报工作的通知》,要求充分发挥电信普遍服务网络建设成效,积极运用新一代信息通信技术手段,持续提升农村地区卫生健康服务能力,巩固拓展健康扶贫成果同乡村振兴有效衔接。此次征集工作围绕远程大病专项救治、县域医共体信息化建设、移动乡村巡诊、网络村医助手、网络村医教育培训、网络公共卫生防护等重点方向,鼓励基础电信企业、互联网企业、医疗卫生机构、地方政府、事业单位、公益基金会等相关主体共同加强“宽带网络+健康乡村”建设,重点推进“三区三州”及中西部地区拓展智能化医疗健康应用。各申报单位可通过“‘宽带网络+健康乡村’应用试点注册管理系统”,完成注册后填写申报所需材料。工业和信息化部、国家卫生健康委对推荐项目组织遴选,组织行业专家或第三方机构在项目建设过程中开展实地调研,并在建设期满后开展评价工作,适时公布评价结果,发布典型试点项目名单。

来源:中国新闻网


「工信部:打造“5G+工业互联网”升级版」

7月25日,在国务院新闻办公室日前举行的新闻发布会上,工业和信息化部总工程师赵志国介绍,将坚持创新引领,推动5G演进和6G技术研发。持续向增强5G演进升级,支持5G R18基站、5G新型终端等技术产品攻关,不断支撑5G新特性、新业务。大力推动6G技术研究,开展技术试验,深化交流合作,加快6G创新发展。赵志国介绍,工信部将坚持适度超前原则,积极推进5G网络建设,持续拓展5G网络覆盖广度深度,推进城市地区重点场景5G网络深度覆盖,进一步向乡镇和农村地区延伸。开展“信号升格”专项行动,全面提升重点场景5G网络质量。据了解,工信部将拓展工业、矿业、电力、港口等先导领域的应用规模,深入挖掘医疗、教育、文旅等试点领域典型应用场景。打造“5G+工业互联网”发展升级版,今年推动不少于3000家企业建设5G工厂。

来源:央视网


「北京推动数字经济标准创制 开展人工智能社会实验」

7月24日,《北京市贯彻落实加快建设全国统一大市场意见的实施方案》(以下简称《实施方案》)正式对外发布,围绕市场基础制度、要素市场化配置、市场高标准统一、市场监管公平、京津冀高水平协作、“两区”制度型开放等六部分安排了具体任务举措。在全面提升消费服务质量方面,《实施方案》提出扩大绿色智能消费,将智能穿戴产品、人工智能终端等新型产品纳入“京彩·绿色”消费券适用范围。同时,《实施方案》提出完善重点领域标准体系。积极推动数字经济标准创制,鼓励行业协会、产业联盟和企业参与制定数字经济国际标准、国家标准、行业标准和地方标准,自主制定一批数字经济团体标准和企业标准。在智慧城市标准体系框架下,开展政务云、京办、京通、京智等共性基础平台及政务数据溯源、数据质量评估等标准规范研究制定,推进一批数字孪生、区块链等核心技术标准制定。深入开展人工智能社会实验,以加快建设国家新一代人工智能创新发展试验区为重点,探索建立智能家居、安防等智能设备标识制度。推动制定智能社会治理相关标准,探索人工智能应用领域立法。支持微芯研究院联合国内有影响力的标准化组织推进区块链标准体系建设,探索将长安链技术研发成果转化为国家标准。持续完善高级别自动驾驶示范区标准体系建设。《实施方案》还提出,北京要积极参与数据跨境流通国际规则和数字技术标准制定,探索数据定价、流通等数字交易国际合作,推进数字证书、电子签名的国际互认。

来源:中国新闻网


「上海徐汇正在打造生成式人工智能创新生态区,引育大模型平台、链主企业」

7月24日上午,上海市政府新闻办举行“高质量发展在申城”系列市政府新闻发布会第二场——“加快城市更新 推动高质量发展”徐汇区专场,介绍徐汇区以城市更新为抓手,提升城区功能、激发创新活力、改善人居环境等方面的有关举措,并回答记者提问。徐汇区科委主任张宁表示,下一步,徐汇将以人工智能发展排头兵的担当,率先打造生成式人工智能创新生态区:一是通用基础和垂类赋能并重,激发高质量创新澎湃动力。服务国家战略科技力量和领军企业,系统突破通用大模型底层关键技术;在数字文娱、金融及电商等优势领域,支持场景释放和垂类模型应用,加快产业迭代优化。二是龙头牵引和生态培育并重,提升高价值环节引领水平。引育大模型平台、链主企业,提升区域算力供给水平、数据供给质量和算法开源力度,支持国产软硬件系统优化与适配,带动上下游企业和配套产业发展。三是系统谋划和精准施策并重,打造高品质营商服务环境。率先发布《徐汇区关于支持生成式人工智能发展的若干措施》,围绕模型、算力、数据、场景、治理等关键环节,系统完善政策保障;结合全区政策体系,重点面向全球招揽人才,全力打造产业合作伙伴矩阵。

来源:澎湃新闻


政–产–学研合作

「石化院与清华大学共同开发的EcSOS(大型乙烯裂解炉模拟优化系统)」

7月25日,中国石油石油化工研究院(以下简称石化院)兰州化工研究中心与清华大学共同开发的EcSOS(大型乙烯裂解炉模拟优化系统),相比其他软件,功能更强大,更适于国内乙烯原料和裂解炉复杂多变的现状,已在兰州石化和四川石化实现了工业应用。EcSOS可根据生产需求和市场变化,对原料进行快速模拟评价并获得最优的裂解操作条件,使得生产过程更柔性、更智能、更集成化,并且能实现知识获取、规模化利用与传承的完美融合;针对乙烯生产的多目标优化技术,可有效解决国内乙烯生产装置实际生产需求多变的问题。装置投料前,操作人员可先将参数输入软件,经过计算后,EcSOS会自动提交一份优化后的操作方案,按照这个方案组织生产,操作人员可以最大限度提升资源的配置效率。EcSOS的应用效发挥现有生产装置的运行潜能,促使增产、节能与降耗等目标的顺利实现,协助生产企业获得更高的经济效益。

来源:环球网


科技公司

「小红书上线“此刻”功能 可通过AIGC能力为纯文字配图」

7月25日,小红书最近推出了一项新功能“此刻”,用户可以通过该功能直接输入文字,算法会根据输入的文本内容生成一张相应的图片,用户也可以在画板上手绘涂鸦,并使用AI技术对涂鸦进行美化后发布。据悉,该功能基于AIGC相关技术开发,目前已经在最新版本的App中全量上线,用户只需点击App底部的“+”按钮、继而选择“此刻”,即可开始创作。

来源:站长之家


「光轮智能获数千万元融资,用生成式AI训练AI」

7月25日,合成数据公司「光轮智能」近期完成了天使+轮融资,累计融资金额达数千万元人民币,投资方包括SEE Fund、奇绩创坛、辰韬资本、变量资本等。光轮智能致力于为企业落地AI提供合成数据解决方案,结合生成式AI和仿真技术,为行业提供3D、物理真实、可泛化的合成数据,解决自动驾驶、具身智能发展中真实数据利用率低、标注成本高、回环周期长、长尾场景(Corner Case)缺乏等问题。目前,公司产品已经开始服务于数家自动驾驶和机器人公司。光轮智能创始人兼CEO谢晨表示,在仿真的基础上融合生成式AI,以一小部分真实数据为蓝本,通过生成式AI技术来放大数据量级,并基于自研的“端到端真实性评测算法”保证数据质量和效能,可生成高信息增量的、用于算法训练的数据。据介绍,光轮智能组建了一支生成式AI+仿真的国际领先的专家团队,凭借最多次合成数据的落地经验和独创的真实性评测算法,可保证每一帧数据都足够真实、对模型有价值输入。近期,光轮智能入选北京市通用人工智能产业创新伙伴计划,是数据伙伴中唯一合成数据厂商。

来源:36氪


「阿里云宣布支持Llama2全系列训练部署」

7月25日,阿里云推出了针对Llama2全系列版本的训练和部署方案。为了方便开发者,阿里云机器学习平台PAI对Llama2系列模型进行了深度适配,并提供轻量级微调、全参数微调、推理服务等场景的最佳实践方案。此外,阿里云还牵头发起了AI模型社区魔搭Modelscope,在该社区上提供了Llama2系列模型,开发者可以在魔搭社区的Llama2模型页面点击“Notebook快速开发”,从而一键拉起阿里云机器学习平台PAI,对模型进行云上开发和部署。此外,在其他平台下载的Llama2模型,也可以使用阿里云PAI进行开发,或通过轻量级Lora微调或全参数微调来完成Llama2模型的微调。完成微调后,PAI支持开发者通过Web UI及API的方式部署Llama2,使模型可以通过网页或嵌入应用与使用者交互。最近,Llama2大语言模型宣布开源,覆盖70亿、130亿及700亿参数版本。Llama2可以免费用于研究场景和月活7亿用户以下的商业场景,为企业和开发者提供了大模型研究的新工具。

来源:站长之家


「小冰发布基于微软Azure的新一代AI数字员工解决方案」

7月24日,微软与小冰公司共同宣布,小冰将面向亚洲地区企业客户,发布基于微软国际版Azure的新一代AI数字员工解决方案。据介绍,得益于微软国际版Azure与小冰公司的X-CoTA技术,这一解决方案可实现拟人的对话式人工智能交互、广泛的逻辑思维能力、多模态生成能力与领域专业知识,从而进一步提高AI数字员工的效能。同时,针对企业级用户在面对人工智能技术升级时搭建具体应用的痛点,这一解决方案提供了零代码的端到端定制能力和SaaS化平台,并支持跨平台多场景部署,以此帮助企业加速自身的数字化转型。

来源:环球网


「B站推出bilibili index大模型 为“搜索AI助手”功能提供技术支持」

7月24日,近日,B站宣布推出bilibili index大模型,并且为目前正在内测的“搜索AI助手”功能提供技术支持。据悉,B站“搜索AI助手”是B站在7月初推出的一个内测功能,通过AI助手,用户可以快速准确地搜索到自己需要的内容。当在搜索框内搜索问句,或在搜索词后输入“?”即可体验新功能。

来源:站长之家 


「中信集团与中企通信持续夯实“云网智安”底座能力 构建通信大模型」

7月24日,在2023年世界人工智能大会(WAIC 2023)上,中信集团举办了AI+产融协同发展论坛,并发布《人工智能十大发展趋势》。其中,在本次中信国际电讯展区的智赋“一带一路”展示中,详细呈现了中信国际电讯CPC和中企通信通过“云网智安”数字化底座助力“一带一路”沿线国家发展所取得的成果。二者在原有“云网安”业务之上深入叠加“智”的能力,从一开始的检查网络是否存在异常的智能化分析,到按照客户业务需求进行沙盘演练从而明确网络部署需求,再到在WAIC展出的“AR+AI”成熟落地的智能化运维服务应用。该智能化技术有效帮助客户降低运维成本,提高工作效率,降低安全风险。除此之外,中企通信此次展示的“元宇宙多人协作平台-AR(增强现实)互动场景”方案,将数字创新技术与企业实际业务相融合,通过XR技术与AI技术对物理空间进行扫描、映射与增强,叠加数字空间,打造企业智能化数字空间与商业操作系统,通过在虚拟世界的分析、关联、模拟与强化,来优化现实世界的效率。中企通信首席副总裁骆嘉钊介绍,这一“AR+AI”解决方案是中企通信已经实际商用的技术应用,现场人员在佩戴AR眼镜后,远程的技术专家可通过自身佩戴的AR眼镜查看到现场人员所能看到的实况,其中包括现场环境情况及产品零部件的相关技术参数的实时运行数字,从而提供操作指导意见。

来源:C114通讯网


「网易用iSpeech技术打造首个AI复原听障人士原声工具」

7月24日,近日,网易集团、网易公益联合浙江省残疾人福利基金会发起“人生第一句”声音复原公益计划,利用网易互娱AI Lab的iSpeech技术打造首个AI复原听障人士原声的工具。听障人士仅需在「音书 APP」上传2分钟没有完整语义的发声片段,之后在产品中输入想要表达的文字,就可以用原本的声音说出来。目前该产品已向全国听障人士免费开放,帮助他们无障碍、有情感地与外界交流,用自己的声音说出“人生第一句”。此次研发历时两个月,网易互娱AI Lab研发团队用上了iSpeech技术,基于海量数据的预训练模型,加上听障人士极少量的纯语音数据快速微调算法模型,在快速克隆新的说话人音色的同时,保留基础模型的内容发音能力。据了解,此次运用的iSpeech技术原是由网易互娱 AI Lab 针对游戏场景推出的 AI 创作工具,已落地服务于《大话西游》《一梦江湖》《荒野行动》等 10 余项游戏项目产品之中。未来,网易团队希望利用AI技术,赋予合成语音以情感表达能力,让听障人士通过语音传递更丰富的情感。

来源:36氪


「妙鸭相机:9.9元定制AI写真 隐私保护引争议」

7月24日,近日,未序网络科技(上海)有限公司开发的AI写真小程序“妙鸭相机”引起众多消费者注意。根据妙鸭相机的流程,用户上传一张清晰的正面照以及至少20张多光线、多视角、多表情的上半身照片,可先生成一个数字分身。基于数字分身,选择自己喜欢的模板,就可得到一套AI写真。然而,保障用户隐私和数据安全成为妙鸭相机的最大争议点。根据妙鸭相机之前的用户协议,“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”。遭受广泛质疑后,妙鸭相机将用户协议更正为“您所上传的照片将仅用于本服务使用,我们仅提供图像处理服务,不会提取识别信息,不会用于识别用途,服务完成后,系统将自动删除上述信息,不予留存”。

来源:北京日报


前沿研究

「华为与人大教授团队合作提出基于昇思MindSpore AI框架的物理编码递归卷积神经网络」

7月25日,华为与中国人民大学高瓴人工智能学院孙浩教授团队合作,基于昇思MindSpore AI框架提出了物理编码递归卷积神经网络(Physics-encoded Recurrent Convolutional Neural Network,简称PeRCNN),该成果已在《自然》杂志子刊《Nature Machine Intelligence》上发表,相关代码已在开源社区Gitee的MindSpore Flow代码仓开源。PeRCN相较于物理信息神经网络、ConvLSTM、PDE-NET等方法,模型泛化性和抗噪性明显提升,长期推理精度提升了10倍以上,在航空航天、船舶制造、气象预报等领域拥有广阔的应用前景。为在缺少有效数据的情形下,得到具有高精度、鲁棒性、可解释性和泛化性的结果,华为与孙浩教授团队合作,利用昇腾AI澎湃算力、依托昇思MindSpore AI框架开发了物理编码递归卷积神经网络,实现了对非线性PDE的精确逼近。PeRCNN能够作为一项有效的工具帮助人们从不完善和高噪声的数据中准确可靠地发现潜在的物理规律流体力学、气象、海洋等学科中,存在湍流、激波等强非线性现象,传统数值方法的求解需要大量计算资源,当前AI已经在飞行器流场、中期天气预报等问题中展现出极大的潜力,PeRCNN具备高精度、泛化性强和抗噪性强等特点,将有望在这些领域突破传统计算瓶颈,加速工业仿真和设计,成为AI+科学计算领域的新利器。

来源:环球网


元宇宙

「星空华文首款元宇宙应用“Sing! Meta耀音”产品」

7月25日,《中国好声音》制作公司星空华文近日宣布推出由与上海奥那科技(Nfkings)共同开发的首款元宇宙应用“Sing! Meta耀音”产品,预计将于年内上线。据悉,中国好声音元宇宙根植于《中国好声音》的IP内容及现有粉丝基础,并融合Web3游戏,旨在充分释放这档老牌爆款节目IP在元宇宙及AIGC领域的发展潜力。该平台将为用户提供沉浸式演唱作品录制功能,用户可以选择自己喜欢的作品上传,供观众欣赏。天使投资人、资深人工智能专家郭涛表示,“Sing!Meta耀音”打破了屏幕的阻隔,实现虚拟和现实有机融合在一起,参与者可以置身虚拟舞台场景沉浸式进行音乐创作与演唱表演,也可以与参赛歌手进行全新的互动交流。

来源:36氪

国际动态

政府监管

「Worldcoin发行几天后可能面临英国数据监管机构的调查」

7月25日,据路透社报道,新推出的备受争议的加密货币和ID项目Worldcoin可能面临英国数据监管机构的调查,因为它引发了对隐私和关键生物识别数据安全的担忧。英国数据监管机构信息专员办公室(ICO)承认在该国启动了加密项目,并表示将对该项目进行审查,并就数据法进行进一步调查。

来源:Cointelegraph


「美国两党参议员对人工智能被用以制造生物武器的可能性表示担忧」

7月25日,美国民主党和共和党参议员人工智能被恶意使用表示担忧,尤其是人工智能被用以制造生物武器。在参议院司法委员会一个小组委员会的听证会上,人工智能公司Anthropic的首席执行官Dario Amodei表示,人工智能可以帮助欲行不轨的开发者开发生物武器,其在公司与生物安全专家合作的一项关于人工智能引发的生物风险的研究中发现,人工智能工具可以补充生物武器生产中的某些步骤,因而能让更多的人实施大规模生物袭击,对美国国家安全构成严重威胁。小组委员会主席Richard Blumenthal对此表示,其将借助此次听证会为人工智能制定法律,为相关立法奠定基础。

来源:路透社


「布林肯与雷蒙多:要塑造AI的未来,我们必须迅速行动」

7月24日,美国国务卿布林肯和美国商务部部长雷蒙多在英国《金融时报》发表联合署名文章,表示面对当前最先进的科技人工智能,必须迅速采取行动,人工智能的未来取决于我们如何使用,而非是否使用。首先,文章指出,像GPT-4这样强大的生成式AI系统正在引领这项技术的新时代,也正在彻底改变知识的生产,极高地提高了机器生成原创内容、执行复杂任务和解决重要问题的能力;同时,其还大大降低了人们获得AI技术及其好处的障碍。其次,文章指出,这个新时代也存在严重的潜在危险,包括:AI产生虚假信息、强化偏见和歧视、被滥用于压制或破坏稳定的目的、或扩散知识以制造生物武器或进行网络攻击的风险。再次,布林肯和雷蒙多表示,即便存在风险,但AI可以改善人们的生活,帮助解决世界上一些最大的挑战。作为推动AI革命的许多领先公司、技术和人才的所在地,美国有能力也有责任引领AI治理,美国已经采取行动指导AI的使用,为AI权利法案制定了蓝图。在未来,美国将继续通过七国集团(G7)的合作,扩大涉及AI领域的承诺;美国将与其他国家政府以及私营部门和民间社会密切合作,推进创建使人们生活更美好的AI系统的承诺。最后,布林肯和雷蒙多呼吁:为了塑造AI的未来,我们必须迅速采取行动。我们还必须集体行动,没有哪个国家或公司能够独自塑造AI的未来。尽管美国已经迈出了重要的一步,但只有在国际社会的共同关注、智慧和合作下,我们才能充分、安全地利用AI的潜力。

来源:金融时报


「日本对美国AI开发举措表示欢迎」

7月24日,就美国总统拜登和7家AI相关企业商定推进AI开发举措一事,日本官房副长官矶崎仁彦表示欢迎。矶崎提及七国集团首脑会议(G7广岛峰会)所达成协议的“广岛AI进程”,称这是“为实现基于民主价值、以人为本的可靠AI的积极输入”。他还强调“日本政府将听取民间企业和用户等广泛相关人士的意见,积极推动AI相关的国际讨论。”

来源:共同网


「马来西亚正在研究人工智能法」

7月24日,科学、技术和创新部正在研究在马来西亚监管人工智能应用的可能性,包括将此类应用程序生成的材料标记为“人工智能生成”或“人工智能辅助”。张立康部长表示,正在考虑牵头起草一项法案,其中将涉及与技术专家、法律专业人士、利益相关者和公众的磋商,以确保该法案的稳健性和相关性。张立康部长表示,由于人工智能的广泛使用,有必要将生成人工智能产生的任何材料标记为“人工智能生成”或“人工智能辅助”,以确保透明度并实现知情消费。

来源:路透社


行业自治

「“人工智能安全中心”(Center for AI Safety)研究员担任 xAI 企业顾问」

7月24日,埃隆-马斯克(Elon Musk)邀请了非营利组织“人工智能安全中心”(Center for AI Safety)的机器学习研究员Dan Hendrycks担任他的新创公司 xAI 的顾问。人工智能安全中心于5月发起了一份关于人工智能风险的声明,OpenAI、DeepMind、Anthropic和数百名其他人工智能专家的首席执行官签署了该声明。分析者认为,马斯克对Dan Hendrycks的任命意义重大,因为这是迄今为止最明确的迹象,表明世界上四个最著名、资金最充足的人工智能研究实验室——OpenAI、DeepMind、Anthropic和现在的xAI——正在将这些关于人工智能系统的生存风险或x风险的想法带给主流公众。

来源:Venture Beat


「人工智能将彻底改变业务分析师的角色」

7月24日,Forbes杂志报道了人工智能彻底改变业务分析师角色的三种方式:第一,揭示并解释数据中的发现。人工智能可以自动发现包含许多列的大型数据集中有意义的内容,并以直观的、可视化和通俗易懂的语言提供发现的信息。第二,全面地看待数据。利用机器学习从整体上探索数据,可以让分析师研究以前无法考虑的问题,还为分析师提供了一次性查看受众所有数据点的能力。第三,预先审查人工智能项目的业务影响。分析师可以利用人工智能探索数据,在投入稀缺的数据科学资源或走上没有回报的高成本道路之前,确定其他人工智能项目是否有益。

来源:Forbes


「富士通子公司开发AI语音对话系统」

7月24日,日本富士通的子公司Ridgelinez开发了生成式人工智能“ChatGPT”与人实现语音对话系统,设想用于辅助企业开会,或为员工职业生涯规划提出建议。该公司从7月下旬开始内部测试,将在检验课题基础上,对外提供该项服务。AI将参加线上会议并辅助会议进行,实时记录与会者发言,汇总讨论要点等,协助与会者决策,还能用于制作会议记录。该公司认为,AI能为员工提供咨询,基于履历和强项协助规划职业生涯。设想的使用方法是:让系统读取各种职务所需的经验和能力等人事相关信息,为力争提升技能的使用者提供培训课程的建议。该公司利用AI等新技术,为企业的数字化转型(DX)提供支持。

来源:共同网


「日本经济新闻对AI用于报道的看法」

7月24日,有关如何面对AI,《日本经济新闻》认为AI可以故意制作错误的报道和图片,也有可能于无意中采用了错误信息。这种革命性技术将成为推动媒体发展的力量,但也可能损害新闻业最为重视的读者的信赖。此前,《日本经济新闻》已经通过电子版提供基于AI的企业财报摘要,但AI不会分析或者预测业绩,且该报纸表示不会原封不动地发布由AI生成的文章和图像。

来源:日经中文网


 「演员谴责人工智能生成的“合成演员”带来的生存危机」

7月22日,代表演员和媒体专业人士的SAG-AFTRA工会联合编剧工会举行了63年来首次同时举行的罢工,其担心的问题有二:第一个问题是用演员的形象来合成演员的问题。SAG-AFTRA的首席谈判代表Duncan Crabtree-Ireland表示,人工智能给演员带来了“生存危机”,其担心自己过去、现在和未来的作品都会被用来生成可能取代他们位置的演员。第二个问题是制作背景表演者的数字复制品。由电影电视制片人联盟(Alliance of Motion Picture and Television Producers)代表的各大制片厂表示,他们将征得演员的同意,才能在该演员受雇拍摄的影片之外的任何影片中使用其数字复制品;其还希望继续沿用三维人体扫描捕捉演员肖像的做法,以创建人工智能生成的数字复制品;此外,制片厂也希望有权以符合角色、剧本和导演构想的方式,对后期制作的表演进行数字修改。SAG则认为此举是AI的越权行为,并希望在对演员的形象、肖像或声音进行任何修改之前征得同意。

来源:路透社


科技公司

「ChatGPT在包括美国在内的一些国家的Android设备上线」

7月25日,聊天机器人ChatGPT的所有者OpenAI周二表示,该软件现已面向美国、印度、孟加拉国和巴西的安卓用户开放,希望利用这一人工智能工具的普及。随着人工智能被广泛应用于内容编写和编码等任务,总部位于旧金山的OpenAI上周宣布了ChatGPT 应用程序将于7月31日登陆安卓设备,以进一步扩大其用户基础。安卓用户可以在谷歌应用商店(Google Play Store)预购 ChatGPT 应用,ChatGPT 对安卓用户免费,并可跨设备同步历史记录。用户还可以通过该应用程序访问 ChatGPT Plus(OpenAI 每月收费 20 美元的高级版本)。安卓版本是 ChatGPT 一系列更新中的最新版本,包括用于个性化输出的“自定义指令”、为 ChatGPT Plus 用户增加的消息上限以及数据分析工具(包括通过代码解释器执行代码的功能)。

来源:路透社


「由于检测准确度低,OpenAI关闭了AI检测器」

7月25日,人工智能巨头OpenAI谨慎地退出了其人工智能检测软件,理由是准确率很低。OpenAi开发的人工智能分类器于1月31日首次推出,旨在帮助教师和教授等用户区分人类编写的文本和人工智能生成的文本。然而,根据宣布推出该工具的原始博客文章,人工智能分类器已于7月20日关闭:“截至2023年7月20日,由于准确率低,人工智能分类器将不再可用。”AI Classifier是OpenAI在2023年1月推出的人工智能分类工具,可以区分人类和人工智能编写的文本。然而,该分类工具存在一些局限性,如对少于1000个字符的文本不可靠、将人类编写的文本错误地标记为AI编写的文本,以及基于神经网络的分类工具在训练数据之外表现不佳。OpenAI表示,其正在努力整合反馈,研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。

来源:Cointelegraph


「以色列公司AI21实验室推出问答引擎Contextual Answers」

7月25日,以色列初创公司AI21实验室(AI21 Labs)推出了新款人工智能引擎 Contextual Answers,企业可以在其应用程序中构建客制化的信息查询功能。AI21实验室表示,企业可以使用这款新引擎回答用户关于任何组织数据的问题。Contextual Answers的设计目的是根据组织选择上传的源文档(如帮助中心库或内部知识库),仅返回初创公司所说的完全准确、相关的答案。AI21实验室表示,这种方法意味着模型汇总是产生人工智能幻觉反应。

来源:AI Business


「大型科技公司对人工智能保持高度关注,并希望在云计算领域扭转局面」

7月24日,美国科技巨头可能暗示其云业务近一年的放缓结束,因经济复苏的迹象鼓励客户增加科技支出,而数字广告的增加也将提振利润。微软、谷歌母公司Alphabet、亚马逊和Meta平台——总价值超过6万亿美元的公司——将于本周和下周公布财报,这将是对它们高昂估值的考验,也将是对它们在对人工智能的乐观情绪推动下推动的更广泛市场反弹的考验。

来源:路透社


「据专业人士分析,Meta的Threads可能会成为Twitter的一大威胁」

7月24日,Meta Platform旗下的推特(Twitter)平台Threads被一些广告商视为比马斯克(Elon Musk)的平台更具争议性和可预测性,分析师称其最终可能会抢走营销预算。7月5日上线的Threads成为了增长最快的社交媒体平台,用户数量突破1亿,这显然是对占主导地位的微博应用Twitter的第一个严重威胁。周日,马斯克表示Twitter将重新命名并将其标识更改为X。

来源:路透社


「OpenAI的Sam Altman推出Worldcoin加密货币项目」

7月24日,由OpenAI首席执行官Sam Altman创立的加密货币项目Worldcoin于周一启动。该项目的核心产品是World ID,该公司将其描述为“数字护照”,以证明账户持有者为真人而非人工智能机器人;为获得World ID,用户必须使用Worldcoin的“球体”(orb)注册进行面对面的虹膜扫描。该项目在测试阶段已经吸引了200万用户,其正在将“orbing”业务扩展到20个国家的35个城市。Worldcoin具有重要意义,一方面,它允许World ID以一种保护隐私的方式存储在区块链上,并且不能由单个实体控制;另一方面,在生成式人工智能聊天机器人时代,World ID不仅可以区分真人和在线人工智能机器人,还可以帮助解决生成式人工智能重塑经济的问题。

来源:路透社


「随着人工智能推动数据中心需求的增长,应用数字公司对年收入充满信心」

7月24日,应用数字公司(Applied Digital)周一公布的年度营收预期高于市场预期,因人工智能的兴起推高了对其数据中心服务的需求,推动该公司股价在早盘交易中上涨18%。随着企业和消费者转向ChatGPT等生成式人工智能应用程序,从家庭作业到竞选宣传和撰写电子邮件,对数据存储和高性能计算系统(HPC)的需求也在加速增长。

来源:路透社


「微软,凯捷(Capgemini)在生成式人工智能方面合作」

7月24日,微软在年度Inspire活动上宣布,微软与凯捷(Capgemini)推出了Azure智能应用工厂,该工厂提供一套面向企业的生成式人工智能工具吗,其中包括Azure OpenAI服务,该服务包含对ChatGPT制造商技术的访问,并提供强大的代码生成工具GitHub Copilot。微软和凯捷表示,新产品“旨在通过控制安全和行业合规要求,特别是在数据处理和访问方面,加快将人工智能投资投入生产。”

来源:Digital Terminal

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》193期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...