北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


海外智库观察

「新美国安全中心:美国应如何管控人工智能的扩散和发展人工智能监管国际合作」

2023年6月19日,新美国安全中心(Center for a New American Security,CNAS)发表其执行副总裁兼研究主任保罗·沙瑞尔(Paul Scharre)撰写的评论文章《人工智能守门员对即将到来的事情还没有准备好(AI’s Gatekeepers Aren’t Prepared for What’s Coming)》。文章指出,作者类比了人工智能和核武器的情况,随后指出了人工智能的危害以及如何管控这些危害,并对美国政府如何监管人工智能以及人工智能监管的国际合作提出了具体建议。


作者首先将人工智能的情况和核武器的做了类比。作者表示,新技术可以改变全球力量平衡,如工业革命使欧洲在经济和军事实力上突飞猛进并遥遥领先,且引发了殖民扩张浪潮;核武器将世界分为有核武器的国家和没有核武器的国家,人工智能革命也同样有使谁受益、使谁领先的核心问题。人工智能一直是一种快速扩散的双用途技术,开源的人工智能模型在网上随处可见。最近向大型模型(如OpenAI的ChatGPT)的转变正在将这种力量集中在可以负担训练系统所需的计算硬件的大型科技公司手中,而全球人工智能力量的平衡将取决于人工智能是像核武器那样将力量集中在少数行为者手中,还是像智能手机那样广泛扩散。在这个人工智能的新时代,计算硬件的获取区别了“有”与“无”,例如,ChatGPT 及其后续产品使用了大量计算硬件和成千上万的专用芯片进行为期数周或数月的训练。目前仅限于几个关键国家或地区有生产这些芯片的设备,这些国家或地区对谁能获得最尖端的人工智能能力拥有否决权。美国已经将这种依赖性武器化,切断了中国获得最先进芯片的途径,就像各国通过限制其他国家获取武器级铀和钚减缓了核扩散,控制训练大型人工智能模型所需的专用硬件也同样会影响全球力量平衡。


其次,作者指出了人工智能的危害。这些新型通用人工智能模型有可能为社会带来广泛的益处,也可能造成真正的危害。随着人工智能能力的提高和获取途径的扩散,恶意行为者利用人工智能进行网络攻击或帮助制造化学、生物武器等产生的风险十分严重。其中,人工智能目前最大的危险来自扩散。当只有少数行为者可以使用最强大的人工智能系统时,人工智能风险更容易控制,但随着功能强大的人工智能模型的激增,其有可能落入安全意识较差或意图造成伤害的行为者手中。因此,还需采取全面的方法来保护功能强大的模型,以免它们落入恶意行为者之手。人工智能模型在完成大量的计算硬件训练后会形成软件,这使得人工智能比核技术更容易普及,也更容易被泄露、窃取或在网上开源发布、进行低成本的微调、甚至是滥用。例如,今年2月,Meta 公司最新的大型语言模型 LLaMA在发布不到一周的时间内在4chan 上被泄露,使Meta 无法再谨慎地管理访问权限;在LLaMA发布后,斯坦福大学的研究人员以不到600美元的价格对其进行了微调,并将新版本命名为Alpaca,微调甚至可以剥离嵌入式安全功能和拆除防止滥用的防护栏。尽管如此,仍有一群坚定的开源倡导者在积极推动人工智能模型的进一步普及。人工智能社区的开源合作由来已久,数据集、训练有素的模型和人工智能工具都可以在GitHub和Hugging Face等在线存储库中免费共享。转移和修改训练有素的模型是非常容易的,这使人们对具有潜在危险的人工智能模型的扩散感到担忧。


随后,作者指出了进行监管人工智能的必要性,并给出具体的监管建议。尽管有许多针对特定行业的人工智能法规,但通用人工智能模型因其双重用途的能力而需要特别关注。既要获得人工智能的益处,又要降低其风险的一个关键方法就是控制对训练强大人工智能模型所需的计算硬件的访问。机器学习算法是通过芯片形式的计算硬件对数据进行训练的。硬件是在这些技术投入(算法、数据和计算硬件)中最可控的物理资源。硬件供应链有多个战略咽喉。美国、韩国、日本、荷兰等控制着全球获取最先进芯片的渠道,因此,除少数参与者外,硬件已经成为获取人工智能前沿模型的障碍。与太空竞赛或曼哈顿计划不同,人工智能研究的主要参与者不是政府,而是私营公司。因为学术界无法负担模型训练的费用而无法获得最先进的人工智能模型,但大型科技公司则有能力每年在重大科技项目上投资数百亿美元,来提高人工智能的计算能力,这可能会导致少数几家大型科技公司把控着极其强大的人工智能系统,而其他所有人都要依靠它们。随着人工智能模型的能力越来越强,对计算能力的依赖也越来越大,人工智能硬件有望成为全球战略资产。强大的军民两用人工智能正由私营公司主导开发,政府需要从旁协助,建立监管结构,以确保最强大的两用人工智能模型能够安全地建造和部署,并降低扩散风险。人工智能研究人员担心人工智能系统的目标是否与人类价值观一致的问题,此外,企业行为者的动机也没有完全与公共利益保持一致,私营部门的人工智能竞争现状存在一些不健康的动态。如谷歌、微软和OpenAI正在安全问题上“竞次(race to the bottom)”,在完全安全之前就部署人工智能模型;Meta和Stability AI则广泛共享模型,使得这些模型在没有足够防止滥用的保障措施的情况下迅速扩散。


作者提议,人工智能治理应始于硬件层面。美国政府已经对先进的芯片和芯片制造设备实施了管制,但还需对训练有素的强大模型实施出口管制,以有效限制扩散。美国及其盟国已开始采取措施锁定先进芯片的获取途径,但芯片可以通过中间商转移或出售。因此,政府应提高执法力度,增加政府资源和新的芯片追踪工具,并在数据中心监控训练模型的计算硬件,以确保被禁行为者无法积累大量受控芯片或硬件。美国目前的出口管制只适用于芯片销售,并不限制云计算公司将芯片作为服务提供,而这一漏洞可能使被禁止的行为者通过云提供商获取计算资源。因此,政府应针对云计算公司制定“了解你的客户”要求,和要求训练强大人工智能模型的人工智能公司应向政府报告有关其训练运行的信息,包括模型规模和设计、使用的数据集以及训练中使用的计算能力。随着时间的推移和安全标准的发展,政府可能会出台规范两用人工智能系统的训练运行实行许可制度,例如,经过训练的模型必须接受严格的测试,人工智能公司应接受风险评估,并允许第三方专家对模型进行敌对情况测试以找出漏洞和潜在危害,以提高模型的安全性。因此,行业和政府必须共同努力,制定安全标准和最佳实践。拜登政府最近宣布,政府网络安全专家正在与顶级人工智能实验室合作,帮助确保其模型和网络的安全。作者还指出,可能需要对功能强大的两用模型实施出口管制。因为如果被禁止的行为者可以简单地获取训练完成的模型,那么对芯片的出口管制将毫无意义。而在某些情况下,可能需要对模型的使用方式进行限制,以防止滥用。“结构化访问”是一种可能的方法,即通过云提供人工智能服务,不传播模型本身。通过这种方式可以对模型的使用进行监控,以确保模型不被用于网络攻击等非法目的。总而言之,人工智能技术正在飞速发展,各国政府必须与人工智能实验室密切合作,防止在安全性方面竞相逐低,以及潜在有害系统的快速扩散。


最后,作者就人工智能系统监管的国际合作指出,OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)最近主张建立一个“人工智能国际原子能机构”(International Atomic Energy Agency for AI,IAEA for AI),一个类似于管理核技术的国际原子能机构的全球人工智能监管体系。尽管有反对人工智能监管的声音,但美国及其盟国控制着训练强大人工智能系统所需的基础硬件,无需潜在对手同意,人工智能防扩散机制就能发挥效用。今天,中国的实验室与美国和英国的顶级实验室相差无几,但美国的出口管制可能会拉大差距,因为中国的研究人员不得不使用更旧、更慢的芯片。美国有机会通过与盟国合作建立一个全球人工智能治理制度,规定在遵守安全、安保和防扩散规定的前提下才能获得计算资源。但从长远来看,市场激励、地缘政治和技术改进可能会破坏控制扩散的努力。比如,美国的出口管制促使外国公司将供应链去美国化,减少对美国技术的依赖,从而不再受美国限制措施的影响。因此,作者建议美国政府必须谨慎使用出口管制,并尽可能在多边框架内减少对独立于美国的芯片供应链的激励。中国正在努力发展本土芯片制造产业。对芯片制造设备的多边出口管制只会减缓中国的发展,但不会永远停止。对训练完成的模型的限制可能只会减缓扩散速度,但泄漏或盗窃仍会导致模型扩散。未来,算法的改进也可能会减少训练强大人工智能模型所需的硬件,从而促进扩散。然而,减缓扩散仍然是有价值的,核不扩散努力并未完全阻止核扩散,但成功限制了有核国家的数量,并允许了和平利用核技术的传播。控制危险人工智能能力的扩散可以为提高安全标准、社会复原力或改善国际合作赢得时间。对人工智能硬件的控制可以从美国及其盟国开始逐步扩大。因此,美国不应排除与竞争国家合作以确保人工智能安全发展的可能性。中国政府在人工智能监管方面的行动实际上比美国政府更快。鉴于核不扩散方面的国际合作随着时间的推移在不断发展,并针对全球性问题增加了新的内容,全球人工智能治理也将随着时间的推移而发生类似的演变。人工智能技术发展迅速,法规必须与技术相适应,政府需要尽快提供解决方案



保罗·沙瑞尔(Paul Scharre):新美国安全中心执行副总裁兼研究主任,曾在国防部部长办公室工作,在制定无人和自主系统以及新兴武器技术政策方面发挥了主导作用。

原文链接:

https://www.cnas.org/publications/commentary/ais-gatekeepers-arent-prepared-for-whats-coming

行业舆情追踪

国内动态

政府规划

「福建设立三个省级人工智能产业园」

7月22日,在2023中国人工智能大会开幕式上,福州、厦门、泉州三个省级人工智能产业园获授牌正式成立,标志着福建人工智能产业进入集群发展新阶段。其中,福州园区以福州新区为承载区,以福州市区产业基础较为成熟的部分区域为先行区,园区规划用地面积约2.05平方千米,将重点做强做优智能芯片、机器视觉、智能识别、智能机器人等优势赛道,面向医疗健康、智慧城市、智能制造等重点领域,打造人工智能技术创新策源地、集聚发展示范区、开放合作重点区。厦门园区设在厦门软件园三期F片区,规划用地面积1.05平方千米,研发楼面积95.3万平方米,重点依托厦门市现代化产业体系,大力拓展应用场景,打造无人驾驶、智慧安防、智慧交通、智慧医疗、智慧军事等优势和特色智能产业集群。泉州园区以泉州数字经济产业园为研发制造基地,以数字福建(安溪)产业园为算力支撑,规划用地面积4.14平方千米,总建筑面积248万平方米,立足智能制造优势,聚焦纺织鞋服、建材家居、机械装备、食品等优势行业,通过人工智能赋能中小企业,打造“AI(人工智能)+现代制造”应用高地。下一步,福建省将聚焦优势领域和发力重点,加强重点项目和领军人才引进,深化产学研用结合,形成一批人工智能与经济社会发展深度融合的典型模式,不断推动人工智能加速赋能实体经济。

来源:环球网


「工信部:着力推动大模型算法、框架等基础性原创性技术突破」

7月19日,在国务院新闻办公室今日举行的新闻发布会上,工业和信息化部新闻发言人、总工程师赵志国透露,目前,我国新增算力设施中智能算力占比过半,同时中西部算力设施占全国比例提升至39%。下一步,还将着力推动大模型算法、框架等基础性原创性技术突破。赵志国表示,工信部将在前期工作基础上,重点从以下三个方面着手:一方面,持续推动算力基础设施建设。出台指导算力基础设施高质量发展的政策文件,加大高性能智算供给,加强先进存储产品部署,开展算力网络优化行动,加快构建云边端协同、算存运融合的一体化、多层次的算力基础设施体系。指导有关单位和地方积极探索,加强算力资源统筹和互联互通,实现资源高效集约利用。另一方面,聚力推进关键核心技术攻关和产业升级。加强先进计算、算网融合等技术研究和核心器件、设备攻关,着力推动大模型算法、框架等基础性原创性技术突破,提升产业基础高级化水平此外,激发算力应用赋能价值。面向人工智能、大数据等新兴领域需求强化算力支撑,持续赋能科技创新。鼓励企业推出满足不同行业和企业需求的算力产品和服务,通过算力应用创新大赛、“算力中国行”等活动加强宣传推广,持续助力传统行业转型升级。

来源:人民网


「科技赋能“江南粮仓”农业“智慧”转型」

7月19日,近年来,农业大省江西采用PPP模式,自上而下整省推进智慧农业建设,通过引入社会资本方,化解IT人才、技术革新、资金筹措等多方面难题,形成了全省农业农村系统共建互用的一套数字服务平台体系,为农业插上科技的“翅膀”。据了解到,江西完成了该省农业农村大数据中心、智慧农业体验中心,以及生猪、水稻、柑橘、渔业、茶叶五个单品种大数据建设,具备农业农村大数据采集、建模、分析、应用及对外服务功能,可为10万家新型农业经营主体提供数字化发展的云端支持。此外,江西还建成全省农业物联网平台,实现253家现代农业示范园和企业的视频图像、环境参数等生产数据与该平台有效对接,已有近600家农业企业或基地应用了物联网技术,节本增效提升率达到13%以上。围绕农产品流通信息化,江西搭建了“赣农宝”电商平台,汇集全省“两品一标”名特优农产品,一站式呈现、一站式采购,并完成“赣农宝”2.0版升级,实现免费进驻(开店)、产品推介、网上交易、产品溯源、直播带货等新型流通业态。通过科技赋能,江西农业高质量发展取得新成效。数据显示,2022年,江西全省农林牧渔业总产值达4213.8亿元,首次突破4000亿元。

来源:中国新闻网


政–产–学研合作

「联想与百度“文心一格”达成AIGC合作 推出AI定制产品服务」

7月20日,联想宣布与百度在AIGC领域达成深度合作,推出ICT首家AI定制服务。联想官网私人定制业务全面引入百度文心一格,消费者可通过官网AIGC主题绘画活动定制笔记本电脑外观。针对消费者对笔记本性能和外观不同偏好需求,联想官网私人定制服务分为高配定制服务及外观定制服务:高配定制服务可根据使用需求,实现拯救者游戏本、ThinkBook等硬件配置的全面升级;外观定制服务可定制笔记本A面喷绘和C面刻字。此前A面喷绘支持官网图库和用户自定义上传图片两个选项,即将全面接入百度文心一格后,用户使用私人定制服务,在原有的“A面喷绘”与“C面刻字”、“个人图库”基础上,增加“AI绘制图片”选项,点击即可进入AI页面进行AI自定义生成图片。在百度AI能力的加持下,消费者可以在联想官网买到拥有自己创作的独一无二外观的笔记本产品。

来源:光明网


国际合作

「中方在安理会首次人工智能问题会议上提出治理五原则」

7月18日,联合国安理会举行主题为“人工智能给国际和平与安全带来的机遇与风险”高级别公开会,中国常驻联合国代表张军提出关于人工智能治理的五条原则:一是坚持伦理先行,二是坚持安全可控,三是坚持公平普惠,四是坚持开放包容,五是坚持和平利用。张军表示,要逐步建立并完善人工智能伦理规范、法律法规和政策体系。要强化风险意识,建立有效的风险预警和应对机制,确保不发生超出人类掌控的风险,确保不出现机器自主杀人,确保在关键时刻人类有能力摁下停止键。张军表示,要重点挖掘人工智能在促进可持续发展、推动跨领域融合创新等方面的潜力,更好赋能全球发展事业。安理会可以深入研究人工智能在冲突局势中的应用和影响,采取措施丰富联合国的和平工具箱。

来源:中国新闻网


行业自治

「2023中国互联网大会人工智能(AI)安全论坛发布业界首个《共建安全大模型高质量数据集倡议书》」

7月20日,在2023(第二十二届)中国互联网大会AI安全论坛上,天翼安全科技有限公司(简称“电信安全”)发布了业界首个《共建安全大模型高质量数据集倡议书》并推出了“阡陌安全数据集”,旨在与业内伙伴共同探索人工智能时代下的安全行业健康发展新理念、新思路。该倡议鼓励安全领域的组织共享其积累的高质量安全数据集,将“数据共享、质量为先、有效流通、合法合规”作为整体指导方针,通过共建安全大模型高质量数据集,促进AI安全产业的合理有序发展。中国电信总经理刘紫千强调,大模型应用到安全领域,主要面临准确性、专业性和时效性三方面的难点问题,电信安全当前的愿景是推出及持续运营一个安全领域的ImageNet——“阡陌安全数据集”,其提供统一平台,汇集行业专家,共筑安全语料,服务国家安全。

来源:环球网


科技公司

「WPS 人工智能(AI)全新升级,宣布推出新组件、新视觉、新能力」

7月21日,WPS 办公软件宣布推出全新的AI功能。包括 WPS AI 智能助手、全新的组件功能、更新的视觉设计和协作功能。首先,WPS AI智能助手可以根据用户的习惯和需求,智能推荐最常用的功能和操作,提供更加个性化的办公体验。通过与用户的互动学习,WPS AI能够逐渐了解用户的工作习惯,提供更加智能化的办公辅助功能。其次,WPS也新增了更多实用的组件,如数据分析组件、图表组件等,用户可以根据自己的需求灵活选择并使用。这些组件不仅可以提高工作效率,还能让用户更加直观地展示数据和信息。最后,视觉设计方面,WPS 进行了全面的更新和升级。全新的视觉风格更加简洁、现代,给用户带来更好的视觉体验。同时,界面操作也更加简单直观,让用户能够更快上手并熟练使用各项功能。WPS 还加强了协作功能,使团队协作更加高效。用户可以通过 WPS 进行实时协作编辑、评论和反馈,方便团队成员之间的沟通和协作。同时,WPS 还提供了更多云端存储和分享的功能,方便用户随时随地访问和共享文档。

来源:站长之家


「腾讯音乐推出人工智能(AI)社交APP“未伴”」

7月20日,据Tech星球报道,腾讯音乐旗下一款名为“未伴”的AI社交APP在近期开启测试。未伴是一个集AI陪聊、AI伴侣写真等多个功能于一体的AI聊天产品。进入产品首页后,用户需要选择一个AI伴侣,也可以由自己来创造。在首页点击“专属陪伴,即可生成”的按钮后,即可进入Al伴侣生成界面,可选择二次元、霸总、真实风(仿真人模板)等Al伴侣初始模板。确定好模板后,需要对AI人设进行调整。另外,未伴APP还可以为AI伴侣生成专属智能画作,以此丰富AI伴侣的虚拟世界。据悉,未伴APP在未来还会增加创作者平台和虚拟社区,丰富产品体系和提升体验。

来源:站长之家


「拉勾招聘推出首个实现广泛应用的人工智能(AI)招聘产品HRMind」

7月20日, 拉勾招聘宣布上线AI智能招聘助手产品“HRMind”。据介绍,这是在招聘行业内,首个基于预训练大模型实现广泛应用的招聘场景产品。HRMind是拉勾招聘根据数十万精英HR的招聘经验,采用了最先进的预训练大模型,自研打造的人工智能招聘助手,可处理对话聊天、智能问答等多轮交互沟通。通过HRMind,企业HR可以更加高效地完成招聘流程,节省时间和精力。未来,该产品还将实现帮助HR模拟面试、分析求职者简历等功能。目前该产品可供招聘者免费使用。招聘者进入拉勾企业端后台,点击“发布新职位”,将自动接入与HRMind的对话框,根据提示输入招聘需求后,HRMind将会自动生成一段丰富的岗位招聘启事,不仅包含描述的核心信息,还会自动补充专业技能方面的要求,并且条理清晰的排列好招聘简介。目前,HRMind已在拉勾招聘网页端上线,移动端也将于近期同步上线。除了HRMind,拉勾还于此前推出了招聘产品SmartATS,该产品可支持一键收取多个招聘平台简历,协助HR批量处理简历,提升招聘效率。

来源:TechWeb


「阅文集团正式发布“最懂网文”的阅文妙笔大模型」

7月19日,阅文集团正式发布阅文妙笔大模型。据悉,阅文妙笔是国内第一个网文大模型,将来会持续升级,以AIGC全面赋能创作生态和IP生态。该大模型服务于阅文的创作者,辅助作家创作,包括辅助人设、世界观、力量体系构建等。早在今年6月,阅文集团CEO侯晓楠就已发布全员内部信,称将成立重点项目组集中攻坚AIGC技术及其场景应用。阅文集团将构建四大事业部及三大管理线,共同推动战略落地。其中,“内容生态平台事业部”,运用AIGC技术,深耕文字、有声、漫画、动画、衍生品等内容生态及IP产业链,建设多模态的IP体验和消费平台;“智能与平台研发事业部”负责AI大模型等核心技术攻坚,并持续将技术储备转化为AIGC赋能内容创作生态的场景应用。通过智能、数据、工程、设计、增长通用中台的能力建设,支撑大平台业务发展。

来源:站长之家


「美团入股大模型公司智谱人工智能(AI)」

7月19日,近日,中文认知大模型平台智谱AI关联公司北京智谱华章科技有限公司股东新增美团旗下天津三快科技有限公司,注册资本由约1480.69万人民币增至约1652.86万人民币。据悉,智谱AI是由清华大学计算机系技术成果转化而来的公司,致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B,并构建了高精度通用知识图谱,形成数据与知识双轮驱动的认知引擎,基于此模型打造了ChatGLM(chatglm.cn)。此外,智谱AI还推出了认知大模型平台Bigmodel.ai,包括CodeGeeX和CogView等产品,提供智能API服务。

来源:站长之家


「作业帮实现“AI伴学”携教育数字化产品及服务亮相中国互联网大会」

7月18—20日,以“促进数实融合 赋能千行百业”为主题的2023中国互联网大会在京启幕,作业帮携智能硬件、智能图书、智慧教育等数字化产品及服务亮相,其中包括首创AI老师一对一诊断规划的作业帮学习机;融合AI伴学理念,可实现指尖点读查词、语音百科问答、定时提醒等AI伴学功能的作业帮AI学习桌;拥有“试卷还原+无墨打印”两大黑科技的喵喵机学习打印机;利用碎片化时间高效背单词的喵喵机单词卡等。作业帮CTO罗亮受邀出席数字化转型发展论坛,并作题为《数字引领教育未来》的主题演讲。罗亮表示,“作业帮将一如既往地坚持‘教育+科技’双引擎战略,持续助力教育数字化转型与高质量发展”。

来源:环球网


技术应用

「可视化管理平台为成都大运会场馆保驾护航」

7月19日,第31届世界大学生夏季运动会开幕在即,可视化管理平台用数字技术为凤凰山体育馆“健康”运行保驾护航。该平台以数字孪生技术为底座,将场馆建筑结构和各设施设备位置布局完整、精准地还原在体育馆虚拟仿真空间模型上。三维模型与数据有机结合,实现了二维平面到三维立体的全新数字化应用升级。场馆安防态势、设备状态、客流、故障及告警等全要素数据一张图呈现,综合态势一张图管理,业务功能一体化应用,有效帮助管理者全面掌控场馆运行状态。该平台技术开发负责人杨惊涛介绍,平台集成的安防系统可以实时、动态、可视地查看场馆内安防设备的具体位置与状态情况,由传统的画面寻位置的视频监控管理模式转变为可查询指定位置的具体画面。平台还可根据不同风险等级向管理人员实时推送告警信息,提升处置效率。从实际运行情况看,该平台使整个体育场馆的能耗消耗降低约15%,设备运行效率提升约20%,设备生命周期延长约20%,运维成本减少约30%。据了解,该平台还在智慧医院、智慧园区、智慧高铁站等场景得到应用。

来源:上观新闻


前沿研究

「中企取得图计算引擎新突破 每秒可处理3万次查询」

7月21日,国际权威图基准测评“LDBC SNB Interactive”榜单更新中出现关键突破:阿里云开源图计算引擎 GraphScope 登顶并打破榜单历史纪录,其单节点执行图数据库查询的吞吐率超过30000 QPS,性能达此前纪录保持者2倍。据了解,图数据是用点和边的抽象表示事物之间关系的数据类型,在社交网络、电商、金融、通信、交通等领域有广阔应用前景。目前,GraphScope Flex架构是GraphScope下一代演进方向,针对图数据相关业务的多样化和碎片化,GraphScope Flex允许用户根据业务场景灵活选用组件,从而得到最适合其场景的部署形态。据了解,阿里云GraphScope具有一站式、开发便捷、性能极致的特点,已于2020年开源。它在业界首次支持Gremlin分布式编译优化,提供了各类高效图分析算法和图学习算法,并支持用户自定义算法的即插即用。未来,GraphScope 团队将进一步在GraphScope Flex架构下帮助用户搭建高效的图数据库、图分析引擎或图学习系统等能力,GraphScope Flex的其它部署形态也将陆续发布。后续GraphScope Flex相关能力还将应用于阿里云图计算产品。

来源:环球网


自动驾驶

「华为云发布自动驾驶开发平台基于盘古大模型打造」

7月21日,华为云自动驾驶开发平台正式发布,该平台基于盘古大模型和ModelArtsAI开发生产线,提供了数据生成、自动标注、模型训练、云端仿真、虚实结合仿真、数据闭环等一系列能力,帮助车企和商用车企业加速自动驾驶算法的开发验证和优化迭代,降低成本和风险,提升效率和安全性。据悉,车企可以基于盘古训练出自己需要的模型,该平台预集成了超过25万个场景库,包括500多类功能场景和200多项测评指标体系,将传统纯实车测试时的场景搭建工作从数天降低到分钟级。目前,该平台已经应用在长安、一汽等多个车企以及矿用卡车、港口ART、专线物流重卡等商用车场景。

来源:站长之家

国际动态

政府监管

「加拿大高级网络官员表示,人工智能被用于黑客攻击和虚假信息」

7月21日,加拿大高级网络安全官员表示,黑客和宣传人员正在利用人工智能(AI)制作恶意软件,起草以假乱真的网络钓鱼邮件,并在网上传播虚假信息。初步证据表明,席卷硅谷的技术革命也已被网络罪犯利用。加拿大网络安全中心负责人Sami Khoury表示,该机构已发现人工智能被用于“网络钓鱼电子邮件,或者以更有针对性的方式撰写电子邮件,编辑恶意代码,传播错误信息和虚假信息。”

来源:路透社


「英国军情六处:人工智能无法取代真人间谍」

7月19日,英国军情六处(MI6)负责人Richard Moore表示,人工智能或将改变“间谍界”,但无法取代对真人间谍的需求。Richard Moore将在布拉格就俄罗斯和伊朗对西方的威胁发表讲话,他在讲话稿中表示,在机器学习迅速发展的时代,“人的因素”仍至关重要,随着人工智能对海量开源信息进行搜索,发现它难以触及的那些秘密就显得愈发重要。Richard Moore还表示,其团队正在使用人工智能来增强他们对人们在各种情况下可能行动的判断,这项技术在未来可能能够比人类更好地预测人类行为。

来源:Euronews、新华社


「欧盟的人工智能游说闪电战在亚洲反响冷淡」

7月19日,来自欧盟和亚洲的高级官员表示,欧盟正在游说亚洲国家效仿其在人工智能领域的先例,为科技公司制定新规则,包括披露受版权保护的内容和人工智能生成的内容。该官员表示,欧盟及其成员国已派出官员与印度、日本、韩国、新加坡和菲律宾等至少10个亚洲国家进行讨论,以规范人工智能的使用。

来源:路透社


「美国国会调查美国公司对中国人工智能和半导体公司的投资」

7月19日,美国众议院中国特别委员会就四家美国风险投资公司对中国人工智能和半导体公司的投资展开调查。美国众议院“中国问题特别委员会”(The House Select Committee on the Chinese Communist Party)致函纪源资本(GGV Capital)、金沙江创投(GSR Ventures)、华登国际(Walden International)以及高通公司旗下投资部门高通创投(Qualcomm Ventures)四家美国风投公司,要求他们提供有关其在中国投资的信息,并要求于8月1日前答复。该委员会表示,美国公司的投资直接帮助了中国取代美国技术领导地位,其中,金沙江创投已投资与中国军方相关的公司,例如专门从事人工智能芯片的地平线机器人公司(Horizon Robotics)。

来源:路透社


政府规划

「马来西亚电信公司完成入股5G机构的谈判」

7月20日,CelcomDigi、明讯通讯(Maxis)、马来西亚电信(Telekom Malaysia)、U Mobile和YTL Communications将入股国家5G机构Digital Nasional Berhad(DNB),这是在公司与政府就股权参与和5G接入达成协议后做出的决定。该消息发布之际,移动运营商和政府即将结束有关马来西亚5G推出计划的长期谈判。2021年,马来西亚宣布,国有DNB将拥有全部5G频谱,运营商将使用该基础设施提供移动服务。但该计划引起了业界对定价、透明度和垄断行为的担忧。去年10月,移动运营商同意收购DNB70%的股份,以解决僵局。然而,去年11月选举后上台的总理Anwar Ibrahim宣布对政府的5G计划进行审查,此后,该协议失效。今年5月,政府表示,明年DNB的覆盖率达到80%的人口地区时,将允许第二家5G运营商加入。通信部在一份声明中表示,电信公司将采取适当的治理措施来完成DNB的股权交易。不过,其中未提供有关股权分配或交易价值的详细信息。

来源:路透社


「日本政府顾问表示,日本需要提高计算能力(computing power),以保持在人工智能竞争方面的优势」

7月20日,日本首相岸田文雄的人工智能特别顾问Hideki Murai表示,日本需要迅速提升计算能力,以成为人工智能领域的全球领导者。“政府的首要任务是计算能力。我们对此感到真正的危机感,”作为执政的自民党议员、政府人工智能战略团队负责人,Hideki Murai在接受路透社采访时称,“我们希望为人工智能时代奠基。”

来源:路透社


「俄罗斯联邦储蓄银行首席执行官告诉普京,人工智能投资回报巨大」

7月19日,俄罗斯联邦储蓄银行(Sberbank)首席执行官German Gref对俄罗斯总统普京表示,该银行每年从人工智能中获利约30亿美元,投资回报率约为200%。微软(Microsoft)支持的初创公司OpenAI等公司在生成式人工智能方面取得的进展,使人们对人工智能为商业和社会带来的潜在益处感到无比兴奋。由于受到西方制裁,俄罗斯不得不独立发展这项技术。

来源:路透社


行业自治

「Salesforce调查:86%的IT领导者认为生成式人工智能发挥关键作用」 

7月21日,Salesforce最新的“IT现状”(State of IT)调查采访了4000多位IT行业领导者,86%的IT领导者表示生成式人工智能将在组织中发挥“突出”作用。分析人士认为,受访者的乐观情绪源于对生成式人工智能可以推动组织生产力、效率和创新的信心。同时调查还发现,三分之二的受访者认为生成式AI在准确性、偏见、有害性、安全性、隐私等领域存在道德问题。

来源:AI Business


「密歇根大学法学院禁止申请人在申请中使用ChatGPT」

7月21日,密歇根大学法学院已成为第一所明确禁止在招生申请中使用人工智能工具(如ChatGPT)的法学院,申请人需要证明其在撰写文书的过程中没有使用人工智能工具。学校警告称,如果在声明中提供虚假陈述,可能导致录取资格被撤销或开除。尽管目前其他学校暂未实施此类禁令,但该法学院招生顾问Mike Spivey预测,今年将有一半的法学院推出某种形式的人工智能政策,几乎所有学校都会在明年之前出台政策。密歇根大学法学院高级助理院长Sarah Zearfoss表示,对申请人明确人工智能禁令并要求他们作出声明“是正确的做法”。然而,并非所有学校都一定会禁止使用人工智能,有些学校仅要求申请人披露他们是否在申请中使用了该技术,例如加州大学伯克利分校法学院选择不明确禁止ChatGPT,但并未排除将来可能会要求申请人签署声明,确认其没有使用AI。

来源:路透社


「英国工会联盟(TUC):工人需要更多来自人工智能的保护」

7月20日,根据英国工会联盟(Trades Union Congress,简称“TUC”)数据,英国在保护工人免受人工智能(AI)侵害方面落后。欧盟正在实施人工智能法案,英国则没有任何具体的法规来管理人工智能在就业方面的使用。TUC已要求一个工作组起草法律保护措施以解决这种情况。英国政府表示其致力于改善和维护工人权利,商界领袖亦对人工智能在刺激创新、提高生产力和改善客户服务方面的潜力表示肯定,但工会表示非常担忧英国就业法的发展未能与人工智能革命保持同步。

来源:BBC


科技公司

「ChatGPT Plus可用“自定义指令”,提升消息上限,扩展API支持」 

7月22日,OpenAI宣布将ChatGPT-Plus用户使用GPT-4每三小时可以发送的消息数量增加一倍。最近添加了代码解释器之后,ChatGPT Plus用户还可以访问数据分析工具。OpenAI为高级用户提供了一个插件工具,使ChatGPT能够执行代码,而不仅仅能生成代码。此外,OpenAI推出了“定制指令”功能,让ChatGPT Plus的订阅用户可以自定义聊天机器人的输出内容。使用“定制指令”,用户可以确保ChatGPT遵守特定规则,例如要求聊天机器人以特定的语音和风格生成文本,或以统一的格式生成代码。使用“定制指令”时,ChatGPT每次做出回复都会考虑该指令,这意味着用户不必在每次提示中重复设置要求。使用新的指令选项也适用于插件。据悉,该功能将在“未来几周”内扩展到所有用户。

来源:AI Business


「苹果正为Apple GPT构建名为“Ajax”的人工智能框架」 

7月21日,据悉,苹果公司内部正在开发一项名为“Apple GPT”的基于Web应用程序的聊天机器人。该聊天机器人工具与ChatGPT、Bard类似,被苹果员工用来协助产品原型设计。彭博社报道称,苹果工程师已经建立了名为“Ajax”的框架来创建大型语言模型,该框架建立在谷歌的机器学习框架Google Jax之上。据悉,苹果的聊天机器人应用程序基于Web应用程序运行,目前采用精简设计,暂不面向公众开放。此外,在开发自家工具的同时,苹果对OpenAI的技术进行了试验,并考虑与OpenAI签署更大的合同。

来源:AI Business,彭博社


「OpenAI、谷歌等七家人工智能(AI头)部企业承诺:将为人工智能内容添加水印,开放第三方审查」

7月21日,美国总统拜登宣布,多家人工智能头部公司已自愿承诺将采取对人工智能生成的内容添加水印等措施,以帮助提高技术的安全性。亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI这七家公司都同意提高其系统的安全性和透明度,包括允许第三方专家对其模型进行审查,这项举措被视为拜登政府监管该技术努力的成就。美国政府表示:“正在开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力,美国政府鼓励该行业坚持最高标准,以确保创新不会以牺牲美国人的权利和安全为代价。”首先,这七家公司承诺在向公众发布 AI 系统之前,对其进行内部和外部安全测试,并与相关行业参与者、政府、学术界和公众共享信息,以帮助管理人工智能风险。这些公司还将致力于网络安全投资和内部威胁控制,以“保护专有和未发布的模型权重”,这对驱动生成人工智能的数据模型的运行至关重要。他们还同意促进第三方调查并报告系统中的任何安全漏洞。七家公司还同意采取措施提高公众对其系统的信任,包括开发一种方法来确保让人们知道,他们何时看到人工智能生成的内容,例如水印或其他措施。这些公司还将优先研究人工智能模型带来的社会风险,包括可能导致的种族歧视和其他形式的偏见,以及“隐私保护”。微软表示,其欢迎总统发挥领导作用,将科技行业集中在一起,制定具体步骤,帮助人工智能更安全、更有保障,并为公众带来更多利益。

来源:路透社、IT之家


「Marvell创始人斥资20亿美元在新加坡设立芯片代工厂」

7月20日,硅箱(Silicon Box)在总部所在地新加坡开设了一家耗资20亿美元的先进半导体制造工厂,旨在推广“小芯片”(Chiplet,又译“芯粒”)技术的应用。这家成立两年的初创公司在一份声明中表示,在新加坡经济发展委员会的支持下,这家占地73000平方米的工厂将创造超过1000个就业岗位。该公司专注于“小芯片”技术,其大小如一粒沙子,通过“先进封装”的工艺聚合而成。该技术是将小型半导体绑定形成处理器的高效方法,可以为从数据中心到家用电器的所有设备提供动力。近年来,随着芯片制造成本飙升,全球芯片行业越来越多地使用该技术,以将晶体管做得小到足以用原子数量来衡量。

来源:路透社


「澳大利亚人工智能芯片制造商BrainChip因获得美国专利而上涨11%」

7月19日,澳大利亚先进人工智能芯片制造商BrainChip控股有限公司(BRN.AX)股价上涨近11%,创下六周以来最好的记录。此前该公司在美国获得了一项神经形态处理器的专利授权。神经形态处理器模仿大脑的工作方式,并允许设备使用来自物理神经元的信号进行计算。截至格林威治标准时间3时37分, BrainChip股价上涨7.4%,达到0.3975澳元,为6月19日以来的最高水平,是ASX 200基准指数(.AXJO)中涨幅最大的股票。

来源:路透社


「谷歌正在与出版商谈判,探索面向记者的人工智能工具」

7月19日,谷歌发言人周三晚间表示,该公司正在探索使用人工智能工具撰写新闻文章,并正在与新闻机构进行谈判洽谈使用人工智能工具协助记者工作。这位发言人没有透露出版商的名字,但《纽约时报》报道称,谷歌已经与《华盛顿邮报》、《华尔街日报》母公司新闻集团(News Corp)、甚至《纽约时报》等媒体进行了讨论。谷歌内部将这种人工智能工具称为“Genesis”,并认为这些人工智能工具可以帮助记者拟写标题或生成不同的写作风格等,从而提高记者的工作效率。然而,《纽约时报》称,一些高管认为这令人不安。新闻集团发言人拒绝就《纽约时报》的报道或人工智能工具发表评论,但表示,其与谷歌有着良好的合作关系,其赞赏谷歌首席执行官Sundar Pichai对新闻业的长期承诺。

来源:路透社


「Teladoc扩大与微软的合作以利用人工智能(AI)实现医疗临床记录自动化」

7月18日,Teladoc公司表示,其正在扩大与微软的合作伙伴关系,利用微软的人工智能服务以实现其远程医疗平台上的临床记录自动化。Teladoc将整合包括微软的OpenAI在内的人工智能服务,将有助于减轻医疗工作人员在远程检查过程中的负担。Teladoc还将使用微软的GPT4 AI服务,用于自动记录患者的就诊情况,并供临床医生进行最终审查和签字。

来源:路透社


技术应用

「二手奢侈品在日需求高涨,人工智能(AI)把关辨真伪」

7月21日,日元贬值和通货膨胀等导致高档包等海外奢侈品在日本持续涨价,新商品变得越来越高不可攀,收购后再售卖的二手商品需求因此高涨。随着需求增加,仿制品开始大量涌入市场,其仿制的精致程度也在不断提高。鉴于此,日本已开始尝试用AI技术鉴别客人拿到店里的奢侈品真伪。日本二手奢侈品流通大企业米兵控股(Komehyo Holdings)早在2020年就引进了鉴定商品真假的“AI真伪”系统,其鉴定准确率最高达到99%。KOMEHYO的鉴定师在回收二手品时,首先会确认客人带来商品的“商品信息和型号”,然后对其是否为正品进行“真伪检查”,接着是“状态检查”,最后计算出回收价格。其中“鉴别商品信息和型号”和“真伪检查”由AI辅助进行。AI真伪系统通过平板终端来拍摄要鉴定的商品,锁定型号,再通过专用相机依次确认因型号而异的真伪检查点,并参考过去的回收数据等,最后由AI来鉴定是否为仿制品。以前鉴定真伪主要依靠熟练员工的“出众技能”。但积累足够的经验需要时间,技术经验的传承也并非易事,如今即便只借助AI判定型号,也能节省时间和劳力。

来源:日经中文网

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》192期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...