亚马逊云科技与英伟达扩展合作 持续推进生成式AI创新
- 亚马逊云科技将提供基于NVIDIA Grace Blackwell GPU的
Amazon EC2实例和NVIDIA DGX Cloud,以加速构建及运行数万亿参数的规模大型语言模型的性能 Amazon Nitro系统、Elastic Fabric Adapter加密,以及与Blackwell加密集成的 Amazon KMS密钥管理服务,为客户提供从训练数据到模型权重的端到端控制,为客户在亚马逊云科技上的AI应用提供更强的安全保障 - “Ceiba项目”——一台完全依托亚马逊云科技搭建、采用DGX Cloud的AI超级计算机,搭载了20,736颗GB200 Superchips芯片,能够提供414 exaflops的处理能力,专为NVIDIA自身的AI研发工作设计
Amazon SageMaker与NVIDIA NIM推理微服务集成,以帮助客户进一步优化在GPU上运行基础模型的性价比 - 亚马逊云科技与英伟达之间的合作加速了在医疗保健和生命科学领域的AI创新
北京2024年3月20日 /美通社/ -- 亚马逊云科技和英伟达宣布,英伟达在2024年GTC大会上推出的新一代NVIDIA Blackwell GPU平台即将登陆亚马逊云科技。亚马逊云科技将提供NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU,这一举措延续了双方长期的战略合作伙伴关系,旨在为客户提供安全、先进的基础设施、软件及服务,助力客户开启新一代生成式AI的能力。
英伟达与亚马逊云科技继续汇聚各自的领先技术,包括具备英伟达最新多节点系统的下一代NVIDIA Blackwell平台和AI软件,以及亚马逊云科技的Nitro系统、具备领先安全性的Amazon KMS密钥管理服务、千万亿比特级的Elastic Fabric Adapter(EFA)网络和Amazon EC2 UltraCluster超大规模集群等技术。基于上述技术打造的基础设施和工具,使客户能够在Amazon EC2上以更快速度、更大规模、更低成本地对其构建和运行数万亿参数的大型语言模型(LLMs)进行实时推理,性能相较于配备前一代英伟达GPU的EC2实例有显著改进。
亚马逊云科技首席执行官Adam Selipsky表示:“我们双方的深入合作可以追溯到13年前,当时我们共同推出了世界上第一个亚马逊云科技上的GPU云实例,而今天我们为客户提供了最广泛的英伟达GPU解决方案。英伟达的下一代Grace Blackwell处理器是生成式AI和GPU计算领域的标志性事件。当结合亚马逊云科技强大的EFA网络、Amazon EC2 UltraClusters的超大规模集群功能,以及我们独有的Amazon Nitro高级虚拟化系统及其安全功能时,我们就能够使客户更快、更大规模且更安全地构建和运行具有数万亿参数的大型语言模型。”
英伟达创始人兼首席执行官黄仁勋表示:“人工智能正在以前所未有的速度推动新应用、新商业模式和跨行业的创新。我们与亚马逊云科技的合作正在加速新的生成式AI能力的发展,并为客户提供前所未有的计算能力,以开创无限可能。”
亚马逊云科技与英伟达的新合作将显著加快超万亿参数前沿大型语言模型的训练
亚马逊云科技将提供配置GB200 NVL72的英伟达Blackwell平台,它配备72颗Blackwell GPU和36颗Grace CPU,通过第五代NVIDIA NVLink™互连。当与亚马逊云科技强大的EFA网络、Amazon Nitro高级虚拟化系统和Amazon EC2 UltraClusters超大规模集群等技术结合时,客户能够轻松扩展至数千个GB200 Superchips。英伟达Blackwell在亚马逊云科技上的应用,使得该平台在应对资源密集型和数万亿参数语言模型等推理工作负载加速方面实现了巨大飞跃。
基于此前搭载英伟达H100的Amazon EC2 P5实例的成功(客户短期使用这些实例可通过
提升AI安全性:亚马逊云科技Nitro系统、Amazon KMS、EFA加密与Blackwell加密技术紧密集成
随着AI技术应用越来越广泛,企业需要确信,在整个训练流程中,他们的数据都得到了安全的处理。保护模型权重的安全至关重要,模型权重是模型在训练过程中学习到的参数,对于模型做出预测的能力至关重要。确保模型权重的安全对保护客户的知识产权、防止模型被篡改以及维护模型的完整性都是非常重要的。
亚马逊云科技的AI基础设施和服务已经实现了安全特性,使客户能够控制其数据,并确保数据不会与第三方模型提供者共享。Amazon Nitro系统和英伟达GB200的结合将能够阻止未授权个体访问模型权重,从而把AI安全性提升到新的高度。GB200支持对GPU之间NVLink连接进行物理加密,以及对Grace CPU到Blackwell GPU的数据传输进行加密,同时EFA也能够对服务器之间的分布式训练和推理过程的数据进行加密。GB200还将受益于Amazon Nitro系统,该系统将主机CPU/GPU的I/O功能卸载至专门的硬件上,以提供更加一致的性能,其增强的安全性可以在客户端和云端全程保护客户的代码和数据在处理过程中的安全。这一独有的功能已经
通过在Amazon EC2上使用GB200,亚马逊云科技将使客户能够使用Amazon Nitro Enclaves和Amazon KMS,在其EC2实例旁创建一个可信执行环境。
“Ceiba项目”利用Blackwell在亚马逊云科技上推动英伟达未来生成式AI创新
在2023年亚马逊云科技re:Invent大会上宣布的“Ceiba项目”,是英伟达与亚马逊云科技合作建造的世界上最快的AI超级计算机之一。这台专为英伟达自身的研究和开发而设的超级计算机,独家托管在亚马逊云科技上。这台首创的拥有20,736颗GB200 GPU的超级计算机,采用新型NVIDIA GB200 NVL72配置构建,其特有的第五代NVLink将连接10,368颗NVIDIA Grace CPU。系统通过亚马逊云科技第四代EFA网络进行扩展,为每个Superchip提供高达800 Gbps的低延迟、高带宽网络吞吐量——能够处理高达414 exaflops的AI计算量,与之前计划在Hopper架构上构建Ceiba相比,性能提升了6倍。英伟达的研发团队将利用Ceiba推进大语言模型、图形(图像/视频/3D生成)与仿真、数字生物学、机器人技术、自动驾驶汽车、NVIDIA Earth-2气候预测等领域的AI技术,以帮助英伟达推动未来生成式AI的创新。
亚马逊云科技与英伟达的合作推动生成式人工智能应用开发及医疗健康与生命科学领域的应用进展
亚马逊云科技与英伟达联手,通过Amazon SageMaker与NVIDIA NIM推理微服务的整合,提供了高性能、低成本的生成式AI推理解决方案,该服务作为NVIDIA AI企业版的一部分提供。客户可以利用这一组合在Amazon SageMaker中快速部署和运行已预编译且对NVIDIA GPU进行优化的基础模型,缩短生成式AI应用的推出时间。
亚马逊云科技与英伟达还在利用计算机辅助的药物发现领域进行合作拓展,推出了新的
Amazon HealthOmics和英伟达医疗保健团队还合作推出生成式AI微服务,以推进药物发现、医疗技术和数字健康领域的发展,该服务提供一个新的GPU加速的云端服务目录,涵盖生物学、化学、成像和医疗保健数据,以便医疗企业能够在亚马逊云科技上利用生成式AI的最新成果。
本文RSS来源:美通社
-
诺华创新PNH口服单药疗法飞赫达®(盐酸伊普可泮胶囊)在华获批
开创PNH靶向治疗新时代,"跑步入场"惠及中国患者 上海2024年4月26日 /美通社/ -- 诺华中国今日宣布,其创新...[详细]
-
呋喹替尼获欧洲药品管理局CHMP积极意见用于结直肠癌
和黄医药宣佈武田获得欧洲药品管理局人用药品委员会 (CHMP) 积极意见 支持呋喹替尼 (fruquintinib) 用于...[详细]
-
用科学营养生命,以诚信创造长期价值,汤臣倍健发布首份ESG报告
广州2024年4月26日 /美通社/ -- 4月25日,汤臣倍健发布《2023年环境、社会及公司治理报告》(以下简称...[详细]
-
诺和诺德中国发布可持续发展白皮书
三十载植根中国,共筑可持续未来 北京2024年4月26日 /美通社/ -- 今日,诺和诺德在京发布《诺言必践:诺和诺德中...[详细]
-
百济神州发布《2023年负责任商业和可持续发展》报告,公布全球进展
2023年度报告详细阐述了公司在可持续发展方面已取得的成果和未来规划 中国北京、美国麻省剑桥和瑞士巴塞尔202...[详细]
-
Westex™再次亮相上海劳保展,深耕全球最大安全防护市场
寻求高质量发展,全力以赴捍卫"生产安全" 上海2024年4月26日 /美通社/ -- 多元化全球制造商美利肯公司(Mi...[详细]
-
-
韩系进口维颜嘉玻尿酸问世
杭州2024年4月25日 /美通社/ -- 2024年首个韩系进
-
国际权威期刊发表Bentrio鼻喷剂针对季节性过敏性鼻炎研究成果
Allergy期刊发表了Bentrio鼻喷剂针对季节性过敏性
-
成都先导披露业绩报告:核心业务回升向好
创新能力矩阵持续释放增长势能
-
世界免疫周:中国首部聚焦婴儿呼吸道合胞病毒感染和预防的纪录片倾情上线
赛诺菲携手各方守护儿童呼吸健康,以真实影
-
蓝纳成完成B+轮3亿元融资!
烟台2024年4月25日 /美通社/ --4月24日,东诚药业
-
凯度×伏羲实验室发布中国银发人群研究第一期-理解"老"人
上海2024年4月25日 /美通社/ -- 比青年有钱、比中
-
-
-
肝纤维化不能吃什么?肝纤维化饮食的注意事项有哪些?
中国人口14亿多,其中有9000万乙肝病毒感染者
-
肝硬化需要全疗程用药吗?哪个品牌的软肝片好?用药讲疗程,安全有保证!
人们常说“慢性病要以慢治慢”。古人倡导“
-
肝硬化的突出表现有哪些?用什么药软肝效果好?保肝软肝就选中成药
肝硬化是一种常见慢性病,引起肝硬化的病因
-
肝硬化的前期表现有哪些?肝硬化前期该如何选择软肝药品呢?
中国人的饮酒文化众所皆知,都特别喜欢酒桌
-
肝硬化患者吃什么药好,复方鳖甲软肝片有效吗?疗效值得认可
我国是肝病高发生率大国,每年有超过120万病
-
肝硬化吃复方鳖甲软肝片怎么样?复方鳖甲软肝片功效与作用来评价
肝硬化是一种常见的慢性肝病,是由一种或多
-
-
-
-
-
-
-
-
-
-
-
-
-