强强联手打造云上AI算力新王 亚马逊云科技联袂英伟达推动AIGC立异

身处AI时期，算力是根本，GPU/CPU是砖头，能够搭建起算力所需的根本举动步伐，而云打算则供应了进一步的组织做事能力，可以将根本举动步伐供应的算力调动起来，为人工智能运用的落地供应更多可能。

就在不久前被称作“科技春晚”的GTC 2024大会上，英伟达宣告全新推出的NVIDIABlackwell GPU平台即将上岸亚马逊云科技，客户可以在亚马逊云科技上利用基于NVIDIA GB200 Grace Blackwell Superchip和B100 Tensor Core GPUs的根本举动步伐，从而帮助客户更快、更大规模、更低成本地构建和运行万亿参数大模型。

云上AI算力新王登基

从文本天生模型ChatGPT到文生视频模型Sora，人工智能大模型的发展日月牙异，而在大模型研发领域，万亿级参数规模此前还算是一道门槛。
根据公开的宣布，去年年中发布的GPT4的模型参数是1.8万亿，由8个220B模型组成；前不久发布的Claude3模型没有公布参数规模，而马斯克最新开源的Grok大模型参数是3140亿参数规模。
英伟达在今年GTC 2024上发布的Blackwell架构GPU，目标就直指万亿参数规模大模型。

作为英伟达在GTC2024上推出的最新GPU产品，NVIDIA B200 GPU包含了2080亿个晶体管，而NVIDIA GB200包含了两个B200 GPU和一个Grace CPU。
在具有1750亿个参数的GPT-3大措辞模型基准测试中，GB200性能是H100的7倍，演习速率是H100的4倍，本钱和能耗上GB200比H100降落了25倍。

亚马逊云科技将在云上供应配置GB200 NVL72的英伟达Blackwell平台，该平台具备配备72颗Blackwell GPU和36颗Grace CPU，通过第五代NVIDIA NVLink互连。
亚马逊云科技还将为该平台供应强大的EFA网络连接、高等虚拟化的Amazon Nitro系统和Amazon EC2 UltraClusters超大规模集群等技能支持，客户能够在亚马逊云科技上扩展至数千个GB200 Superchips。

此外，亚马逊云科技还操持供应配备基于新的英伟达B100 GPU的Amazon EC2实例，以在Amazon EC2 UltraClusters中进行大规模支配。
此前，亚马逊云科技已经推出了基于英伟达H100芯片的Amazon EC2 P5实例，客户能够在云年夜将其P5实例扩展到超过2万个英伟达H100 GPU。
后续还会供应可短期利用这些实例的EC2 Capacity Blocks for ML功能，以帮助客户更好地安排云上天生式AI开拓进程。

与此同时，GB200芯片同时也在亚马逊云科技和英伟达共同开拓的AI平台NVIDIA DGX Cloud上可用，这是一个在亚马逊云科技上双方共同开拓的AI平台，为企业开拓者供应构建和支配前辈天生式AI模型所需的专用根本举动步伐和软件。

“亚马逊云科技与英伟达的互助可以追溯到13年前，那时我们共同推出了天下上第一个亚马逊云科技上的GPU云实例，而本日我们为客户供应了最广泛的英伟达GPU办理方案。
英伟达下一代Grace Blackwell处理器是天生式AI和GPU打算的标志性事宜。
当结合亚马逊云科技强大的Elastic Fabric Adapter网络、Amazon EC2 UltraClusters的超规模集群功能，以及Amazon Nitro高等虚拟化系统及其安全功能时，我们就能够使客户更快、更大规模且更安全地构建和运行具有数万亿参数的大型措辞模型。
”亚马逊云科技首席实行官Adam Selipsky总结道。

为云上AI开拓构筑安全的铜墙铁壁

被发明的十年后，互联网防护技能和家当链才开始补齐，与之相对的，在大模型出身后不到半年的韶光里，环绕着模型安全、数据安全、内容安全的谈论，就已经不绝于耳。
而通过这次互助，亚马逊云科技与英伟达又将天生式AI安全向前推进了一步。

首先，Amazon Nitro系统与英伟达GB200结合能够阻挡未授权个体访问模型权重，保护模型权重的安全至关主要，模型权重是模型在演习过程中学习到的参数，对付模型做出预测的能力至关主要。

其次，GB200支持对GPU间的NVLink连接物理加密以及CPU和GPU间的数据传输加密，同时还能够利用Amazon EFA对分布式演习和推理过程的数据进行加密。
受益于Amazon Nitro系统，GB200系统能够将CPU和GPU的输入/输出功能卸载至专门的硬件中，以供应更加同等的性能，其增强的安全性可以在客户端和云端全程保护客户的代码和数据在处理过程中的安全。
这一独占的功能已由领先的网络安全公司NCC Group进行了独立验证。
NCC Group的报告指出“Nitro系统通过从硬件层面到系统的支配和终止的全过程管理，实现了安全目标，亚马逊云科技没有其他替代的访问NitroEC2主机系统的路径。
”

末了，亚马逊云科技一贯秉承着客户拥有并能够始终掌握其数据，并确保数据不会与第三方模型供应者共享的理念，从而确保云上AI开拓的安全性。

Ceiba AI超算为NVIDIA AI开拓供应强大助力

去年年底的亚马逊云科技2023 re:Invent环球大会上，亚马逊云科技与NVIDIA共同宣告了Project Ceiba超级打算机项目，这是当时天下上最快的AI超级打算机之一，打算性能为65exaflops。

如今随着英伟达GB200的发布，Ceiba项目也迎来了最新进展，新的Ceiba项目拥有20736颗B200 GPU的超级打算机，采取新型NVIDIA GB200 NVL72系统构建，该系统利用第五代NVLink技能连接10368颗NVIDIA Grace CPU。
系统还通过亚马逊云科技的第四代EFA网络进行扩展，为每个Superchip供应高达800Gbps的低延迟、高带宽网络吞吐量，能够处理高达414exaflops的AI打算量。

这也意味着在四个月内，Ceiba AI超算的性能就翻了6倍。

英伟达表示，他们的AI团队将利用Ceiba推进大措辞模型、图形（图像/视频/3D天生）与仿真、数字生物学、机器人技能、自动驾驶汽车、NVIDIA Earth-2景象预测等领域的AI技能，以帮助英伟达推动未来天生式AI的创新。

携手推进天生式AI在医疗康健与生命科学领域的运用

在天生式AI取得爆炸式发展的本日，越来越多的医疗保健和生命科学组织更加急迫地转向技能，将其作为业务差异化的竞争上风。
亚马逊云科技与英伟达在利用打算机赞助的药物创造领域进行互助拓展，推出了新的NVIDIA BioNeMo根本模型，用于天生化学、蛋白质构造预测，以及理解药物分子与目标的相互浸染。
这些新模型将很快在Amazon HealthOmics上供应，这是一个专为帮助医疗保健和生命科学组织存储、查询和剖析基因组、转录组及其他组学数据而设计的专用做事。

此外，Amazon HealthOmics和英伟达医疗保健团队还互助推出生成式AI微做事，以推进药物创造、医疗技能和数字康健领域的发展，该做事供应一个新的GPU加速的云端做事目录，涵盖生物学、化学、成像和医疗保健数据，以便医疗企业能够在亚马逊云科技上利用天生式AI的最新成果。

正如英伟达创始人兼首席实行官黄仁勋所说的那样，人工智能正在以前所未有的速率推动打破，导致新的运用、商业模式和跨行业的创新。
英伟达与亚马逊云科技的强强联手，正在加速新的天生式AI能力的发展，并为千行百业供应前所未有的打算能力，以推动可能性的边界。

(8629905)