此次合作汇集了两家公司的优势,将 NVIDIA 最新的多节点系统与下一代 GPU、CPU 和 AI 软件集成,以及 Nitro System 高级虚拟化、Elastic Fabric Adapter (EFA) 互连和 UltraCluster 等 AWS 技术可扩展性。
扩大合作的主要亮点包括:
1.AWS上NVIDIA GH200 Grace Hopper超级芯片介绍:
* AWS 成为第一家提供采用全新多节点 NVLink 技术的 NVIDIA GH200 Grace Hopper Superchips 的云提供商。
* NVIDIA GH200 NVL32 多节点平台使联合客户能够扩展到数千个 GH200 超级芯片,从而提供超级计算机级的性能。
2.在AWS上托管NVIDIA DGX云:
* 合作在 AWS 上托管 NVIDIA DGX Cloud,这是一种人工智能训练即服务,采用 GH200 NVL32,可加速生成式人工智能和大型语言模型的训练。
3.木棉计划超级计算机:
* 与 Project Ceiba 合作,旨在设计世界上最快的 GPU 驱动的 AI 超级计算机,拥有 16,384 个 NVIDIA GH200 超级芯片和 65 exaflops 的处理能力。
4.新的Amazon EC2实例介绍:
* AWS 推出了三个新的 Amazon EC2 实例,包括由 NVIDIA H200 Tensor Core GPU 提供支持的 P5e 实例,用于大规模生成式 AI 和 HPC 工作负载。
5.软件创新:
* NVIDIA 在 AWS 上推出软件,例如用于聊天机器人和摘要工具的 NeMo Retriever 微服务,以及用于加快制药公司药物发现的 BioNeMo。
此次合作标志着双方共同致力于推进生成式人工智能领域的发展,为客户提供尖端技术和资源。
在内部,亚马逊机器人和履行团队已经使用 NVIDIA 的 Omniverse 平台在实际部署之前首先优化虚拟环境中的仓库。
NVIDIA 和 AWS 技术的集成将加速各行业大型语言模型和生成式 AI 应用程序的开发、训练和推理。
原创文章,作者:Xaiat,如若转载,请注明出处:https://www.xaiat.com/%e4%ba%9a%e9%a9%ac%e9%80%8a%e4%ba%91%e8%ae%a1%e7%ae%97%e6%9c%8d%e5%8a%a1aws%e5%92%8c%e8%8b%b1%e4%bc%9f%e8%be%be%ef%bc%88nvidia%ef%bc%89%e6%89%a9%e5%a4%a7%e5%90%88%e4%bd%9c%e5%85%b3/