NVIDIA AI Enterprise 扩展至支持 H200 NVL GPU
realtime news Feb 24, 2025 16:28
NVIDIA AI Enterprise 现在支持 H200 NVL GPU，提升了 AI 基础设施的性能和效率。此次更新包括为加速 AI 工作负载添加的新软件组件。
NVIDIA 宣布对其 NVIDIA AI Enterprise 平台进行了重大更新，现在支持 NVIDIA H200 NVL GPU。此项进展是公司最新基础设施软件发布的一部分，旨在增强企业级 AI 应用。根据NVIDIA的说法，新加入的 H200 NVL 是 NVIDIA 数据中心 GPU 产品线中的新成员，承诺为代理和生成型 AI 提供最前沿的能力。
NVIDIA AI Enterprise 平台
NVIDIA AI Enterprise 平台旨在促进生产级 AI 解决方案的开发和部署。它由一套全面的软件组件组成，可部署在包括服务器、边缘系统和工作站在内的各种硬件配置中。平台分为两个主要类别：AI 和数据科学软件目录以及基础设施软件集合。
AI 和数据科学软件目录包括 NVIDIA NIM 微服务以及构建 AI 工作流的几个框架。这些组件是为无缝的云原生部署而容器化的，确保与各种云服务提供商兼容。
基础设施软件集合
基础设施软件集合提供支持加速系统上的 AI 和数据科学工作负载所需的基本组件。这包括 GPU、网络和虚拟化驱动程序以及 Kubernetes 操作器。此外，还提供了基本命令管理器以实现高效的集群管理。
通过最新的更新，基础设施软件集合现在支持 H200 NVL GPU，这一举措预计将大大提高 AI 应用的性能和能效。
H200 NVL GPU 增强功能
在超级计算 2024 大会上揭晓的 H200 NVL GPU 专为需要低功耗、风冷企业机架设计的数据中心而设计。它提供灵活的配置以加速广泛的 AI 工作负载。该 GPU 比其前身 NVIDIA H100 NVL 增加了 1.5 倍的内存和 1.2 倍的带宽，提供高达 1.7 倍的更快推理性能。
NVIDIA AI Enterprise 对 H200 NVL 的支持分阶段推出。现在可用的基础设施集合版本 6.0 支持裸机应用和 GPU 直通的虚拟化。而预计稍后的版本 6.1 将添加对 vGPU 虚拟化的支持。
参考架构和可用性
NVIDIA 还引入了一种参考架构，以简化 AI 系统的部署和配置。此架构为原始设备制造商（OEM）和合作伙伴提供了一套灵活的基础设施堆栈，确保一致的软件组件和可适应的硬件配置。
对于购买了 H200 NVL 服务器的企业，NVIDIA AI Enterprise 可立即访问，并提供长达五年的订阅。此外，NVIDIA 提供了多种入门方式，包括免费访问 NIM 微服务进行测试和 90 天的免费评估许可证。NVIDIA AI Enterprise 基础设施集合 6.0 可从 NVIDIA NGC 目录下载。
Image source: Shutterstock