NVIDIA AI Foundry 推出企业定制的 Llama 3.1 生成式 AI 模型
realtime news Jul 23, 2024 19:07
NVIDIA 推出 AI Foundry 服务和 NIM 微服务，使企业能够为特定行业应用创建定制的 Llama 3.1 生成式 AI 模型。
NVIDIA 宣布推出其新的 NVIDIA AI Foundry 服务和 NVIDIA NIM™ 推理微服务，旨在彻底改变全球企业的生成式 AI 能力。此项计划包括 Llama 3.1 系列公开可用模型，旨在为企业提供先进的 AI 工具。
为企业提供定制化 AI 解决方案
通过 NVIDIA AI Foundry，企业和国家现在可以使用 Llama 3.1 和 NVIDIA 技术构建定制的适合特定行业需求的“超级模型”。这些模型可以通过专有数据和 Llama 3.1 405B 及 NVIDIA Nemotron™ 奖励模型生成的合成数据进行训练。
AI Foundry 由 NVIDIA DGX™ 云 AI 平台提供支持，与领先的公共云提供商共同设计，提供可扩展的计算资源以满足不断发展的 AI 需求。此服务旨在支持企业和国家发展主权 AI 战略和定制大型语言模型 (LLMs) 以用于特定领域应用。
关键行业采用
埃森哲是首家利用 NVIDIA AI Foundry 为其客户创建定制 Llama 3.1 模型的公司。像 Aramco、AT&T 和 Uber 等公司是采用新的 Llama NVIDIA NIM 微服务的早期用户，显示出各行业的浓厚兴趣。
“Meta 公开可用的 Llama 3.1 模型标志着全球企业采纳生成式 AI 的重要时刻，”NVIDIA 创始人兼 CEO黄仁勋说道。“Llama 3.1 为每个企业和行业构建先进的生成式 AI 应用程序敞开大门。NVIDIA AI Foundry 全面集成了 Llama 3.1，准备帮助企业构建和部署定制的 Llama 超级模型。”
增强的 AI 能力
针对 Llama 3.1 的 NVIDIA NIM 推理微服务现已可下载，承诺比传统推理方法高达 2.5 倍的吞吐量。企业还可以将这些与新的 NVIDIA NeMo Retriever NIM 微服务结合起来，为数字助手和人类头像创建先进的 AI 检索管道。
埃森哲利用其 AI Refinery™ 框架，率先使用 NVIDIA AI Foundry 开发定制的 Llama 3.1 模型。“世界领先的企业看到了生成式 AI 如何变革每个行业，并渴望部署由定制模型驱动的应用程序，”埃森哲董事长兼 CEO Julie Sweet 说道。“埃森哲一直在为我们的内部 AI 应用使用 NVIDIA NIM 推理微服务，现在，通过 NVIDIA AI Foundry，我们可以帮助客户快速创建和部署定制的 Llama 3.1 模型，以推动其自身业务优先事项的变革性 AI 应用。”
全面的 AI 模型服务
NVIDIA AI Foundry 提供包括模型策划、合成数据生成、微调、检索和评估的端到端服务。企业可以使用 Llama 3.1 模型和 NVIDIA NeMo 平台创建特定领域的模型，并可以选择生成合成数据以提高模型准确性。
NVIDIA 和 Meta 合作提供了 Llama 3.1 的蒸馏配方，使开发者能够构建适合各种基础设施（从 AI 工作站到笔记本电脑）的较小定制模型。
涵盖医疗保健、能源、金融服务、零售、运输和电信等领域的领先公司已在整合针对 Llama 3.1 的 NVIDIA NIM 微服务，这些服务在超过 16,000 个 NVIDIA H100 张量核心 GPU 上进行训练。
未来前景
NVIDIA AI Enterprise 提供 Llama 3.1 NIM 和 NeMo Retriever NIM 微服务的生产支持。此外，NVIDIA 开发者计划的成员很快将免费获得这些 NIM 微服务的研究、开发和测试访问权。
欲了解更多信息，请访问 NVIDIA 新闻室。
Image source: Shutterstock