Search Results for "模型"
Llama 3.1 405B 利用 NVIDIA H200 GPU 和 NVLink 实现 1.5 倍吞吐量提升
NVIDIA 最新的并行技术进步,通过使用 NVIDIA H200 Tensor Core GPU 和 NVLink Switch,将 Llama 3.1 405B 的吞吐量提升了 1.5 倍,提高了 AI 推理性能。
使用 NVIDIA Triton 和 TensorRT-LLM 在 Kubernetes 上增强大型语言模型
探索 NVIDIA 使用 Triton 和 TensorRT-LLM 优化大型语言模型的方法,同时在 Kubernetes 环境中高效地部署和扩展这些模型。
NVIDIA GH200 超级芯片2倍提升Llama模型推理性能
据NVIDIA称,NVIDIA GH200 Grace Hopper超级芯片将Llama模型的推理性能提高了2倍,增强了用户互动性,而不会影响系统吞吐量。
GitHub 与 Anthropic、Google 和 OpenAI 联合推出全新 AI 模型以增强 Copilot
GitHub 向其 Copilot 引入了来自 Anthropic、Google 和 OpenAI 的新 AI 模型,为开发者提供了更多选择和功能,以增强编码任务。
Mistral AI 推出 Pixtral Large:尖端多模态模型
Mistral AI 推出 Pixtral Large,一款124B多模态模型,具备先进的图像和文本理解能力,在多个基准中超越竞争对手。