NVIDIA 发布 Jetson Thor CUDA Toolkit 13.0 增强功能

NVIDIA 准备通过其 Jetson Thor 系统级芯片（SoC）发布的 CUDA Toolkit 13.0 革新嵌入式和边缘计算领域。根据NVIDIA的说法，此更新由 NVIDIA Blackwell GPU 架构提供支持，承诺提升速度、效率和多功能性。

统一的 Arm 平台 CUDA Toolkit

CUDA 13.0 中最显著的变化是统一了 Arm 平台的 CUDA 工具包，这消除了为服务器级和嵌入式系统单独提供工具包的需求。这一简化允许开发人员一次构建应用程序，并在各个平台上部署而无需更改代码，大大提高了生产力。

Jetson Thor 现在将支持具有完整一致性的统一虚拟内存（UVM），这允许设备通过主机的页表访问可分页的主机内存。此更新使 Jetson 平台在 UVM 功能方面与离散 GPU 系统保持一致。

增强的 GPU 共享功能

CUDA 13.0 引入了多种 GPU 共享功能，以改善利用率和性能。多进程服务（MPS）功能使多个进程能够同时共享 GPU，从而提高吞吐量和可扩展性，而无需更改应用程序代码。这对于具有小型或突发工作负载的应用程序特别有利。

此外，新的绿色上下文特性通过预先分配资源实现确定性的 GPU 调度，确保对延迟敏感工作负载的可预测执行。这对于机器人等实时性能至关重要的应用程序来说尤为重要。

开发者工具增强

包括nvidia-smi实用程序和 NVIDIA 管理库（NVML）在内的某些开发者工具现在在 Jetson Thor 上得到支持。这些工具提供了对 GPU 使用情况的更好洞察和对资源的控制，虽然一些功能如时钟和电力查询预计将在未来更新中提供。

未来发展

展望未来，NVIDIA 计划引入多实例 GPU（MIG）特性，允许将大型 GPU 分区为较小的孤立设备。这将使混合关键性负载能够并行运行，提高确定性和故障隔离。

开发人员可以在 JetPack 7.0 版本中探索这些新的 CUDA 13.0 工具包功能，并且 NVIDIA 鼓励通过其开发者论坛进行互动，继续增强 Jetson 平台的能力。