在2024年GTC AI大会上,NVIDIA推出了多项创新技术和产品,涵盖了从新一代GPU平台到AI超级计算和量子计算云服务等多个领域。
新一代GPU平台 Blackwell
Blackwell是为生成式AI时代设计的新一代GPU平台,与前代相比,在FP8训练性能上提高了2.5倍,FP4推理性能上提高了5倍。它采用了第五代NVLink互联技术,传输速率是前代的两倍,可以扩展至576个GPU。
首款基于Blackwell的芯片 GB200 Grace Blackwell
GB200 Grace Blackwell超级芯片将两个Blackwell B200 Tensor Core GPU与NVIDIA Grace CPU通过900GB/s的超低功耗NVLink芯片间互连技术连接起来。此系统可以通过NVIDIA Quantum-X800 InfiniBand和Spectrum-X800 Ethernet平台连接,提供最高800Gb/s的高级网络速度。
下一代AI超级计算机 DGX SuperPOD
NVIDIA推出的下一代AI超级计算机DGX SuperPOD采用了GB200 Grace Blackwell超级芯片,提供了11.5 exaflops的AI超级计算能力和240TB的快速内存,可以通过增加更多机架来进一步扩展。
AI超级计算平台 DGX B200
DGX B200是一款基于Blackwell的AI超级计算平台,设计用于处理具有数万亿参数的模型,为超级规模的生成式AI训练和推理工作负载提供不间断的运行时间。
新一代网络交换机 X800系列
X800系列网络交换机旨在加速AI基础设施,包括NVIDIA Quantum-X800 InfiniBand或NVIDIA Spectrum-X800 Ethernet交换机,NVIDIA Quantum Q3400交换机和NVIDIA ConnectXR-8 SuperNIC。这些交换机预计将在2025年可用。
量子计算云服务
NVIDIA宣布cuPQC库,用于加速后量子密码学的开发,以支持安全的量子计算云服务。
气候数字孪生云平台 Earth-2
NVIDIA Earth Climate Digital Twin是一个云平台,支持交互式、高分辨率的模拟,以加速气候和天气预测。
生成式AI微服务
NVIDIA推出的NIM(NVIDIA Inference Microservice)是一种新方式,允许用户接收和打包软件,旨在通过生成式AI微服务简化构建聊天机器人等AI应用的过程。
5种全新的Omniverse Cloud API
NVIDIA宣布Omniverse Cloud将以API的形式提供,使得开发者能够直接在现有的设计和自动化软件应用程序中集成Omniverse技术,这对于创建数字孪生应用和工作流程尤其有用。
专为生成式AI应用设计的车载计算平台 DRIVE Thor
NVIDIA宣布BYD选择NVIDIA的下一代计算平台DRIVE Thor为其自动驾驶车辆提供动力,以建设下一代电动车队。
BioNeMo基础模型
NVIDIA发布了超过两打新的微服务,允许全球的医疗保健企业利用最新的生成式AI进展,这些微服务提供了先进的成像、自然语言和语音识别、以及数字生物生成、预测和模拟。