GB300基于NVIDIA Blackwell Ultra架构，提升了训练和测试时扩展推理能力，即通过在推理过程中增加计算量来提升准确率的技术，以帮助企业加速AI推理、代理式AI及物理AI等应用的开发与部署。

该架构包括NVIDIA GB300 NVL72机架级解决方案和NVIDIA HGX B300 NVL16系统，其中GB300 NVL72的AI性能比GB200 NVL72高出1.5倍，使得建造AI工厂的收入机会与基于Hopper构建的系统相比增加了50倍。

GB300 NVL72每个节点配备两颗升级版的Blackwell GPU、一颗Grace CPU，搭配多达288GB HBM3e高带宽内存，Dense FP4性能高达15PFlops（每秒1.5亿亿次）。

整台服务器一共72个节点，也就是144颗GPU、72颗CPU、20TB HBM3e、40TB DDR5内存，比上代增加50%，CX8互连带宽14.4TB/s，增加100%。

而HGX B300 NVL16相比Hopper代产品，LLM推理速度提速了11倍，计算性能提升了7倍，内存容量扩大了4倍，可为最复杂的工作负载（如AI推理）提供突破性性能。

不仅如此，Blackwell Ultra平台特别适用于以下应用：

代理式AI，利用复杂推理和迭代规划自主解决复杂的多步骤问题，AI智能体系统超越了简单的指令执行，能够推理、规划并采取行动以实现特定目标。

《夸克》非常好用的免费AI浏览器

下载APP查看