DGX Station GB300可以看作NVIDIA推出的AI超算的工作站版(去年推出的是GB200版),之前卖的DGX Spark则是AI超算的个人版,但前者的规格和性能远高于后者,配置非常豪华,价格也会高得多。
DGX Station GB300使用的是GB300芯片,处理器是72核心的Grace,有252GB HBM3e显存,带宽8TB/s,内存则是496GB LPDDR5X,带宽也有396GB/s,光是内存就有748GB之多,放在现在涨价的背景下,这些内存的价值就够十几台高端PC了。
DGX Station GB300的FP4性能可达20PFLOPS,可以支持1万亿参数的AI模型,以往这种级别的大模型都需要专用的服务器或者几台设备一起跑,现在一台设备就够了。
NVIDIA每次有新的AI产品问世,往往会把首台设备赠送给领域内的大腕,之前马斯克、OpenAI CEO奥特曼都收到过NVIDIA的礼物,而这次的Andrej Karpathy也是AI领域的大神,是OpenAI的创始人团队之一。