NVIDIA的Blackwell Ultra B300 GPU可能会在GB300服务器上采用插座式设计,这将使维护和升级变得更加容易。NVIDIA目前的数据中心高性能芯片采用了OAM设计,即板载解决方案。通过这种设计,GPU芯片被永久焊接到服务器主板上,如GB200,用户可以在一块主板上同时找到Grace CPU和Blackwell GPU。
1C'P)f28 od(:Y(4 不过,这可能是最后一个采用板载设计的系列,因为一些报道称NVIDIA可能会在用于GB300服务器的Blackwell B300"Ultra"GPU上采用不同的设计。根据MoneyDJ和Economic Daily News(通过Trendforce)的说法,B300 GPU可能采用基于插座的设计,这将允许用户从主板上安装或卸载GPU。
:p&IX"Hh xDLMPo& 据悉,英伟达的Blackwell Ultra"B300"AI GPU采用插座式设计可简化英伟达的制造流程,并使多家公司受益,尤其是生产互连组件和插座的富士康。目前的Blackwell GPU是直接焊接到主板上的,过渡到插座式设计后,B300 GPU可以像CPU一样从主板上拆卸下来。
:K;T Q I<xy?{s 这种过渡将带来多种好处,包括提高良品率和实现灵活生产,因为GPU无需焊接到插座上,NVIDIA也无需依赖表面贴装技术。此外,由于在出现与GPU相关的问题时无需更换整个主板,因此该流程将简化维护和售后服务。
j Ii[ U,38qKE 因此,升级可以减少更换GPU时的整体停机时间,有助于公司为客户提供更可靠的服务器。不过,预计新的插座设计会带来一些性能下降,因为这会带来更高的延迟。尽管如此,如果能改善维护、升级和提高产量,那么这种权衡还是值得的。
KJ pj |f3U%2@ B300的另一个重要变化是采用了FP4,这有利于推理过程。推理是经过训练的模型对数据进行预测的方式,是人工智能计算的一个重要方面。B200已经在人工智能工作负载中表现出色,并已被多家公司部署。
r!~(R+,c +]_nbWL(% 与此同时,B300"Blackwell Ultra"有望大幅提升性能,但它却并不是首款采用基于插槽设计的产品,因为AMD已经在2023年推出的MI300A芯片中引入了这种设计。
Hy;901( % _lNC<7+#h