论坛风格切换
正版合作和侵权请联系 sd173@foxmail.com
 
  • 帖子
  • 日志
  • 用户
  • 版块
  • 群组
帖子
购买邀请后未收到邀请联系sdbeta@qq.com
  • 40阅读
  • 0回复

[硬件资讯]面向GB300服务器的NVIDIA Blackwell Ultra"B300"AI GPU可能采用插槽式设计 [复制链接]

上一主题 下一主题
 

发帖
6738
今日发帖
最后登录
2024-11-16
只看楼主 倒序阅读 使用道具 楼主  发表于: 2024-10-14 11:31:33
  NVIDIA的Blackwell Ultra B300 GPU可能会在GB300服务器上采用插座式设计,这将使维护和升级变得更加容易。NVIDIA目前的数据中心高性能芯片采用了OAM设计,即板载解决方案。通过这种设计,GPU芯片被永久焊接到服务器主板上,如GB200,用户可以在一块主板上同时找到Grace CPU和Blackwell GPU。 1C'P)f28  
od(:Y(4  
  不过,这可能是最后一个采用板载设计的系列,因为一些报道称NVIDIA可能会在用于GB300服务器的Blackwell B300"Ultra"GPU上采用不同的设计。根据MoneyDJ和Economic Daily News(通过Trendforce)的说法,B300 GPU可能采用基于插座的设计,这将允许用户从主板上安装或卸载GPU。 :p&IX"Hh  
xDLMPo&  
  据悉,英伟达的Blackwell Ultra"B300"AI GPU采用插座式设计可简化英伟达的制造流程,并使多家公司受益,尤其是生产互连组件和插座的富士康。目前的Blackwell GPU是直接焊接到主板上的,过渡到插座式设计后,B300 GPU可以像CPU一样从主板上拆卸下来。 :K;T Q  
I <xy?{s  
  这种过渡将带来多种好处,包括提高良品率和实现灵活生产,因为GPU无需焊接到插座上,NVIDIA也无需依赖表面贴装技术。此外,由于在出现与GPU相关的问题时无需更换整个主板,因此该流程将简化维护和售后服务。 j Ii[  
U,38qKE  
  因此,升级可以减少更换GPU时的整体停机时间,有助于公司为客户提供更可靠的服务器。不过,预计新的插座设计会带来一些性能下降,因为这会带来更高的延迟。尽管如此,如果能改善维护、升级和提高产量,那么这种权衡还是值得的。 KJ pj  
|f3U%2@  
  B300的另一个重要变化是采用了FP4,这有利于推理过程。推理是经过训练的模型对数据进行预测的方式,是人工智能计算的一个重要方面。B200已经在人工智能工作负载中表现出色,并已被多家公司部署。 r!~(R+,c  
+]_nbWL(%  
  与此同时,B300"Blackwell Ultra"有望大幅提升性能,但它却并不是首款采用基于插槽设计的产品,因为AMD已经在2023年推出的MI300A芯片中引入了这种设计。 Hy;901( %  
_lNC<7+#h