微信扫码登录
自选
APP下载
扫一扫,下载

【电子元件】电子:AI产业川流汇聚,云端两旺机遇开启

原文出处: 信达证券   贡献者:研报专业户

本期内容提要:


Blackwell众多技术突破,整体以机柜形式交货。GB200机柜有NVL36和NVL72两种规格。GB200NVL36配置中,一个机架有36个GPU和9个双GB200计算节点(以托盘为单位)。GB200NVL72在一个机架中配置了72个GPU/18个双GB200计算节点,或在两个机架中配置了72个GPU,每个机架上配置了18个单GB200计算节点。每个GPU具有2080亿个晶体管,采用专门定制的台积电4NP工艺制造。所有Blackwell产品均采用双倍光刻极限尺寸的裸片,通过10TB/s的片间互联技术连接成一块统一的GPU。此外,B系列还有众多突破,支持4位浮点(FP4)AI。内存可以支持的新一代模型的性能和大小翻倍,同时保持高精度。互联方面,第五代NVLink技术实现高速互联。NVIDIA NVLink交换机芯片能以惊人的1.8TB/s互连速度为多服务器集群提供支持。采用NVLink的多服务器集群可以在计算量增加的情况下同步扩展GPU通信,因此NVL72可支持的GPU吞吐量是单个8卡GPU系统的9倍。此外,Blackwell架构在安全AI、解压缩引擎、可靠性等方面也实现了不同程度的创新和突破。


Blackwell或成推理市场的钥匙,FP4精度潜力较大。目前模型参数变大的速度放缓,但模型推理和训练的运算量仍高速增长,尤其在o1引入强化学习之后,post scaling law开始发力。英伟达在发布H100架构时,便就FP8数据精度做出一定讨论。业界曾长期依赖FP16与FP32训练,但这种高精度的运算,在大模型LLM中受到了一定阻碍:由于模型参数等因素导致运算骤升,可能导致数据溢出。英伟达提出的FP8数据精度因为占用更少的比特,能提供更多运算量。以NVIDIAH100Tensor Core GPU为例,相较FP16和BF16,FP8的峰值性能能够实现接近翻倍。FP4精度是FP8的继承和发展,对推理市场的打开有重要推动。GB200推出了FP4,FP4支持由于降低了数据精度,性价比相比H100几乎倍增。根据Semianalysis的数据,GB200NVL72在FP4精度下,FLOPS相比H100可以最高提高405%(注:H100最低以FP8计算),由此带来性价比提升。目前,FP4的运算已经可以在大模型运算中广泛应用,且已有研究表明网络可以使用FP4精度进行训练而不会有显著的精度损失。此外,由于模型推理中不需要对模型参数进行更新,相对训练对于精度的敏感性有所下降,因此B系列相对于训练,在推理领域会更有优势。B系列引入FP4精度后,大模型在云侧和端侧的协同都有望实现跃升,这也是我们看好接下来的端侧市场的原因之一。


AI产业川流汇聚,2025年有望云端两旺。我们认为,B系列的推出有望打开推理市场,各类AI终端有望掀起持续的机遇。此外,AI产业的闭环有望刺激云厂商资本开支,云端共振共同发展。建议关注英伟达产业链传统的核心厂商,如ODM、PCB厂商等。此外,B系列带来的新兴赛道如铜连接、AEC赛道也值得关注。


风险因素:宏观经济下行风险;下游需求不及预期风险;中美贸易摩擦加剧风险。


22426.08 -0.42% -95.50
你建议本股当前如何操作?
  • 买入
  • 观望
  • 卖出
表情
同时转发

【电子元件】AI终端深度报告:梦想照进现实

【电子元件】电子通信2025年行业策略报告:AI端侧和AI基建新幕起,电子通信大国崛起

【电子元件】美AI芯片/大模型出口管制新规解读:巩固美国AI领导地位,加速中国国产化进程

【电子元件】AIDC电源系列一:探讨HVDC及超级电容的增量创新

【电子元件】电子行业跟踪报告:LCD价格止跌回升,面板厂“按需生产”策略效果显现

【电子元件】企业竞争图谱:2024年集成电路封测 头豹词条报告系列

价值与成长:华尔街技术分析师关注的分歧路径

博通公司在人工智能领域具有优势——分析师强调2024年增长

等同于暂停IPO!本周一(3月25号),大盘或将继续下跌?

低空经济概念,估计炒不了多远。
1、民用无人机,强如大疆,一年也就300多亿产值,和卖10万台30万的汽车差不多,也就是这个行业总规模也就相当于一个理想汽车。
2、飞行汽车,一个试验性的细分行业。
3、通用航空,在美国规模挺大,咱们有遍地的高铁和高速公路网啊,民航飞机还是弱项,机场也不多,发展天花板太低。
低空经济发展是要发展,预期可撑不起爆炒股票,挣点钱得了,憋着你信进去了

开局本来是不错的,但金融三马车,石油,酿酒,电信运营等巨无霸一发力,
双创直接被绿,而大盘也随着人气的回落而翻绿,
低空经济,AI模型,短剧游戏依旧是涨停的主力

请点击右上角的【...】按钮

选择【浏览器】打开

×