英伟达已经预订了AI芯片H20的终端产品“特供版”。根据草根调查,单卡价格是根据性能预期推出的$ 1.3-1.4万美元,目前国内顶级客户已下单,对Q2出货持乐观态度。昨天国内两家大厂下了H20订单,量级比较大。H20的年出货量可能在几十万件左右,之前的市场预期应该在30万件左右。
浪潮信息涨停的原因,两家工厂订购了数万片H20
英伟达H20是国内两大工厂下单的、L20测试从行业了解到,中国有两家大型制造商已经向英伟达订购了数万片H20。据报道,其中一家制造商目前对H20持保守乐观态度。与此同时,英伟达的另一个中国特别版芯片L20 PCIE目前也在测试中,采购即将开始。
国内计算能力的趋势非常明确,我们继续关注国内计算能力链。我们认为,两家大型工厂关于H20的大订单不会影响国内计算能力解释的逻辑。国内计算能力的趋势是明确而不可逆转的。一方面,中国对芯片本地化的支持强劲而持续。国产芯片不断自主迭代,在实践中性能有了很大提高。另一方面,美国近年来不断升级对中国的制裁,自今年1月以来,这是收紧中国先进计算能力的一种方式。计算能本地化是必由之路。
国内芯片比例持续增加
测算了23、24年来,中国人工智能芯片市场的所有比例。国内芯片的比例可能从去年的25%上升到40%到45%。H20订单超出预期。自去年年底以来,国内外对H20在中国销售的预期相对悲观。这一次,两家大工厂的订单超出了预期。浪潮信息、紫光股份等相关目标建议继续关注国内计算能力
H20:是高缓存、高带宽,但计算能力差,这主要是M国禁令的要求和限制。H20卡计算能力差,约为HW升腾910计算能力的一半,缓存和带宽比910B高,带宽是910B的两倍。NV有NVlink架构。通过多卡使用和多卡堆叠模式,英伟达的卡与国内HW的高计算能力卡竞争。国内910B的性能与A100单卡非常接近,1)国内卡的缺点是互联带宽弱,卡间、AI服务器弱;2)软件生态不够成熟。在互联带宽和CUDA生态的基础上,英伟达的卡是在这个软肋的基础上推出的。
Q&A
Q:H20是H800训练的60-70%。事实证明,在H的情况下,计算能力的使用效率为30-40%。新的H20增加了带宽。组成集群的大型模型的训练效率可能比H800好吗?
A:国内软件培训框架相对较弱,国内主要是GPT1.0\2.0架构,H800计算性能很高,但仍不能使用数百万的培训参数,H800使用效率很低。但在H20方面,更容易获得训练参数不是很高的方面,非常适合多卡堆叠和多个人工智能服务器。
Q:大模型训练是否更容易改进芯片?
A:在国内大模型训练中,我们不能单独看硬件。一是卡,二是框架。GPT4.国内所有知识基本都包括在内,但国内3.0、4.0不能使用,正规渠道为1.0/2.0,训练参数和性能有限。由于底层软件有局限性,即使H100有卡也无法训练。英伟达推出H20卡,可以通过国内客户购买更多卡和A100卡实现、H800的效率是一样的。NV可以多买卡,满足M国禁令,不会让基于GPT2.0训练模型框架的训练处有更高的模型,一举多得。NV不会完全切断NV与国内的交流,硬件可以给,但软件层面切断,国内不能使用1000亿级培训模型的框架。
NVIB交换机,400G\800G光模块不必要。因为H100 人工智能服务器可以使用400G光模块或800G(8张卡是4个800G光模块)。由于人工智能服务器的数量更多,光模块的数量也会更多。在网络组方面,无论是NVIB交换机、正常网络组还是以太网交换机。
Q:H20产品HBM3是一块板用了三块,即计算能力为A100的30%,HBM用量相同?
A:单卡的HBM量与H800相似,H20的cowos工艺比800简单。卡的计算能力在于晶元工艺。nm越低,集成度越高,计算能力越强。就H20的计算能力而言,设计工艺一般,不如910B的计算能力设计工艺好。对于OEM来说,一些较差的制造工艺可以重复使用,成本降低。唯一的是HBM,它的价值是3倍。
Q:H20NVLINK是900GB/S,H800只有400,能达到吗?
A:NVLINK不是高端NV,非常成熟,H系列可以支持。网络带宽支持如此之大,你可以购买更多的卡,NVLINK的传输速度可以领先。现在是400G,8卡是200。
Q:与HW相比,H20组成集群的性能?
A:服务器卡间瓶颈,服务器瓶颈。卡间910B的互联带宽是H20的一半,卡间互联性能下降了一半。英伟达拥有一分半的IB交换机,没有替代解决方案。中国是400、800G集群交换机计算能力损失较大。
Q:H20使用液冷方案吗?
A:H20是风冷、液冷还是H100、750w功耗。H20加2-3张卡,功耗是A100的3-4倍。
Q:H20组网会比原H800组网增加功耗和散热需求吗?
A:由于计算能力和功耗低,H20的散热会低于H800。宏策股
历年超级大牛股如图所示,2024年会是哪一只?
上一篇:中国必须大力发展国内计算能力
下一篇:新质量生产力是人工智能的升级版
10月10日,上交所再次举行券商座谈会,现场宣讲并购重组最新政策精神,并就进一步活跃并购重组市场、打通政策落地“最后一公里”听取意见建议。中信证券、中金公司、中信建投、华泰联合、国泰君安、国信证券、东方证券、广...
来源:券商中国作者:时谦今天早盘,A股市场波动较大,但经过一段下挫之后,很快就被多头拉起。而从盘面来看,以代码601开头的大盘蓝筹股(亦是高股息板块)今天表现非常突发,红利ETF大多涨幅在4%左右水平。那么,究竟又是何逻辑呢?分析...
中字头及红利资产全天保持强势,沪深两市交易量连续第4日突破2万亿元!市场对后续政策的期待仍在升温。今日(10月10日),A股三大股指走势分化,截至收盘,上证指数涨1.32%,深证成指跌0.82%,创业板指跌2.95%。全市场个股涨多跌少,超30...
要点1通化东宝控股股东所持股份质押率高遭质疑,公司董事长李佳鸿称,系东宝集团投资项目周期长造成;要点2业绩方面,李佳鸿预计称下半年公司营收将逐季恢复;要点3公司还对新产品销售情况做了介绍。财联社10月10日讯(记者 何凡...
要点1海外市场需求持续旺盛,赛轮轮胎预计公司前三季度业绩同比增约六成;要点2天然橡胶、炭黑、合成橡胶等生产原材料均有涨价,为应对成本压力,多家轮胎公司宣布产品涨价。财联社10月10日讯(记者 肖良华)海外市场需求持续旺...
本文“英伟达预订AI芯片H20终端产品“特供版””由壹米财经整理发布,欢迎转载收藏,转载请带上本文链接。
免责声明:【壹米财经】发布的所有信息,并不代表本站赞同其观点和对其真实性负责,投资者据此操作,风险请自担。部分内容文章及图片来自互联网或自媒体,版权归属于原作者,不保证该信息(包括但不限 于文字、图片、图表及数据)的准确性、真实性、完整性、有效性、及时性、原创性等,如有问题,请联系我们!