与TPUUV5p相比,谷歌发布了TPUV5p v5e和TPU v4性能显著提高(FLOPS超过2倍,内存HBM增加3倍),特别是OCS网络架构受到热烈讨论,解释非常不同,我们根据论文和行业实际沟通,客观详细分析如下:
【TPU是谷歌战略推广的自主研发产品,需要观察是否主流】
TPU集群是谷歌为降低成本而做出的自主研究选择。以TPUv4 以4096集群为例,其特点是相对相同数量的集群IB 在三层网络架构下,IB网络需要568个 QM8790 40port交换机每单价预计为1.5-1.8w美元;TPU集群只需48个 OCS交换机128端口(总共136端口,8个测试端口)。因此,光学部分的成本可以降低。
例如,TPUV4,根据信息平等权利,单卡约为数千美元,即使标杆A100更便宜,交换机和光模块部分也可以节省,因此该系统是谷歌的一个具有成本效益的系统。即使TPUV5的价格更高,它也比H100便宜。
3D 与Clos网络相比,Torus具有更低的延迟性,特别有用于密集I/O的并行任务;同时,它有一个更好的临近域,因为大量的workload只在相邻的局部区域流动;此外,对于相同数量的节点,网络直径较低 Torus使用的交换机/线材保有量较低,网络层次较少。同时,可重配路由,支持动态可重配路由,无需等待整个网络收敛,容易隔离离线故障节点。
[影响1:光模块的比例与预期没有区别,更应注意绝对连接的数量]
TPU-V5P对应800G光模块。在3D-Torus架构下,每个TPUV5p芯片有6个ICI互联,而V5p芯片有6个ICI互联。 ICI PER CHIP总带宽为4800GB/s,即单ICI互联端口速度为800GB/s。
与TPUV4相比,我们预计TPUV5p对应的800G光模块数量约为1:1.5-1:2.这是谷歌今年早些时候发布的市场已知信息,后续有上调空间。TPU集群的连接逻辑如下:1)相同的Rack(64个芯片,16个Package/Tray)内部互联使用铜缆;2)不同Rack的Package/Tray互联使用光模块,通过OCS互联(光模块必须通过OCS);3)考虑每个Rack外部互联的数量,与OCS的端口数相匹配,Rack的外部连接是96 Optical Link,共有64个Rack,对应64*96=6144个Rack,最终比例为4096:6144=1:1.5。以上为TPUV4 如果是TPUV5p,4096芯片 8960芯片也将同比缩放。以上为TPUV4 如果是TPUV5p,4096芯片 8960个芯片也将同比缩放。但由于目前800G电缆很少,电缆互联部分很可能会被800G光模块取代,因此有增加的空间(实际部署可能是1:2或以上)。
我们认为谷歌使用低成本的人工智能芯片解决方案,因为人工智能芯片相对便宜,网络数量可以非常大,绝对数量将推动更多的光模块需求,因此它也对应于2024年G产生的大量800G需求。该业务主要通过博通Custom 台积电流片ASIC业务,博通FY24业务指导非常积极,我们预计未来G订单量将继续超出预期。
[影响2:试着找出OCS(Optical Circuit Switch)相应的产业链]
OCS很早就应用于谷歌Jupiter数据中心,其主要特点是不需要光电转换(因此OCS上没有光模块),其特点是可以快速扩展不同速度的Spine block,因此,每一轮速率升级G都是第一个需求,因为OCS使不同速率的Spine Block和Aggregation Block可以相互兼容。为此,G客户需要500m-2km的波分光模块(FR系列等)。).
OCS光交换系统的主要组成部分包括MEMS振动器、850nm光源、摄像头模块、2D透镜阵列、环形器(光模块侧、减少光纤)、波分光模块、滤波器片。主要有光迅技术(MEMS光开关,具有MEMS能力)、腾景科技(滤波片)等。,但需要注意的是,目前只是映射,没有供应关系。
国内厂商有太辰光(数据中心连芯)和德科立(骨干网OXC更好的节点光背板)的光交换背板能力。值得注意的是,这里的光交换背板是固定的,这与谷歌的OCS可以通过MEMS动态调整进出光路不同。记录私人圈
投资:
1)关注G产业链,重点目标【中际旭创】;
2)关注OCS映射,受益标的【光迅科技】【太辰光】【德科立】【腾景科技】【源杰科技】
下一篇:12月8日中阳会议精神
10月10日,上交所再次举行券商座谈会,现场宣讲并购重组最新政策精神,并就进一步活跃并购重组市场、打通政策落地“最后一公里”听取意见建议。中信证券、中金公司、中信建投、华泰联合、国泰君安、国信证券、东方证券、广...
来源:券商中国作者:时谦今天早盘,A股市场波动较大,但经过一段下挫之后,很快就被多头拉起。而从盘面来看,以代码601开头的大盘蓝筹股(亦是高股息板块)今天表现非常突发,红利ETF大多涨幅在4%左右水平。那么,究竟又是何逻辑呢?分析...
中字头及红利资产全天保持强势,沪深两市交易量连续第4日突破2万亿元!市场对后续政策的期待仍在升温。今日(10月10日),A股三大股指走势分化,截至收盘,上证指数涨1.32%,深证成指跌0.82%,创业板指跌2.95%。全市场个股涨多跌少,超30...
要点1通化东宝控股股东所持股份质押率高遭质疑,公司董事长李佳鸿称,系东宝集团投资项目周期长造成;要点2业绩方面,李佳鸿预计称下半年公司营收将逐季恢复;要点3公司还对新产品销售情况做了介绍。财联社10月10日讯(记者 何凡...
要点1海外市场需求持续旺盛,赛轮轮胎预计公司前三季度业绩同比增约六成;要点2天然橡胶、炭黑、合成橡胶等生产原材料均有涨价,为应对成本压力,多家轮胎公司宣布产品涨价。财联社10月10日讯(记者 肖良华)海外市场需求持续旺...
本文“TPUV5p,4096芯片 8960个芯片也将同比缩放”由壹米财经整理发布,欢迎转载收藏,转载请带上本文链接。
免责声明:【壹米财经】发布的所有信息,并不代表本站赞同其观点和对其真实性负责,投资者据此操作,风险请自担。部分内容文章及图片来自互联网或自媒体,版权归属于原作者,不保证该信息(包括但不限 于文字、图片、图表及数据)的准确性、真实性、完整性、有效性、及时性、原创性等,如有问题,请联系我们!