一、事件
谷歌(Google)在发布多模态大模型Gemini的同时,还推出了一款全新的TPU,面向云AI加速 v5p ,这也是谷歌迄今为止最强大、最具成本效益的功能 TPU(云张量处理单元)。
据介绍,每一个 TPU v5p Pod 由多达 8,960 每个芯片由带宽最高的芯片间连接(每个芯片) 4,800 Gbps)互联,保证快速传输速度和最佳性能。
就AI性能而言,TPU v5p可以提供459 teraFLOPSbfloat16(16位浮点格式)性能或918(每秒可执行459万亿浮点运算) teraOPSInt8(8位整数)的性能支持95GB的高带宽内存,每秒可以执行918万亿次整数运算),可以使用2.76 TB/s速度传输数据。
与TPU 与v4相比,新发布的TPU v5p有两倍的FLOPS(每秒浮点操作)和三倍的高内存带宽提升,这在人工智能领域是惊人的。
另外,在模型训练方面,TPU v5p 在 LLM(大语言模型)训练速度显示 2.8 即使与TPU相比,倍代际提升, v5e也有50%左右的提升。谷歌也挤出了更多的计算能力,因为 TPU v5p“就每个 Pod 的总可用 FLOP 可扩展性比 TPU v4 高 4 倍”。
二、简介
共封装光学(CPO, co-packagd optics)是一种新型的光电子 集成技术,将激光器、调制器、光接收器等光学器件封装在芯片级别,通过光互连直接集成到芯片中的电路中,提高通信系统的性能和功率效率。
共包装光学器件的关键创新之一是将光学器件移动到足够接近SwitchASIC裸片的位置,以便在CPO的帮助下移除额外的DSP。网络交换机系统中的光接口从交换机外壳前端的可插拔模块转换为与交换机芯片组装在同一包装中的光模块。
在传统的光通信系统中,光模块与芯片之间需要复杂的连接,CPO技术可以在同一包装中包装光模块和芯片,大大降低了连接长度和距离,提高了通信效率。
传统的计算时代可插拔光模块功耗限制突出,CPO 降本增效迎发展良机。
随着大数据、云计算、人工智能等复杂应用需求的发展,对数据中心数据传输速率的要求不断提高。诸如谷歌、Meta、亚马逊、微软或阿里巴巴等计算巨头数万台交换机的部署正在推动数据速率从100GBE向400GBE和800GBE向更高速的数据链路的发展,铜缆传输数据功耗的上升已成为传统可插拔光模块面临的最大挑战。
CPO技术路径可以通过减少能量转换步骤来降低功耗。与传统的光模块相比,CPO可以在相同的数据传输速率下降低约50%的功耗,这将有效解决高速高密度互连传输场景下难以大大提高数据传输能力的问题。与此同时,与以II-V材料为基础的传统光技术相比,CPO CPO技术路径的成功应用提供了技术保障,主要利用硅光技术的成本和尺寸。
三、展望
目前,大计算力应用场景的快速发展将加速光模块从800G向1.6T的进一步发展。在1.6T速率下,传统可插拔光模块的集成和功耗将更加突出,具有性能优势的CPO方案有望作为加速发展的重要技术路径。根据咨询机构Lightcounting的预测,全球CPO端口销量将从2023年的5万增长到2027年的450万,四年内将增长90倍。
人工智能计算能力应用场景的加速发展预计将增加对上游光通信领域相关产品的需求,加快新技术的发展。CPO预计将成为未来技术发展的重要方向,因为其各种性能优势。在CPO和硅光领域,建议重点关注中际旭创、新易盛、光迅科技、博创科技、德科立、CPO相关光发动机和光器件。建议重点关注天府通信、CPO相关光芯片、源杰科技、石家光子等实力突出的光芯片制造商。
方正证券认为,CPO技术已成为2024年800G模块大规模应用的重要技术路径。由于800G和1.6T可插拔模块利用100G和200G单波长光学器件的优点,可以在QSFP-DD和OSFP-在XD包装中实现技术和成本效益。但在所需的电气和光学密度、热管理和能源效率方面,支持6.4T和12.8T容量的能力将受到限制。由于离散电气设备的使用,功耗和热管理正成为未来可插拔光学的限制因素。使用硅光子学技术平台的共包装(CPO)克服上述挑战的目的。与NPO相比,CPO模块更接近主机ASIC,可以实现更低的信道损耗和功耗。Yole预计将在未来10年整合可插拔技术,CPO市场将形成多供应商的商业模式。
10月10日,上交所再次举行券商座谈会,现场宣讲并购重组最新政策精神,并就进一步活跃并购重组市场、打通政策落地“最后一公里”听取意见建议。中信证券、中金公司、中信建投、华泰联合、国泰君安、国信证券、东方证券、广...
来源:券商中国作者:时谦今天早盘,A股市场波动较大,但经过一段下挫之后,很快就被多头拉起。而从盘面来看,以代码601开头的大盘蓝筹股(亦是高股息板块)今天表现非常突发,红利ETF大多涨幅在4%左右水平。那么,究竟又是何逻辑呢?分析...
中字头及红利资产全天保持强势,沪深两市交易量连续第4日突破2万亿元!市场对后续政策的期待仍在升温。今日(10月10日),A股三大股指走势分化,截至收盘,上证指数涨1.32%,深证成指跌0.82%,创业板指跌2.95%。全市场个股涨多跌少,超30...
要点1通化东宝控股股东所持股份质押率高遭质疑,公司董事长李佳鸿称,系东宝集团投资项目周期长造成;要点2业绩方面,李佳鸿预计称下半年公司营收将逐季恢复;要点3公司还对新产品销售情况做了介绍。财联社10月10日讯(记者 何凡...
要点1海外市场需求持续旺盛,赛轮轮胎预计公司前三季度业绩同比增约六成;要点2天然橡胶、炭黑、合成橡胶等生产原材料均有涨价,为应对成本压力,多家轮胎公司宣布产品涨价。财联社10月10日讯(记者 肖良华)海外市场需求持续旺...
本文“传统的计算时代可插拔光模块面临的最大挑战”由壹米财经整理发布,欢迎转载收藏,转载请带上本文链接。
免责声明:【壹米财经】发布的所有信息,并不代表本站赞同其观点和对其真实性负责,投资者据此操作,风险请自担。部分内容文章及图片来自互联网或自媒体,版权归属于原作者,不保证该信息(包括但不限 于文字、图片、图表及数据)的准确性、真实性、完整性、有效性、及时性、原创性等,如有问题,请联系我们!