行情频道: 行情 / 知识 / 新股 / 要闻 / 基金 /

英伟达推出H200,人工智能再次加速!

在今天美国股市开盘前,英伟达投资者关系官方网站宣布推出NVIDIA HGX H200用于生成人工智能和高性能计算工作负载。此前,市场预计H200产品将于24年发布,H200的发布显然超出了预期。

HBM3e首次用于H200,可以加速生成 AI 和大型语言模型,4.8TB/s速度提供 141GB 内存,与A100 相比之下,容量几乎翻了一番,带宽增加了 2.4 倍。H200将于2024Q2正式发货。

英伟达表示,与H100相比,训练700亿参数的Llama2模型的速度几乎翻了一番。预计未来的软件更新将为H200带来更多额外的性能优势。H200与H100的硬件和软件兼容,可与GH200兼容。

点评:从计算能力的角度来看,H200与H100几乎相同。本次升级的主要原因是HBM3e。相应的带宽改进直接提高了大模型训练效果,再次证实了打破“通信墙”的重要性。

计算核心环节光通信:中际旭创、新易盛、天府通信、源杰科技、太辰光、腾景科技、盛科通信等。 仅供参考的网络

相关阅读

本文英伟达推出H200,人工智能再次加速!由壹米财经整理发布,欢迎转载收藏,转载请带上本文链接。
免责声明:【壹米财经】发布的所有信息,并不代表本站赞同其观点和对其真实性负责,投资者据此操作,风险请自担。部分内容文章及图片来自互联网或自媒体,版权归属于原作者,不保证该信息(包括但不限 于文字、图片、图表及数据)的准确性、真实性、完整性、有效性、及时性、原创性等,如有问题,请联系我们! 分享到: 新浪微博 微信

扫描左侧二维码
看手机移动端,随时随地看 股票 新闻