当前位置:首页 > 快讯 >

英伟达全新GPU B200发布:一台服务器相当于一个超级计算机

来源:小编 | 更新时间:2024-04-29 08:20:01

在今天开幕的GTC 2024上,黄仁勋带来了新的B200 GPU,其拥有2080亿个晶体管,可提供高达20petaflops的FP4算力。

英伟达全新GPU B200发布:一台服务器相当于一个超级计算机

至于GB200,就是将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达也形象给出了提升的高度,比如训练一个1.8万亿个参数的模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。

不过,英伟达并没有公布关于B200和其相关产品的价格,只表示亚马逊、谷歌、微软和甲骨文等公司都已计划在其云服务产品中装配NVL72机架,但没有公布这些公司的购买数量,只透露了亚马逊AWS已计划采购由2万片GB200芯片组建的服务器集群,可以部署27万亿个参数的模型。

热门快讯

推荐攻略

免责声明:本网站的所有信息均来自于互联网收集 如有侵犯到您利益的地方请联系管理及时处理,尽请见谅!

QQ:1059808294 邮箱:civets2022@163.com CopyRight©2022-2030 www.lolwz173.com