英伟达为大模型推出E级AI超算,谷歌、Meta和微软将成首批用户
·“我们正在重新发明计算机,加速计算和人工智能标志着计算正在被重新定义。”
·DGX GH200提供1 Exaflop的性能,成为E级超级计算机,内存是2020年推出的上一代超级计算机DGX A100的近500倍。
“我们正在重新发明计算机,加速计算和人工智能标志着计算正在被重新定义。”5月29日,身着标志性黑色皮衣的英伟达CEO黄仁勋在台北举行近4年来的首场线下主题演讲。黄仁勋出生在中国台湾省南部,小时候跟家人移民美国,在现场演讲中他时而用普通话,时而说台语,还用AI作曲带领现场观众唱卡拉OK。
这场演讲是台北国际电脑展COMPUTEX的一部分,黄仁勋宣布GH200 Grace Hopper超级芯片正式投产,并公布由256个GH200驱动的新型DGX GH200 AI超级计算机。
“DGX GH200 AI超级计算机集成了英伟达最先进的加速计算和网络技术,以拓展AI的前沿。”黄仁勋在主题演讲中表示,谷歌、 Meta和微软将成为首批使用DGX GH200以探索其生成式AI功能的公司。该系统预计于2023年底上市,目前未公布价格。据英伟达方面介绍,DGX GH200的内存是2020年推出的上一代超级计算机DGX A100的近500倍。
“人工智能意味着,每个人现在都可以成为计算机程序员,因为他们需要做的就是与计算机对话。”黄仁勋说,我们已经缩小了数字鸿沟,“它很容易使用,这是它增长如此之快的原因,它将触及每一个行业。”此前,黄仁勋称人工智能的iPhone时刻已经来临,引起热议。
作为人工智能芯片和计算系统的主要供应商,英伟达已成为全球市值最高的半导体上市公司。上周,英伟达发布财报对下个季度的收入作出了超出分析师预期53.2%的预测,随后股价暴涨,市值一天内增加2000亿美元,相当于涨出了一个AMD、两个英特尔、三个美光。
成为E级超级计算机
GH200超级芯片使用英伟达NVLink-C2C芯片互连,将基于Arm的英伟达Grace CPU与英伟达H100 Tensor Core GPU整合在一起,从而不再需要传统的CPU至GPU PCIe(高速串行计算机扩展总线标准)连接。
据英伟达介绍,与最新的PCIe技术相比,这将GPU(图形处理器)和CPU(中央处理器)之间的带宽提高了7倍,将互连功耗至少减少为原来的五分之一,并为DGX GH200超级计算机提供了一个600GB的Hopper架构GPU构建模块。
DGX GH200是第一款将Grace Hopper超级芯片与英伟达NVLink Switch System配对使用的超级计算机,这种新的互连方式使DGX GH200系统中所有的GPU作为一个整体协同运行。上一代系统在不影响性能的前提下只能通过NVLink把8个GPU整合成一个GPU。
DGX GH200提供1 Exaflop(每秒可以至少进行百亿亿次浮点运算)的性能,成为E级超级计算机(每秒可进行百亿亿次浮点运算的超级计算机)。
相比英伟达的上一代超级计算机,DGX GH200架构将NVLink带宽提升了48倍以上,实现在单个GPU上通过简单编程即可提供大型AI超级计算机的能力。
微软Azure基础设施企业副总裁Girish Bablani表示: “以往训练大型AI模型是一项资源和时间密集型任务。DGX GH200所具备的处理TB级数据集的潜力,使得开发人员能够在更大规模和更快速度下进行高级别的研究。”
“世界上最快的AI超算Israel-1”
为了支持超大规模生成式AI的应用,英伟达还推出加速网络平台Spectrum-X,这是一种专为生成式AI工作负载而构建的高性能以太网架构,可以减少基于transformer的大规模生成式AI模型的运行时间。此外,英伟达正在构建一台超大规模生成式AI超级计算机Israel-1,其将被部署在英伟达以色列数据中心。
价值数亿美元的Israel-1预计将于2023年底开始早期生产,将以8 Exaflop的性能运行,英伟达称其会成为世界上最快的AI超级计算机之一。
黄仁勋认为,现在的数据中心就是超级计算机,接下来的重点在于怎样把AI功能加入到这些计算机中,“这对芯片的设计和性能功耗等都提出了新的要求。”
在游戏领域,英伟达Avatar Cloud Engine(ACE)for Games生成式AI有望使游戏玩家与游戏角色进行自然拟真的互动。利用英伟达的ACE工具,开发者可以部署用于语音、对话和动画的自定义AI模型,使游戏角色与玩家的互动更具变化,同时人物的表情与动作也更符合角色对话内容。
总体而言,整场COMPUTEX演讲都围绕着生成式AI。在5月27日的台湾大学毕业典礼上,黄仁勋对毕业生发表致辞时说,“自动化工作将淘汰一些工作,毫无疑问,AI会改变每一个工作,大幅加强程序员、设计师、艺术家、营销人员和制造计划人员的工作表现。就像在你们之前的每个世代,拥抱科技以获得成功。每个公司与你必须学会利用AI的优势,在AI的帮助下做出惊人成就。”