AI巨头筹划价值1100多亿美元的超级计算机项目

智能计算   作者:finance 时间:2024-04-02来源:半导体产业纵横

据报道,Microsoft 和 OpenAI 正在开发一个大型数据中心,以容纳一台拥有数百万个 GPU 的专注于 AI 的超级计算机。The Information 报道称,该项目的成本可能「超过 1150 亿美元」,而目前在 OpenAI 内部被称为「星际之门」(Stargate)的超级计算机将位于美国。

该报告称,Microsoft 将为数据中心买单,该数据中心可能比当今一些最大的运营中心「成本高出 100 倍」。Stargate 将是两家公司希望在未来 6 年内建立的一系列数据中心项目中最大的一个,高管们希望在 2028 年之前运行它。

报告称,OpenAI 和 Microsoft 正在分阶段构建这些超级计算机,Stargate 将是第 5 阶段的系统。The Information 的消息人士称,第 4 阶段的系统成本更低,最早可能在 2026 年启动,并且可能希望在威斯康星州的 Mt. Pleasant 开始。该系统可能需要几个 Stargate,还需要足够的电力供应(至少几千兆瓦),以至于 Microsoft 和 OpenAI 正在考虑替代能源,例如核能。

消息人士表示,这种规模的数据中心将具有挑战性,部分原因是现有设计需要「将比过去更多的 GPU 放入单个机架中,以提高芯片的效率和性能,这意味着还要设计新颖的方法来保持良好的散热性能。

听起来这些公司也有可能利用这个设计来摆脱对英伟达的依赖。该报告称,OpenAI 希望避免在 Stargate 中使用英伟达的 InfiniBand 电缆,尽管 Microsoft 在当前的项目中使用它们。OpenAI 声称它宁愿使用以太网电缆。

很多事情仍有待确定,因此价格和计划似乎都可能发生变化,目前尚不清楚何时会最终确定细节。该信息还指出,尚未确定这台计算机将位于何处,以及它是将构建在单个数据中心还是「邻近的多个数据中心」中。

今年早些时候,有报道称,OpenAI 首席执行官山姆·阿尔特曼(Sam Altman)雄心勃勃地制造人工智能芯片,并希望筹集多达 7 万亿美元来建设晶圆厂来生产它们。去年,Microsoft 发布了专门用于 AI 项目的 128 核 Arm 数据中心 CPU 和 Maia 100 GPU。也有报道称,Microsoft 为人工智能数据中心开发自己的网络设备。随着人工智能的兴起,英伟达的 GPU 需求量很大,因此,像 Microsoft 和 OpenAI 这样的公司可能希望有一些其它选择是有道理的。

「我们一直在规划下一代基础设施创新,以继续推动人工智能的发展,」Microsoft 首席通信官弗兰克·肖(Frank Shaw)告诉 The Information,但他没有直接评论该超级计算机计划。

Microsoft 在与 OpenAI 的合作中投入了数十亿美元,主要是以计算能力的形式运行其模型。如果 Stargate 或类似的东西成为现实,随着投资的规模越来越大,而且越来越复杂,这种伙伴关系只会越来越深。

美国超算有哪些?

2023 年 11 月,全球超级计算大会正式公布了第 62 期全球超级计算机 TOP500 排行榜,美国橡树岭国家实验室的 Frontier 仍保持着第一名位置,中国的神威·太湖之光和天河二号 A 也进入了前十五,分别排名第 11 和第 14。

排名第一的 Frontier 以 1.194 EFlop/s 的 HPL 性能继续保持领先地位。其搭载了基于最新的 HPE Cray EX235a 架构的 2GHz AMD EPYC 64C 处理器,共有 8699904 个 CPU 和 GPU 核心。此外,Frontier 还具有高达 52.59 GFlops/W 的额定能效,并可借助于 HPE 的 Slingshot 11 网络进行数据传输。

排名第二是美国阿贡国家实验室的 Aurora 超级计算机,其以 585.34 PFlop/s 的 HPL 性能杀入榜单。需要指出的是,此次 Aurora 的数值是在当前未完全建成状态下提交的,目前仅有计划中最终规模的一半。根据规划,Aurora 在建设完成后将配备 21248 个 Intel Xeon Max 系列 CPU、63744 个 Intel Max 系列 GPU、20.42PB 内存,峰值性能可达 2 EFlop / s,远超 Frontier。

排名第三的是安装于微软美国 Azure 云中的 Eagle,HPL 性能为 561.2 PFlop/s,这也是云服务厂商取得的最高排名。其基于英特尔至强铂金 8480C 处理器和英伟达 H100 打造。

排名第四的是日本的富岳超级计算机,HPL 分数为 442.01 PFlop/s,基于富士通自研的基于 Arm 架构的 48 核处理器 A64FX,总共装有大约 16 万个 CPU 芯片。

排名第五的是来自芬兰卡亚尼欧洲高性能计算中心的超级计算机 LUMI,HPL 性能达 379.07 PFlop/s,基于 HPE Cray EX235a 架构,配备了 2GHz AMD EPYC 64C 处理器和 AMD Instinct MI250X GPU。

排名第六的是意大利 CINECA 的一个 EuroHPC 站点上的 Leonardo 系统,HPL 性能达 238.7 Pflop/s。它是一个 Atos BullSequana XH2000 系统,处理器为 Intel Xeon Platinum 8358 32C 2.6GHz,加速器为 NVIDIA A100 SXM4 40 GB,采用四轨 NVIDIA HDR100 Infiniband 作为互连。

排名全球第七是美国田纳西州橡树岭国家实验室(ORNL)的 Summit 超级计算机,由 IBM 打造,目前在 HPL 性能为 148.8 Pflop/s,拥有 4,356 个节点,每个节点配备两个 POWER9 CPU(每个具有 22 个核心)和 6 个 NVIDIA Tesla V100 GPU(每个含有 80 个 SM),通过 Mellanox 双轨 EDR InfiniBand 网络保持连接。

第八名是西班牙 EuroHPC / 巴塞罗那超级计算中心最新安装的 MareNostrum 5 ACC 超算系统,这个 使用 Xeon Platinum 8460Y 处理器以及 NVIDIA H100 和 Infiniband NDR200,实现了 183.2 Pflop/s 的 HPL 性能。

排名第九的新 Eos 系统是英伟达打造的基于 DGX SuperPOD 的系统,配备 Intel Xeon Platinum 8480C 处理器、NVIDIA H100 加速器和 Infiniband NDR400 的 NVIDIA DGX H100,实现了 121.4 Pflop/s 的性能。

排名第十的是美国加利福尼亚州劳伦斯利弗莫尔国家实验室的 Sierra 系统。它的架构与排名第七的系统 Summit 非常相似,由 4,320 个节点组成,每个节点配备两个 POWER9 CPU 和四个 NVIDIA Tesla V100 GPU,可实现 94.6 Pflop/s 的性能。

此外,GREEN500 排名第一的位置仍然是美国纽约熨斗研究所的 Henri。该系统的能效等级为 65.40 GFlops / Watt,同时 HPL 得分为 2.88 PFlops / s。Henri 是一台联想 ThinkSystem SR670,配备 Intel Xeon Platinum 和 NVIDIA H100,共有 8,288 个核心,在 TOP500 排行榜上排名第 293 位。

关键词: 超级计算机

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章


用户评论

请文明上网,做现代文明人
验证码:
查看电脑版