配资开户服务:全国前三股票配资-拳打亚马逊、脚踢谷歌TPU 微软发布新一代AI加速器Maia 200

  继去年底谷歌、亚马逊先后发布自研算力芯片后,同为全球云计算“三巨头”的微软终于在本周“交卷 ”——传闻已久的Maia 200芯片正式面世 。

  微软在公告中表示 ,这款“为推理而生 ”的芯片在多项测试中超越亚马逊的第三代Trainium和谷歌第七代TPU 。因此 ,微软将Maia 200公开称为“所有超大规模云服务商中性能最强的自研芯片”。

  (来源:公司官网)

  据公司介绍,Maia 200采用台积电3nm工艺制造,内建原生FP8/FP4张量核。每颗芯片包含超过1400亿个晶体管 ,专为大规模AI工作负载量身打造,特别是采用低精度计算的最新一代AI大模型 。

  微软披露,单颗Maia 200芯片在4位精度(FP4)可提供超过10 PetaFLOPS的算力 ,在8位精度(FP8)下也能超过5 PetaFLOPS,而且整个SoC的热设计功耗能够控制在750W以内。科技巨头强调,在实际运行中 ,单块Maia 200就能轻松运行当今最大的AI模型,同时还为未来更大型的模型留有余量。

  除了芯片本身的算力外,微软也在存储参数上猛“堆料” 。公司披露 ,Maia 200配备216GB 、带宽达7TB/s的HBM3e,以及272MB的片上SRAM。在拓展层面,每块芯片提供2.8TB/s的双向专用扩展带宽 ,支持在6144个加速器集群中提供可预测的高性能集合操作。

  因此 ,微软芯片在“跑分 ”上赢过另外两家竞品也在情理之中 。微软在公告中表示,Maia 200的FP4性能是亚马逊第三代Trainium的3倍有余,且在FP8性能上超越谷歌第七代TPU。

  除了性能外 ,作为云服务商的自研芯片,省钱也是一项关键指标。微软透露,Maia 200是公司迄今部署过的效率最高推理系统 ,其“每美元性能”相比当前机群中最新一代硬件提升了30% 。

  作为云服务商竞相推出自研芯片的背景,随着AI服务日渐成熟,推理成本已经成为整体运营中日益重要的部分 ,促使云服务供应商关注如何单独为这块需求提供更具性价比的方案,特别是要比英伟达GPU更具性价比。本质上,微软 、谷歌和亚马逊发布的自研芯片 ,都是在承担原本需要英伟达GPU处理的计算任务,从而降低整体成本。

  非常有趣的是,微软似乎不止“优化”了英伟达的芯片 。公司披露 ,每台Maia 200服务器中包含4块芯片 ,依靠以太网连接,而不是InfiniBand标准 。而InfiniBand交换机正是英伟达在2020年收购Mellanox后所销售的产品。

  微软透露,目前正在为美国中部地区的数据中心配备最新款芯片 ,之后会在更多地点部署。目前尚不清楚Azure云服务的用户何时能使用搭载该芯片的服务器 。

  微软此前也表示,已经在设计该芯片的后续产品Maia 300。科技巨头也与OpenAI达成协议,可以使用初创公司的芯片设计。

(文章来源:财联社)

你可能想看:

上一篇:配资靠谱股票配资门户:广州股票配资公司-卢拉与特朗普通电话 讨论两国关系和委内瑞拉局势
下一篇:配资软件:北京实盘配资平台-603798,筹划重大事项“一日游”!明天复牌

发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。