投资银行摩根士丹利在最新发布的报告中指出,超大规模数据中心运营商若采用英伟达当前主流的Blackwell AI GPU来建设一个1吉瓦容量的数据中心,其整体建造成本将是使用谷歌TPU或亚马逊Trainium芯片搭建同等规模数据中心的两倍之多。
尽管基于英伟达Blackwell芯片建设数据中心会导致成本翻倍,但摩根士丹利认为,这种芯片的计算效率远优于定制化芯片,从而在性能上具备显著优势。
在报告中,摩根士丹利对英伟达多款GPU与亚马逊及谷歌的定制ASIC芯片进行了每瓦TFLOPS性能的详细对比。测算结果显示,英伟达芯片在每瓦性能方面比这些定制ASIC芯片高出2到8倍,显示出更高的能效表现。
此前,英伟达首席执行官黄仁勋曾多次公开强调,尽管公司芯片的初始价格较高,但从长期来看,这些芯片能够为客户创造更高的投资回报,从而弥补成本上的劣势。
在具体的每瓦浮点运算性能得分方面,英伟达计划推出的下一代Vera Rubin FP4架构芯片以19.5的高分位居榜首,表现出众。其他英伟达芯片,如Vera Rubin FP8得分为6.8,GB300 FP8得分为6.0,H100 FP8得分为3.1,均展现了稳定性能。
作为对比,谷歌的TPUv7 FP8得分为4.3,亚马逊的Trn3 FP8得分仅为2.5,这两款定制芯片的性能大致介于英伟达Blackwell和上一代Hopper之间,部分指标甚至低于Hopper,显示出与英伟达产品的差距。
不过,评估AI芯片性能时还需考虑其他维度。人工智能基础设施提供商Nebius分析指出,另一个关键衡量标准是每百万Token的生成成本与GPU每小时运行成本的比值,这直接关系到实际应用的经济性。
根据Nebius的测算,Groq AI芯片每生成百万Token的成本为5到10美分(约合0.34至0.68元人民币),生成速度可达每秒800个Token,展现出高效且低成本的特点。
相比之下,英伟达Blackwell芯片每生成百万Token的成本为25美分(约合1.70元人民币),生成速度约为每秒450个Token,虽然成本较高,但在性能上也具备其他优势。
来源:快科技
催眠贵族游戏1.0.23
角色扮演
查看
我的休闲时光内置菜单破解版v3.10.01
热门软件
查看
樱花校园模拟器1.039.90最新版英文版v1.039.76
热门软件
查看
忍者必须死3内置作弊菜单破解版v2.0.97
热门软件
查看
部落冲突无限火力魔改版v18.200.5
热门软件
查看
promovie专业摄像机官方正版v1.11
热门软件
查看
Roblox内置菜单最新版2024v2.627.45
热门软件
查看
残酷的自行车特技游戏(TheGrimDonutGame)v1.11
赛车竞速
查看
地铁跑酷解锁全皮肤全滑板全背饰v3.21.0
热门软件
查看