英伟达:CPU 已落伍,用 GPU 训练大语言模型成本可降低 96%|环球热点

时间:2023-05-29 16:32:52 来源: IT 之家



【资料图】

据英伟达在 2023 年台北电脑展会上的演讲,该公司宣称其 GPU 可以大幅降低训练大型语言模型(LLM)的成本和耗能 ... 相比之下,如果保持成本不变,购买一个价值 1000 万美元的 GPU 集群,可以在同样的成本和更少的电力消耗(3.2 千兆瓦时)下训练 44 个 LLM ... 如果转而保持电力消耗不变,那么可以通过 GPU 集群实现 150 倍的加速,以 11 千兆瓦时的电力消耗训练 150 个 LLM,但这需要花费 3400 万美元,此外这个集群的占地面积比 CPU 集群小得多。

关键词:


关于我们 加入我们 广告服务 网站地图

All Rights Reserved, Copyright 2004-2022 www.yunxinxi.cn

如有意见请与我们联系 邮箱:317 493 128 @qq.com

粤ICP备2022077823号-5    信息网 版权所有