上周跟在奥斯汀xAI做运维的发小撸串,他裤腿上还沾着没洗干净的油点。这三个月他天天跑德州的天然气电厂谈供电协议,连周末都没歇过。我逗他,之前你们老板不是喊着要搞全太阳能供电的超算集群么,怎么现在跟化石能源打上交道了。他翻了个白眼,入职时HR也是这么跟他说的,

到现在连光伏板的影子都没见着。纯画饼。
真实能耗远超公开宣传
我之前帮国内某云厂商算过A100集群的功耗。满负荷跑,单卡每小时差不多400瓦,算上散热和供电损耗,实际能耗至少得在公开标称后面加个零。万卡集群一天耗的电,顶一个十八线小县城用一整年。xAI现在手里攥着差不多10万张H100,光跑预训练,每天两百万人民币电费打不住。
德州公共电网什么德行我早有耳闻,去年冬天暴雪直接断了一周的电。跑训练跑到一半断电,损失的根本不是那点电费,是几个月的时间窗口。天然气电厂就不一样了。直接拉专线连超算中心,根本不用走