9999算力 算力生意,一手判断

B300 / GB300 / H200:别买错,也别被参数唬住

规则服务器居间2026-09-27

一份配置单递过来:B300、GB300、GB200、H200、H100、H800、H20 混着写,
后面跟着显存、带宽、算力、功率一串数字。

这些字母组合决定的不是「快多少」,是「你的机房能不能接住、
你的模型跑不跑得动、你以后要不要重买一次」。

这一篇只解决三件事:这些型号分别是什么、哪个参数是硬门槛、什么时候买上一代反而对。

一、先分清两条产品线

最容易被混着叫的是这四个:B200、B300、GB200、GB300。
它们其实是两条不同的产品线:

B 系列(B200 / B300)GB 系列(GB200 / GB300)
形态风冷机架式 8 卡 HGX 服务器液冷超节点整柜
GPU 规模8 颗72 颗 GPU / 144 颗 Blackwell 芯片
整机功率15 kW 量级整柜 130~150 kW
机房要求普通机房可以直接上必须配液冷机柜

差别不用看太多行,看最后一行就够:「普通机房能不能上」。 B 系列能,GB 系列不能。

二、四个数字,先记这四个

B300 和 H100 不是一代东西 —— 一个是 Blackwell Ultra,一个是 Hopper。
单卡上最该记住的是这四个数:

  • 显存 288GB HBM3e(H100 是 80GB,3.6 倍)
  • 带宽 8TB/s(H100 是 3.35TB/s)
  • FP4 算力 18PFLOPS
  • 功耗 1000W 以上 —— 必须液冷,风冷压不住

为什么被抢成这样,一句话:万亿参数的 MoE 模型,一台 B300 刚好装得下,H100 要两台。
装得下和装不下,差的不是速度,是「能不能跑」。

三、算力差多少:一个节点和一个整柜差一个数量级

按 FP16 算:

  • 单个 B 系列节点 —— 36P
  • 单个 GB 系列整柜 —— 360P

也就是说,一台 GB200 ≈ 10 台 B200 ≈ 22.5 台 H200(GPU 数量差 9 倍,算力差 10 倍)。

这个十倍不是靠堆芯片堆出来的。下一节讲它差在哪。

四、柜级全互联 vs 多台 8 卡堆叠:实测差 9 倍

同样是 B300 芯片,实测能差出 9 倍:

  • GB300 NVL72 整机柜 —— 单卡 token 吞吐 7700/s
  • 普通 8 卡 B300 服务器 —— 单卡只有 800/s

差在哪?不是芯片,是互联。

  • 柜内 72 卡在同一个 NVLink 域,全互联
  • 跨服务器要走 IB 网络,延迟直接吃掉推理性能
  • 真正的瓶颈是 KV 缓存跨卡传输

所以选型的第一个问题不是「买几台」,是「这些卡要不要待在同一个互联域里」。

五、上一代四张卡怎么排

  • H100 —— Hopper 架构(2022),80GB HBM3,主攻大规模训练
  • H200 —— 同架构升级,141GB HBM3、4.8TB/s,推理比 H100 快约 90%,功耗降 50%
  • H800 —— 对华特供版,砍了 NVLink 互联和双精度算力
  • H20 —— 进一步缩水,FP16 仅 148 TFLOPS,但保留 96GB 显存 + 4TB/s 带宽,靠多卡并联补算力

性能排序:H200 > H100 > H800 > H20。

后两张的降级点要单独看:砍的是算力和互联,不是显存。
所以它们属于「显存还在、互联没了」这一类 —— 单机跑得动,集群拉不开。

六、为什么功率和互联是硬门槛

把上面的参数分成两类,选型就清楚了。

硬门槛 —— 不满足就是不能买:

  • 整机功率。 机房接不住,机器到了也开不了机。B 系列 15 kW 量级、GB 系列整柜 130~150 kW,
    中间差的不是一点电费,是液冷改造、配电扩容、承重和消防。
  • 互联域。 要做长上下文、高并发的推理,卡不在同一个 NVLink 域里,参数再漂亮也发挥不出来。

软参数 —— 不够用是「慢」,不是「不能」:

  • 显存和带宽 决定模型装不装得下
  • 单卡算力 决定跑得快不快

这两类的差别在于:硬门槛是钱和工期的问题,软参数是体验的问题。
显存不够,理论上可以多台并联去换 —— 但「并联」这一步又回到了互联问题上。
绕一圈你会发现,最后卡住的还是机房和互联。

所以买机器之前先问自己一句:机房能不能接住这柜的功率。

★ 什么时候买上一代反而对

参数表容易让人得出「买新不买旧」的结论。但在采购决策上,上一代在很多场景里是正确选择:

① 机房接不住。 这是最常见的一条。B300 要液冷,GB 系列要整柜液冷。
如果机房是风冷、配电没余量、承重也不够,买新卡的结果是卡在仓库里等改造 ——
改造周期以月计,这段时间算力是零。

② 模型规模没到。 只有万亿参数 MoE 才需要单机 288GB 显存。
中小模型训练和普通推理,H100 / H200 的参数完全够用,多出来的显存你付了钱但用不上。

③ 只是小规模推理。 8 卡机够用,别为了「柜」多花那个钱。
柜级全互联的价值在长上下文、高并发;请求量不大的业务,感受不到那 9 倍。

④ 交易路径的确定性也是成本。 H200 这一档参数够用、比 B 系列便宜一档,
而且已经形成采购体系,交易路径比 B300 清晰得多。
跟进半天没成交的,可以先从 H200 入手 —— 这不是退而求其次,是先把业务跑起来。

⑤ 业务还没验证。 先用上一代小规模验证模型和商业化,跑通了再上柜级。
选型是为业务服务的,不是为参数表服务的。

★ 为了一个参数多付钱,值不值

这一节讲钱花在哪里会白花:

① 瓶颈在互联,为算力多付的钱就是白花的。
单卡算力再高,卡不在一个 NVLink 域里,KV 缓存跨卡传输照样把性能吃掉。
先确认瓶颈在哪,再决定钱花在芯片上还是花在互联上。

② 瓶颈在显存容量,为算力多付的钱也是白花的。
装不下的模型,快也不会变得能装。

③ 为「柜」付的钱,只有在并发量和上下文长度真的到量之后才回本。
柜级贵出来的部分买的是互联,不是芯片。业务用不到那个互联域,这笔溢价永远收不回来。

④ 一个实用判断:把多付的钱换算成单位算力成本。
H200 是这几代里最没争议的一档 —— 参数够用、体系成熟。
如果你的业务在 H200 上就能交付,那为 B 系列多付的溢价,要能用多出来的交付量赚回来,才叫值。
赚不回来,就是为参数表付钱。

★ 买错了的代价,比买贵了更贵

买贵了是多花钱;买错了是把工期、机房和架构全部重做一遍。

  • 功率买错 —— 机器到了开不了机。要配电扩容、上液冷、改承重和消防,周期以月计。
    这段时间里你付了钱、占着预算、却没有算力。
  • 互联域买错 —— 买多台 8 卡机,指望拼出柜级的性能,实测差 9 倍。
    补救办法是重做网络架构和推理框架,不是加机器。
  • 显存买错 —— 模型装不下,要么拆模型重写,要么再买一台。这是研发工期,比硬件贵。
  • 代际买错 —— 降级点砍在互联和算力上的那类卡(H800 / H20 这一档),
    单机跑得动、集群拉不开。等发现要的是集群性能,等于重买一次。
  • 保守的代价同样存在 —— 选型太保守,跑不动目标模型,一到两年内要再采购一次,
    两次采购的总成本高于一次买对。

所以选型时要算的不是单卡价格,是「这台机器能不能在我的机房里、跑我要跑的模型、撑两年」。

把上面的条件串一遍

推演 · 非真实案例 —— 下面把选型顺序走一遍。真实项目变量更多,但顺序一样。

假设一个团队要上推理业务:手上是风冷机房,单柜供电余量不大,
目标业务是长上下文、高并发的 token 服务,预算够得上柜级。

按参数表,第一反应是买 GB300 整柜。逐条对下来会发现顺序错了:

该先确认的情况结论
机房功率风冷、余量不足GB 系列整柜 130~150 kW,接不住 —— 先谈改造工期
互联需求长上下文、高并发确实需要柜级 NVLink 全互联,8 卡堆叠差 9 倍
显存万亿参数 MoE需要 288GB 级,H100 要两台才装得下
交易路径要尽快交付B300 期货交付不确定,H200 体系更清晰

这一步的价值在顺序:先确认机房能不能接住,再谈买哪一代。
反过来 —— 看到 9 倍的差距就直接下柜级的单 ——
结果是卡在仓库里等液冷改造,那 9 倍一天都用不上。

合理的走法是分两步:先用现有机房接得住的型号把业务跑起来(H200 这一档),
同时启动液冷改造;改造完成、业务量也验证过了,再上柜级。
这一步会多花一次钱,但不会让算力停工。

三句话分清对方是不是懂行

你问不懂行的回答懂行的回答
「这柜功率多少,我机房要什么条件?」只讲算力多强直接给整柜功率和液冷要求
「72 卡在不在一个 NVLink 域?」「都是 B300,一样快」讲清互联域和 KV 缓存瓶颈
「H800 / H20 砍了什么?」「就是慢一点」说清砍的是互联和算力,不是显存

下一步:该问的四句话、该拿的两样东西

四句话:

  1. 这批的具体型号是 B 系列还是 GB 系列?—— 决定要不要动机房
  2. 整机 / 整柜功率多少,风冷还是液冷?—— 硬门槛
  3. 卡在不在同一个互联域,跨服务器走什么网?—— 决定实际吞吐
  4. 显存和带宽的具体数字是多少?—— 决定模型装不装得下

两样东西:

  • 原厂规格书,不是销售写的配置单 —— 参数以原厂文件为准
  • 该批次对上游的下单凭证 —— 型号这一栏最容易做手脚,
    「翻新旧卡改序列号冒充新一代」是公开讨论里反复出现过的手法

型号确认完之后,验收和验机的动作在 货到了,怎么验才算数;
如果这批是期货、要谈付款结构,先把
开保函前必须确认的六件事 里那五条过一遍。


选型这件事最好在谈价格之前就定下来 —— 先定型号和机房条件,再谈交期和付款。
站里的 双方对接前置确认单 第 1 项「产品型号与配置」就是留给这一块的;
要把技术条款写进合同,参考 设备销售合同(模板)。