B200架构解读：双芯片GPU与上代单芯片方案对比

一、对比背景：为什么需要重新审视GPU的封装形态

在先进制程演进放缓的背景下，依靠单一制程节点升级来获得大幅性能提升的路径，收益正在不断收窄。当从上一代制程向新一代制程迁移时，晶体管密度与能效虽仍有改善，但已难以复现早期全节点缩小所带来的显著跃升。这一趋势迫使芯片设计者在架构层面寻找新的突破口。

本文对比的两类对象是：传统单芯片（monolithic）GPU设计方案与双芯片封装、软件层面呈现为单一设备的芯片级GPU方案。前者以一颗完整的光罩尺寸芯片承载全部计算资源，后者的代表则是新一代旗舰产品采用的双芯片设计——两颗接近光罩极限的芯片通过封装集成，在软件视角下被识别为一个独立GPU。

理解这两种形态的差异，对于评估AI算力平台的性能上限、开发迁移成本与长期运维策略，具有直接意义。

二、对象定义：两种设计路线的基本逻辑

单芯片GPU方案：所有流式多处理器（SM）、缓存子系统与互连结构集成在同一块硅片上。其优势在于片内通信路径短、一致性维护简单，设计验证与良率控制相对成熟。上一代旗舰产品即采用这一久经验证的路线。

双芯片芯片级GPU方案：将计算资源拆分到两颗芯片上，每颗芯片物理上包含80个SM，但实际启用74个SM，整卡合计148个SM。两颗芯片在软件层面被视为一个独立GPU，成为该厂商首款”芯片级GPU”。其核心动机是在制程红利减弱时，通过封装级集成继续扩展计算密度。

三、相同点分析：延续的设计哲学

尽管封装形态不同，两代方案在多个基础设计上保持高度一致：

• 缓存层级结构相似：L1缓存与共享内存继续从同一个SM私有池中分配，L1/共享内存容量维持256 KB，分配比例机制未变。
• 共享内存定位一致：均面向一组线程提供软件管理的片上本地存储，开发者可通过通用计算API调整L1与共享内存的分配比例，典型档位对应216 KB、112 KB与16 KB的L1容量。
• L2缓存分区化：两代均采用分区式L2缓存，直接连接同一分区的延迟量级相近，约在150纳秒水平。
• 编程模型兼容：CUDA等通用并行计算接口的使用方式保持连续，开发者无需因封装变化重写核心内核逻辑。

这些共同点意味着，从单芯片方案向双芯片方案过渡时，代码层面的迁移成本相对可控，主要风险集中在性能调优与跨分区数据布局上。

四、核心差异分析

1. 架构与资源组织

单芯片方案的计算资源在物理上连续，SM之间的数据交换不跨越芯片边界。双芯片方案则引入了一个新的边界：两颗芯片各自拥有独立的L2分区，跨芯片访问需要经过封装级互连。测试数据显示，跨分区延迟较前代略有上升，但由于单个L2分区容量已超过上一代整卡L2总量，实际影响被显著稀释。

2. 缓存容量与命中行为

L2缓存总容量从上一代的50 MB提升至126 MB，增幅明显。从单线程视角看，双芯片方案表现得近似三级缓存架构：分区特性可通过将指针追踪数组分段、由不同线程遍历各段来观测。这意味着大容量L2显著降低了跨分区访问的触发频率，从而在多数工作负载下掩盖了互连延迟的增量。

3. 频率与功耗边界

时钟频率与上一代高功率版本相近，说明双芯片方案并未通过激进提频换取性能，而是依靠核心数量与缓存容量扩展吞吐。这对散热设计与供电规划提出了与单芯片方案不同的约束：热源分布更分散，但封装整体功耗预算需重新评估。

4. 开发适配差异

在部分通用API下，共享内存与L1的分配完全由驱动决定。例如某开放计算接口获得最大216 KB数据缓存分配且内核未使用共享内存，另一图形接口获得180 KB分配。实测该开放接口下数组索引的L1延迟为19.6纳秒，约39个时钟周期。开发者需要关注：不同运行时对缓存的默认策略可能不同，跨分区数据布局需结合具体接口行为调优。

5. 对比表格

维度	单芯片GPU方案	双芯片芯片级GPU方案
计算资源组织	片内连续，无芯片边界	两颗芯片封装集成，软件视为单设备
SM数量	上一代高功率版本为参照	每芯片80个物理SM，启用74个，合计148
L1/共享内存	256 KB，分配比例可调	同为256 KB，机制延续
L2缓存总量	50 MB（上一代）	126 MB，分区对应两颗芯片
跨分区延迟	无跨芯片路径	略高于前代，但单分区容量已超上代总量
制程	上一代4N	新一代4NP，提升幅度有限
编程模型	通用并行计算接口	基本兼容，调优重点转向数据布局
热与功耗	集中热源	分散热源，封装级预算需重估

五、典型场景选择

• 大规模训练任务：更关注缓存容量与SM总量。双芯片方案凭借126 MB L2与148个SM，在数据复用率高、跨分区访问可控的场景中具备优势，但需提前规划数组分段策略。
• 低延迟推理：单芯片方案路径简单，跨分区不确定性低；双芯片方案需验证目标模型是否存在频繁跨分区访问模式。
• 既有代码迁移：若现有内核已针对分区式L2做过分段优化，迁移成本较低；否则需补充指针追踪类基准测试。
• 开发测试与小规模验证：单芯片方案调试链路更短，适合快速迭代；双芯片方案建议先在软件层面确认设备识别与缓存分配行为。

六、选型建议与迁移注意事项

选型应基于条件化判断：当工作负载的数据局部性强、可通过分段遍历规避跨分区热点时，双芯片方案的容量优势更容易兑现；当业务对延迟确定性要求极高且难以改造数据布局时，单芯片方案的简单拓扑仍是稳妥选择。

迁移时需重点评估：其一，接口与驱动对缓存分配的默认行为，不同运行时可能给出不同的L1/共享内存档位；其二，跨分区延迟的实测数据，应以自身内核的指针追踪结果为准，而非依赖通用结论；其三，热设计与供电规划需按封装整体重新核算；其四，监控与容量规划应区分单分区命中率与跨分区流量两个指标。

七、总结

双芯片芯片级GPU并非对单芯片方案的简单替代，而是在制程红利收窄条件下的架构权衡：以封装级集成换取计算密度与缓存容量，代价是引入跨芯片边界与调优复杂度。理解L2分区与芯片的对应关系、掌握缓存分配接口的行为差异、并以实测延迟数据驱动数据布局决策，是从单芯片方案平稳过渡到双芯片方案的关键路径。