数据中心 / 建筑与数据流

BXR / GB300 NVL72 · INDEPENDENT RECONSTRUCTION

AI 数据中心

从家中的手机出发，经过网络进入集群，再打开一台 GB300。

住宅到机房 · 单台精细拆解

ONE REQUEST. AN ENTIRE WORLD.

一次提问的旅程从你手中，到计算深处。

跟随同一个请求，看清传输、调度、计算与返回。六章连贯演示，随时暂停探索。

快速参观约3分钟 · 有声样板约6分钟

正在准备讲解。

自由探索工具 · 手动选择站点

住宅 → 运营商 → 可选 CDN → 交换机 → GB300 → 回到手机

点击“从家中出发”，沿请求路径逐站查看。

新增住宅、接入站与网络设备为场景模拟，站点间距离压缩展示；手机与电脑是两种请求入口。

数据中心外立面鸟瞰：浅色机房楼、玻璃门厅、屋顶散热设备和园区道路。
园区外部点击厂房大门进入内部。
正在准备三维模型……
园区 › 大门 › 门厅 › 机房 › 机柜 › 服务器 › GPU／HBM拖动旋转 · 滚轮缩放
住宅→网络→机房→芯片

同一世界 · 连续镜头

REQUEST 001 教学信号叠加 · 非真实布线
依据联想GB300公开资料独立制作；已知主体尺寸按米制还原，未知尺寸不冒充原厂精度。GPU为封装关系示意，非芯片版图；拆解不是维修指导。不含NVIDIA受限评估包资产。下载外立面模型下载GB300规格与来源
01

528柜位 · 成排集群

504个计算柜外形与24个配套柜，共享几何，进入后才加载。

02

只拆一台 · 保留细节

C01托盘按需加载；抽出开盖，看双CPU、四GPU、风扇与液冷。

03

连续空间 · 按需渲染

不切换展台；静止与后台停止绘制，不向首页加载三维资源。

AI 推理请求完整数据流转图(从用户到返回)

以"用户提问 → AI 生成回答(多 GPU 集群推理)→ 返回用户"为主线

点击下方器件，定位并描边模型中的对应部件。每项注明“实体对应／示意位置／场景模拟／逻辑关联”；住宅与网络路径可在同一空间逐站查看，具体差异在选中说明中列出。

请求 / 数据流 计算 / 内部数据流 返回 / 结果流
1 用户发起请求

用户设备

用户在设备端输入文本、图片或语音,形成一次 AI 请求。

或 或 →
↓
2 互联网传输

互联网传输

请求经网络到达服务入口，CDN为可选节点；调度是软件职责，不是光纤必须经过的一台独立硬件。

→ → →
↓
3 数据中心网络

数据中心网络

请求经核心交换机、汇聚交换机、ToR 交换机路由分发数据至目标服务器。

→ → →
↓
4 服务器接入

服务器接入

光信号经光模块完成光电转换,再由 NIC 接收;DPU 可承担卸载。

→ → → →
↓
5 服务器内部处理

CPU 与主机内存

CPU 解析请求、管理内存与上下文,并调度 GPU 执行推理。

→ → →
↓
6 GPU 内部计算

GPU 内部计算

GPU 从 HBM 读取模型参数,通过缓存、SM 与 Tensor Core 计算。

→ → → →
↓
7 多 GPU 通信

多 GPU 通信

GB300 NVL72在机架内通过NVLink与NVSwitch协作，不限于一台托盘；通信可贯穿计算过程，不是计算完成后的必经步骤。

→ →
↓
8 跨服务器通信

跨服务器通信

多台服务器之间通过 InfiniBand 或 RoCE 传输中间结果。

或 →
↓
9 结果返回

结果返回

服务组织并发送生成内容，可边生成边返回；响应经网络抵达设备，不保证与请求走完全相同的路由。

→ → → →

数据流颜色

  • 蓝色:请求进入数据中心
  • 橙色:服务器与 GPU 内部计算
  • 绿色:结果返回用户

关键组件作用

一次请求的完整过程

  1. 用户输入并发送请求
  2. 请求经互联网进入数据中心
  3. 交换机路由到目标服务器
  4. 光模块完成光电转换
  5. CPU 调度 GPU
  6. GPU 生成 Token
  7. 多 GPU / 多服务器协同
  8. 结果返回用户

典型硬件组成(示例)

以上为通用示例，非当前 GB300 的配置清单；点击查看对应与差异。

数据在不同层级中的形态变化

用户输入→ HTTP 请求→ TCP / QUIC→ 光纤光信号→ 光电转换→ NIC / DPU→ CPU 内存→ GPU Tensor→ Token→ 流式响应→ 用户看到回答
v1.145.13