AI INFRASTRUCTURE / ENGINEERING NOTES

AI Factory Journal

从计算、互联到电冷设施,重建 AI Factory 的完整技术体系。

FEATURED ESSAY / 推荐阅读
AI Factory 跨域体系示意:工作负载、计算状态和 Fabric 连接到机架、电力、热管理与运行反馈
体系示意 · 需求、承载与运行反馈
系统架构 / 跨域协同 / 技术体系01 / 43

技术文章 43

ARCHITECTURE → SYSTEMS → OPERATIONS
01

AI Factory 的系统架构与跨域约束

建立计算、状态、互联、电力、热管理和运行模型的共同坐标,追踪各技术域之间传递的需求与约束,并用联合容量模型连接系统设计。

系统架构 / 跨域协同↗
02

AI Factory 的系统分层与运行闭环

从并行计算通信域出发,连接 OPG/XOC 模块、六类网络、网络控制与作业调度,再用 InfraGraph 和状态模型贯通设计与运行反馈。

系统架构 / OPG↗
03

从 Pod 组到开放集群的端口扩展

核算 OPG 的计算、存储和管理接入,比较两代 leaf 配置,重建 1,024 xPU 的共享 spine 预算,以及小集群、双平面和继续扩容的约束。

OPG-128 / XOC-1k↗
04

拓扑放置与端到端性能建模

用首跳域、同 rail 比例和跨域字节解释局部性,将 GPU/NIC 内部路径、workload DAG 与会话状态位置结合,建立可校准的放置优化方法。

放置 / 首跳域↗
05

面向 3–5 年的技术布局与验证资产

沿工作负载映射、状态层级、Fabric、电热机械、运行模型和设施生命周期,梳理值得持续积累的技术对象、联调方法与专家交流接口。

技术规划 / 跨域接口↗
07

并行策略塑造通信关键路径

逐步展开 TP8×PP4×DP4 的训练迭代,解释层内归约、流水线气泡、对应参数梯度同步与动态专家路由,并将通信依赖延伸到推理 KV 迁移。

TP / PP↗
08

推理解耦与 KV 数据路径

从 KV 字节与迁移窗口推导推理解耦的资源条件,连接 Minimal/Distributed 网络、租户 VRF、状态网关和会话恢复,分别配置网络、连接与状态容量。

推理 / Prefill↗
09

Agent 状态与因果恢复

解释会话 KV、逻辑状态和外部效果的不同恢复要求,展开 AT 四字段、持久提交、故障窗口、有序协调与会话熔断,并连接开放集群的管理能力。

Agent / PD-KVC↗
10

存储层级与分布式数据服务

将 OPG 存储接入、主动数据服务和 T0–T3 会话层级交叉展开,分别计算容量、迁移与恢复预算,并区分大块 checkpoint 和小记录持久提交。

存储 / KV Cache↗
11

芯粒系统语义与封装内传输分层

把系统分区、一致性、地址翻译、启动和安全责任映射到芯粒接口,再沿 BoW.Flexi 四层协议分析宽度、ECC、并发、仲裁与测试。

Chiplet / FCSA↗
12

高带宽闪存的主机与媒体协同

从 HBF 的主机、基底和 NAND 堆栈重建读写路径,说明 64B 请求与 4KiB 页、通道交织、可选 SRAM、刷新和容量退役如何影响模型服务。

HBF / NAND↗
13

量子处理器的经典闭环与设施集成

从逻辑 QPU 的控制链重建经典计算与设施需求,区分异步任务、实时纠错和环境反馈,推导存储增长并比较不同量子模态的部署条件。

QPU / 量子经典混合↗
14

训练 Fabric 的流量控制与运行闭环

解释训练通信从 GPU/NIC 到交换队列的完整路径,区分流量分类、拥塞反馈和路径分配,并用 Day0/1/2、双平面维护和分层验证落实运行能力。

RoCE / PFC↗
15

AI 传输中的包序、事务序与完成边界

沿四包写操作的丢包恢复路径,比较三种传输对包收到、操作处理与软件完成的不同定义,解释选择性重传、有序交付及死锁避免的资源成本。

可靠传输 / 乱序放置↗
16

拥塞反馈与多路径的端点控制环

综合 Falcon 的 Swift/RUE/PLB 与 MRC 的 NSCC/EV 状态,说明网络排队和目标资源如何被分别测量,及 ECMP、Structured EV、SRv6 的路径控制代价。

拥塞控制 / 多路径↗
18

光电链路的距离、功耗与维修边界

用完整信号路径解释铜光切换条件,比较光引擎位置与重定时策略,连接电裕量、光预算、器件封装、热可靠性和 400G/lane 路线。

LPO / CPO↗
19

光电路交换的拓扑与时间匹配

按端口、插损和时间尺度比较 OCS 路线,连接 Jupiter、TPU、ACTINA 与 MixNet 的不同控制模型,并推导重构的完成时间盈亏平衡。

OCS / MoE↗
20

硅光平台的封装、制造与开放集成

围绕出线几何、WDM/BiDi、封装维修与制造分布建立光子平台论证,解释 PKGD、PDK 工程流程、四层测试和现场数据的关系。

硅光 / PKGD↗
21

从链路恢复到作业进展的 Fabric 运维

结合传输协议和训练、推理参考架构,建立故障分层与遥测关联方法,展开路径排空、声明式恢复、双平面维护和资源回收的完整操作链。

Fabric 运维 / 故障恢复↗
23

液体回路的热量、压头与动态平衡

联合计算显热输运、支路压降和泵功,解析 TCS/FWS 交接与 Brazos 双泵回路,连接温度预算、空气侧容量、控制和冗余。

TCS / CDU↗
24

冷却液与接液材料的共同设计

把完整工质配方与接液 BOM 共同资格化,区分配水与成品指标,解释金属腐蚀、聚合物抽提、过滤添加剂相互作用及浸没功能验证。

PG25 / 接液材料↗
27

液冷系统的清洁、充排液与长期维护

按清洗、封存、运输、填充、运行和维修事件管理水分、气体、颗粒与缓蚀剂,给出浓度修复和膨胀演算,连接传感与系统处置。

清洁 / 充排液↗
28

从中压到芯片:AI 工厂电源架构的分层重构

高压直流降低配电电流,隔离位置、储能接入点和故障域决定系统如何兑现功率密度。结合 LVDC、SST、机架规格与 PCE,推导完整电力路径的工程取舍。

电源架构 / 800V↗
34

机架集成与开放接口

综合ORW基础与实现规范、Diablo 400,解释机械兼容、载荷验证、物流路径、供电插拔时序及平台接口管理。

ORW / 机架↗
35

硬件管理与接口收敛

将Baseline、NIC与Service Baseline连接到OBMF-ICP及USB绑定,重建物理身份、配置生效、启动依赖、遥测与恢复流程。

Redfish / BMC↗
36

平台数据与密钥安全

解析PSP接收密钥派生、nonce与轮换,以及Caliptra L.O.C.K.的多方授权、介质密钥隔离和纪元擦除。

PSP / L.O.C.K.↗
37

可靠性服务与故障闭环

解释RAS API独立队列、故障身份、动作路由与结果反馈,并将服务器维护连接到CDU冗余及长期验证。

RAS / CPER↗
38

时间同步与跨域测量

区分物理时间、单调时间与因果关系,沿PTP分发、事件打点和GPU/CPU/NIC校准链构建可验证的时间基础设施。

PTP / PHC↗
39

光互连的远端消息与故障闭环

拆解透明消息插槽、固件可靠性、ePPS 和 RTT 校准,串起 CMIS 远端代理、最弱项评分、阈值、事件日志和光链路隔离流程。

光遥测 / CMIS↗
40

园区漫游组播的成员迁移与同步呈现

围绕跨 AP、跨交换机漫游,解释逐成员缓存与 proxy join、无线交付策略、GTK 安装、gPTP 重捕获和接收端呈现预算,形成园区 AV 集成与验证路径。

园区网络 / 无线组播↗
42

设施接口与系统交付

从排级功率与流量预算进入2 MW CDU和热通道设计,连接下一代设施原则、POI扰动性能、场地自评及整系统验证。

Deschutes / CDU↗
43

能源水碳与材料联合评价

以现场和发电侧水足迹、缺水权重、运行碳及材料隐含碳建立共同评价,再用LC3框架和混凝土试点解释工程采用条件。

PUE / WUE↗
READ WITH CONTEXT

沿着技术依赖,建立系统视角。

展开技术路径 ↗

输入关键词,查找全部技术文章。

全文搜索 · 在浏览器本地运行↑ ↓ 选择 ↵ 打开
阅读导航
技术路径总览 ↗

01总体架构

  1. AI Factory 的系统架构与跨域约束
  2. AI Factory 的系统分层与运行闭环
  3. 从 Pod 组到开放集群的端口扩展
  4. 拓扑放置与端到端性能建模
  5. 面向 3–5 年的技术布局与验证资产

02计算与状态

  1. 低精度计算的表示、缩放与数据路径
  2. 并行策略塑造通信关键路径
  3. 推理解耦与 KV 数据路径
  4. Agent 状态与因果恢复
  5. 存储层级与分布式数据服务
  6. 芯粒系统语义与封装内传输分层
  7. 高带宽闪存的主机与媒体协同
  8. 量子处理器的经典闭环与设施集成

03网络与光互联

  1. 训练 Fabric 的流量控制与运行闭环
  2. AI 传输中的包序、事务序与完成边界
  3. 拥塞反馈与多路径的端点控制环
  4. Scale-up Ethernet 的事务、打包与链路契约
  5. 光电链路的距离、功耗与维修边界
  6. 光电路交换的拓扑与时间匹配
  7. 硅光平台的封装、制造与开放集成
  8. 从链路恢复到作业进展的 Fabric 运维

04液冷与热管理

  1. 从结温到热汇:AI 冷却的热边界与设计包络
  2. 液体回路的热量、压头与动态平衡
  3. 冷却液与接液材料的共同设计
  4. 液体连接器的尺度、自由度与服务接口
  5. 冷却资格验证:从材料试片到动态系统验收
  6. 液冷系统的清洁、充排液与长期维护

05供电与能源

  1. 从中压到芯片:AI 工厂电源架构的分层重构
  2. 高压直流变换:SST、LLC DCX 与板级供电的协同
  3. 机架电源系统:从 72 kW AC 到 100 kW HVDC 的接口链
  4. AI 负载的电力动态:阶跃、储能与母线阻抗
  5. 备用与储能:从脉冲缓冲到清洁能源的连续供电
  6. 高功率直流的安全闭环:故障能量、选择性与运行状态

06平台集成与管理

  1. 机架集成与开放接口
  2. 硬件管理与接口收敛
  3. 平台数据与密钥安全
  4. 可靠性服务与故障闭环
  5. 时间同步与跨域测量
  6. 光互连的远端消息与故障闭环
  7. 园区漫游组播的成员迁移与同步呈现

07设施与运行优化

  1. 数字孪生:系统模型、联合仿真与运行闭环
  2. 设施接口与系统交付
  3. 能源水碳与材料联合评价