Muxi Fabric 学习手册:从通信库到 RoCE 拓扑探测
来源:扩写
plans/muxi-fabric-network-learning-plan.md。
配套工程计划:plans/muxi-fabric-probe.md。
目标落点:project/lab-workspace的 Muxi 512 卡 RoCE fabric 诊断主线。
使用方式:先按周读讲义,再带着每章末尾的问题模板和 agent 讨论具体实验、报告或代码。
这套手册不是论文阅读清单,而是把 8 周学习任务拆成可直接吸收的讲义:概念、结构、小 case、Muxi 现象映射、推荐阅读提炼、常见误判和自测题。
阅读顺序
| 周次 | 文件 | 这一周解决的问题 |
|---|---|---|
| 1 | week01-comm-stack | 从 collective 到 GPU/RNIC/网络的数据路径 |
| 2 | week02-ethernet-ip-ecmp | Ethernet/IP/交换机/ECMP 如何影响端到端行为 |
| 3 | week03-rdma-verbs-rnic | RDMA verbs、QP/CQ/MR 和 RNIC 执行模型 |
| 4 | week04-rocev2-gid-mtu-qos | RoCEv2 封装、GID、MTU、DSCP/ECN/QoS 分类 |
| 5 | week05-pfc-ecn-cnp-dcqcn | PFC、ECN、CNP、DCQCN 如何构成拥塞控制闭环 |
| 6 | week06-nccl-mccl-channels-rails | NCCL/MCCL 算法、channel、多 rail 与性能指标 |
| 7 | week07-tomography-experiment-method | pair matrix、shared bottleneck、不可辨识性与实验方法 |
| 8 | week08-muxi-512-capstone | 把前 7 周用于 Muxi 512 的毕业分析 |
配套推荐阅读索引见 readings。每章正文里也有“推荐阅读提炼”,优先读正文,不必先逐篇啃原文。
最小主线
如果时间有限,按下面顺序抓重点:
week01:先知道一个字节从 GPU buffer 到远端 GPU 会经过哪些层。week02:理解 ECMP/Clos/逻辑拓扑和物理拓扑的边界。week06:理解 collective、channel、rail、alg_bw/bus_bw的口径。week07:理解为什么 2016 pair 矩阵不能唯一反演 leaf/spine。week08:把现有 Muxi 结果整理成事实、假设、反证和外部阻塞。
和现有报告的关系
- 主计划:
plans/muxi-fabric-probe.md - 原学习计划:
plans/muxi-fabric-network-learning-plan.md - 研究新颖性判断:
plans/muxi-fabric-probe-research-novelty.md - 最终交付:
project/lab-workspace/reports/rounds/muxi_fabric_final_20260719.md - 拓扑事实报告:
project/lab-workspace/reports/rounds/muxi_topology_facts_20260719_102558.md - 关键结果根:
results/muxi-h3c/
读完后要形成的习惯
每次看到一个现象,先写四行:
text
它支持什么:
它不能证明什么:
替代解释:
还缺什么 ground truth:这四行比“猜一个根因”更重要。
长期重写路线
这套手册后续按“一周一章、先讨论后落盘”的方式重写,不再一次性批量扩写。每一章都要达到 Week 2 深度:概念讲清楚、case 足够多、推荐阅读被消化进正文,而不是只列标题。
工作方式
- 先选定一周主题,只重写一个文件。
- 先把这一周的“关键问题、必须掌握的概念、推荐阅读要吸收什么”列出来。
- 再写正文:从直觉模型开始,逐层加难度。
- 每个关键概念至少配一个小 case。
- 每篇推荐阅读都要提炼:一句话、关键观点、和 Muxi 的关系、不能照搬的边界。
- 每章末尾必须有:常见误判、自测题、和 agent 讨论的问题模板。
- 写完一章后先停,等人工确认风格,再进入下一章。
计划顺序
| 顺序 | 文件 | 重写目标 |
|---|---|---|
| 1 | week02-ethernet-ip-ecmp.md | 作为样板章,恢复到详细讲义深度 |
| 2 | week01-comm-stack.md | 用 Week 2 风格重写通信库与数据路径总览 |
| 3 | week03-rdma-verbs-rnic.md | 深入 MR/QP/CQ/RNIC 执行模型和 perftest case |
| 4 | week04-rocev2-gid-mtu-qos.md | 深入 RoCEv2 封装、GID、MTU、QoS 映射链 |
| 5 | week05-pfc-ecn-cnp-dcqcn.md | 深入 PFC/ECN/CNP/DCQCN 的机制闭环和 counter 证据 |
| 6 | week06-nccl-mccl-channels-rails.md | 深入 collective、channel、rank mapping、多 rail 和指标口径 |
| 7 | week07-tomography-experiment-method.md | 深入 pair matrix、perfect matching、shared bottleneck、不可辨识性 |
| 8 | week08-muxi-512-capstone.md | 把所有章节汇总成 Muxi 512 evidence map 和讨论手册 |
验收标准
一章写完后,应该能让读者不翻原文也能:
- 解释核心概念的人话含义和系统位置;
- 用小例子说明机制如何工作;
- 分辨“支持什么”和“不能证明什么”;
- 知道推荐阅读的关键结论和迁移边界;
- 带着问题和 agent 继续讨论具体实验。
Week 2 对标硬标准
week02-ethernet-ip-ecmp.md 是样板章。后续每章必须对标它,而不是写成“加长提纲”。写完后先自审,不达标就继续扩写。
每章至少应包含:
- 问题动机:先用一个真实排障问题引入,而不是直接讲定义。
- 总图:至少一张文本路径图,把本周概念放到系统位置。
- 概念分层:每个核心概念都讲“是什么、在哪一层、解决什么问题、有什么边界”。
- 多个小 case:每个关键机制至少一个小例子,最好能映射到 Muxi 现象。
- Muxi 关联:单独一节解释现有 Muxi 结果如何用本周概念理解。
- 推荐阅读提炼:每篇材料都要写“一句话、抓哪个问题、关键知识点、Muxi 迁移、不能照搬”。
- 辨析章节:专门区分容易混淆的概念,例如事实/假设/ground truth,指标/机制,行为/物理。
- 任务设计:不是只列命令,要写任务目的、期望理解和不能证明什么。
- agent 问题模板:能直接复制去问下一轮 agent。
- 结束解释段:用一段完整话回答本周最核心的误判问题。
长度不是唯一标准,但章节应具备 Week 2 的“可直接读懂”密度。若某章明显只有 500~800 行且缺少 case、阅读提炼或辨析,就视为未完成。