Skip to content

Muxi Fabric 学习手册:从通信库到 RoCE 拓扑探测

来源:扩写 plans/muxi-fabric-network-learning-plan.md
配套工程计划:plans/muxi-fabric-probe.md
目标落点:project/lab-workspace 的 Muxi 512 卡 RoCE fabric 诊断主线。
使用方式:先按周读讲义,再带着每章末尾的问题模板和 agent 讨论具体实验、报告或代码。

这套手册不是论文阅读清单,而是把 8 周学习任务拆成可直接吸收的讲义:概念、结构、小 case、Muxi 现象映射、推荐阅读提炼、常见误判和自测题。

阅读顺序

周次文件这一周解决的问题
1week01-comm-stack从 collective 到 GPU/RNIC/网络的数据路径
2week02-ethernet-ip-ecmpEthernet/IP/交换机/ECMP 如何影响端到端行为
3week03-rdma-verbs-rnicRDMA verbs、QP/CQ/MR 和 RNIC 执行模型
4week04-rocev2-gid-mtu-qosRoCEv2 封装、GID、MTU、DSCP/ECN/QoS 分类
5week05-pfc-ecn-cnp-dcqcnPFC、ECN、CNP、DCQCN 如何构成拥塞控制闭环
6week06-nccl-mccl-channels-railsNCCL/MCCL 算法、channel、多 rail 与性能指标
7week07-tomography-experiment-methodpair matrix、shared bottleneck、不可辨识性与实验方法
8week08-muxi-512-capstone把前 7 周用于 Muxi 512 的毕业分析

配套推荐阅读索引见 readings。每章正文里也有“推荐阅读提炼”,优先读正文,不必先逐篇啃原文。

最小主线

如果时间有限,按下面顺序抓重点:

  1. week01:先知道一个字节从 GPU buffer 到远端 GPU 会经过哪些层。
  2. week02:理解 ECMP/Clos/逻辑拓扑和物理拓扑的边界。
  3. week06:理解 collective、channel、rail、alg_bw/bus_bw 的口径。
  4. week07:理解为什么 2016 pair 矩阵不能唯一反演 leaf/spine。
  5. week08:把现有 Muxi 结果整理成事实、假设、反证和外部阻塞。

和现有报告的关系

  • 主计划:plans/muxi-fabric-probe.md
  • 原学习计划:plans/muxi-fabric-network-learning-plan.md
  • 研究新颖性判断:plans/muxi-fabric-probe-research-novelty.md
  • 最终交付:project/lab-workspace/reports/rounds/muxi_fabric_final_20260719.md
  • 拓扑事实报告:project/lab-workspace/reports/rounds/muxi_topology_facts_20260719_102558.md
  • 关键结果根:results/muxi-h3c/

读完后要形成的习惯

每次看到一个现象,先写四行:

text
它支持什么:
它不能证明什么:
替代解释:
还缺什么 ground truth:

这四行比“猜一个根因”更重要。

长期重写路线

这套手册后续按“一周一章、先讨论后落盘”的方式重写,不再一次性批量扩写。每一章都要达到 Week 2 深度:概念讲清楚、case 足够多、推荐阅读被消化进正文,而不是只列标题。

工作方式

  1. 先选定一周主题,只重写一个文件。
  2. 先把这一周的“关键问题、必须掌握的概念、推荐阅读要吸收什么”列出来。
  3. 再写正文:从直觉模型开始,逐层加难度。
  4. 每个关键概念至少配一个小 case。
  5. 每篇推荐阅读都要提炼:一句话、关键观点、和 Muxi 的关系、不能照搬的边界。
  6. 每章末尾必须有:常见误判、自测题、和 agent 讨论的问题模板。
  7. 写完一章后先停,等人工确认风格,再进入下一章。

计划顺序

顺序文件重写目标
1week02-ethernet-ip-ecmp.md作为样板章,恢复到详细讲义深度
2week01-comm-stack.md用 Week 2 风格重写通信库与数据路径总览
3week03-rdma-verbs-rnic.md深入 MR/QP/CQ/RNIC 执行模型和 perftest case
4week04-rocev2-gid-mtu-qos.md深入 RoCEv2 封装、GID、MTU、QoS 映射链
5week05-pfc-ecn-cnp-dcqcn.md深入 PFC/ECN/CNP/DCQCN 的机制闭环和 counter 证据
6week06-nccl-mccl-channels-rails.md深入 collective、channel、rank mapping、多 rail 和指标口径
7week07-tomography-experiment-method.md深入 pair matrix、perfect matching、shared bottleneck、不可辨识性
8week08-muxi-512-capstone.md把所有章节汇总成 Muxi 512 evidence map 和讨论手册

验收标准

一章写完后,应该能让读者不翻原文也能:

  • 解释核心概念的人话含义和系统位置;
  • 用小例子说明机制如何工作;
  • 分辨“支持什么”和“不能证明什么”;
  • 知道推荐阅读的关键结论和迁移边界;
  • 带着问题和 agent 继续讨论具体实验。

Week 2 对标硬标准

week02-ethernet-ip-ecmp.md 是样板章。后续每章必须对标它,而不是写成“加长提纲”。写完后先自审,不达标就继续扩写。

每章至少应包含:

  1. 问题动机:先用一个真实排障问题引入,而不是直接讲定义。
  2. 总图:至少一张文本路径图,把本周概念放到系统位置。
  3. 概念分层:每个核心概念都讲“是什么、在哪一层、解决什么问题、有什么边界”。
  4. 多个小 case:每个关键机制至少一个小例子,最好能映射到 Muxi 现象。
  5. Muxi 关联:单独一节解释现有 Muxi 结果如何用本周概念理解。
  6. 推荐阅读提炼:每篇材料都要写“一句话、抓哪个问题、关键知识点、Muxi 迁移、不能照搬”。
  7. 辨析章节:专门区分容易混淆的概念,例如事实/假设/ground truth,指标/机制,行为/物理。
  8. 任务设计:不是只列命令,要写任务目的、期望理解和不能证明什么。
  9. agent 问题模板:能直接复制去问下一轮 agent。
  10. 结束解释段:用一段完整话回答本周最核心的误判问题。

长度不是唯一标准,但章节应具备 Week 2 的“可直接读懂”密度。若某章明显只有 500~800 行且缺少 case、阅读提炼或辨析,就视为未完成。