Tag: AI

All the articles with the tag "AI".

• Mooncake TE 阅读手记-15-RDMA QP/CQ 与操作模式

  26 May, 2026

  QP 与 CQ 的关系、Send/Recv vs Write/Read 选择、Mooncake 实际使用的操作模式与 TENT 通知通道

• Mooncake TE 阅读手记-14-RDMA 内存注册与 lkey/rkey

  26 May, 2026

  从 registerLocalMemory 出发，追踪 ibv_reg_mr 到 RDMA 数据传输的全链路，澄清 lkey/rkey/MR 三元组

• Mooncake TE 阅读手记-13-高性能编程线程模型

  26 May, 2026

  7 种高性能线程模型全景对比：RTC、Pipeline、Thread-per-Core、Submit-then-Poll、Event-Driven、Zero-Copy DMA、Adaptive Polling 在 Mooncake 中的体现

• Mooncake TE 阅读手记-12-Transport 核心概念与线程模型

  26 May, 2026

  TransferRequest/Batch/Task/Slice 四层调度结构、MultiTransport 路由、RDMA 和 TCP Transport 的线程模型对比

• Mooncake TE 阅读手记-11-TE 接口设计

  26 May, 2026

  为什么 TE 不直接用 gRPC：绕开序列化开销，暴露数据面三原语

• Mooncake TE 阅读手记-10-QP Depth 与 Slice 处理

  26 May, 2026

  两级反压 + 指针追踪：Slice 切分、WR 提交、QP Depth 控制、CQ 轮询，高吞吐 KV Cache 传输的调度核心

• Mooncake TE 阅读手记-09-错误处理策略

  26 May, 2026

  分层异步错误模型：错误码体系、Slice 级别自动重试、Batch/Task 分层、调用方轮询决策

• Mooncake TE 阅读手记-08-握手协议与 QP 状态机

  26 May, 2026

  深入 RDMA 控制面：HandShakeDesc 字段定义、LID/GID/QP 号的来源与分发、RESET→INIT→RTR→RTS 四步状态转换

• Mooncake TE 阅读手记-07-RDMA 寻址深度解析

  26 May, 2026

  RDMA rkey+addr 缺一不可的原理、target_offset 的真实含义（远端虚拟地址）、cpu:0 的 NUMA 拓扑作用

• Mooncake TE 阅读手记-06-Segment 与元数据发现

  26 May, 2026

  Segment 概念深入、openSegment 底层流程（从 etcd 拉取→缓存分配）、registerLocalMemory 的完整链路