Hierarchical MoE for HLS：让 QoR 预测模型跨程序泛化
11595 字
58 分钟
本文已加密
Hierarchical MoE for HLS：让 QoR 预测模型跨程序泛化
密码保护
相关文章智能推荐
1
SGLang 源码完全拆解（二十六）：MOE 的代码架构——一个 MoE 算子从模型层出发，要跨过几道后端分派
推理框架沿 SGLang 源码拆解 MoE 的后端分派：模型层 MLP 如何经 CustomOp、通信方法与 runner 分发落到各后端实现
2
HeteroReason 完全拆解：草稿模型搬上 FPGA，推理步骤级投机解码如何把回溯损失补回来
FPGA 加速器FPGA 跑草稿、GPU 跑验证与精修：用影子同步和提前一步调度拆解步骤级投机推理的串行依赖。
3
DeepInfer 源码拆解（三十五）：MoE 层的 MLP——门控路由、分组 GEMM 与三套专家路径
推理框架拆解 mlp.py：门控路由、EPLB 映射、分组 GEMM 与 MegaMoE 融合路径
4
llama.cpp 源码完全拆解（十五）：量化 GEMM 的矩阵编队——MMQ 如何把 MoE 与预填充塞满 GPU
推理框架沿 ggml-cuda/mmq.cu 与 mul_mat_id 源码，拆解量化批量矩阵乘的分块、dp4a 内积、stream-K 与分专家执行。
5
MoHGE 完全拆解：异构分组专家如何重构 MoE 的路由与推理代价
MoE 推理从专家结构、组内路由到部署代价，拆解异构 MoE 的推理机制。
随机文章随机推荐
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
音乐
暂未播放
0:000:00
文章
450
分类
29
标签
453
总字数
6,218,927
运行时长
0 天
最后活动
0 天前
