全网Infra优秀资料合集
469 字
2 分钟
全网Infra优秀资料合集
说明：
*或者**代表同账号多平台多形式出现且不同平台和形式的内容存在较多重合，读者选择喜欢的方式学习即可。其中**为站长推荐方式。- 站长仅作整理，如若侵权，请联系删除。大家也多多关注原作者喵～
- 特别致谢DZYY Infra中“更多资料”板块使得本次整理能够较为完善！！！
Articles
微信公众号
说明：微信公众号账号本身没有链接，所以随便选取了账号下的一篇文章作为跳转链接。
GitHub
博客
- DZYY Infra*(本次资料参考方，更推荐其GitHub付费教学项目)
- miraclefarms*
- AI Infra Academy
- AI Infra Guide(也有收费项目)
Others
- Mooncake AI Infra实习生指南 （版权原因，请自行获取）
Video
B站
- vllm_project
- 先进编译实验室
- 图解AI Infra
- 小白debug**
- 过拟合青年
- 想躺平的程序员(需要付费)
- 杜子源源
微信视频号
说明：这里不给链接了，都是上面同名公众号简介里面有的。
- 小白debug**
- NeuralTalk*
- 机械视界（很特殊，公众号简介的视频号，但是不推荐公众号本身）
Code
GitHub
Official
Community
Project
Deployment
| 平台 | vLLM | SGLang |
|---|---|---|
| 华为昇腾（Ascend NPU） | 🔗 | 🔗 |
| 摩尔线程（MUSA） | 🔗 | 🔗 |
| 英伟达（NVIDIA / CUDA） | 🔗 | 🔗 |
| AMD（ROCm） | 🔗 | 🔗 |
| Intel（XPU） | 🔗 | 🔗 |
| Google（TPU） | 🔗 | 🔗 |
| Apple Silicon（Metal） | 🔗 | 🔗 |
| CPU | 🔗 | 🔗 |
Profiling
Topics
Leet
Tools
Communication
GPU Programming
Hardware
文章分享
如果这篇文章对你有帮助，欢迎分享给更多人！
相关文章智能推荐
1
LeetGPU Index
LeetGPULeetGPU 题解索引，汇总 CUDA、Triton 与 PyTorch 实现笔记。
2
LeetGPU | 02_Matrix_Multiplication
LeetGPULeetGPU Matrix Multiplication 题解：CUDA、Triton 与 PyTorch 实现。
3
LeetGPU | 01_Vector_Addition
LeetGPULeetGPU Vector Addition 题解：CUDA、Triton 与 PyTorch 三种实现方式。
4
Roofline Model
llm-algo-leetcode 推理优化Roofline Model 的基本概念、Arithmetic Intensity、memory-bound / compute-bound 判断，以及 GEMM、FlashAttention、算子融合等常见优化方向。
5
推理结构地基
llm-algo-leetcode 推理优化Datawhale llm-algo-leetcode 推理优化课程 Task 0（Attention MHA 与 GQA）学习笔记，正在完善中。
随机文章随机推荐
评论区
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
音乐
暂未播放
0:000:00
文章
448
分类
29
标签
451
总字数
6,178,652
运行时长
0 天
最后活动
0 天前
