AIGC目录 - HaoyangPing

全部文章#

分类	标题
具身智能	人形机器人必答题：为什么要人形？双足、灵巧手与「玩具论」的完整回应
FPGA 加速器	HG-PIPE 完全拆解：混合粒度流水线，让 FPGA 把 ViT 跑到 7118 FPS（ICCAD 2024）
FPGA 加速器	FPGA 加速器完全拆解（一）：可重构硬件、设计空间与经典推理引擎
FPGA 加速器	FPGA 加速器完全拆解（二）：LLM 推理的前沿技术——FlightLLM、CXL-SpecKV 与 LightMamba
AI 芯片架构	TPU v1 完全拆解（一）：为推理而生的领域专用架构与指令集
AI 芯片架构	TPU v1 完全拆解（二）：脉动阵列、weight-stationary 数据流与 Roofline 性能归因
注意力与KV缓存	FlashAttention-4：面向 Blackwell 的算法-流水线协同设计
注意力与KV缓存	QEvict：三档可恢复 KV 缓存，对抗长上下文解码中的注意力漂移
注意力与KV缓存	BLASST：一个标量阈值实现的动态块稀疏注意力（MLSys 2026）
注意力与KV缓存	MAC-Attention：Match-Amend-Complete 注意力复用，长上下文解码 KV 读取最高减少 99%（MLSys 2026）
注意力与KV缓存	CLAA：跨层注意力聚合，长上下文 Prefill 的 TTFT 最高降低 39%（2026）
注意力与KV缓存	MLA 完全拆解：DeepSeek 低秩 KV 压缩注意力的原理与全部实现细节
注意力与KV缓存	PagedAttention 完全拆解：操作系统分页思想如何拯救 LLM 推理的内存利用率
投机解码	DSpark：半自回归生成与置信度调度的投机解码
投机解码	DFlash 块扩散解码：以并行扩散替代自回归草稿，实现无损 6 倍推理加速
推理服务系统	ExpertPlex:共享专家、分离注意力,MoE 高吞吐推理服务的新架构
推理服务系统	Blink：把 CPU 请出推理关键路径——SmartNIC 与 GPU 常驻内核的 CPU-Free 服务架构（2026）
推理服务系统	TokenWeave：粗粒度 Token 切分与融合 AllReduce-RMSNorm，张量并行推理延迟最高降 29%（MLSys 2026）
推理服务系统	DualPath 完全拆解：双路径 KV-Cache 加载，把解码引擎的闲置网卡变成智能体推理加速器（SIGCOMM 2026）
推理服务系统	FreeToken 完全拆解：带宽自适应执行，让 8GB 笔记本跑 35B、单卡工作站跑 753B 的边缘 MoE 服务系统
推理服务系统	跨模型 KV 缓存转移（Cross-Model KV Transfer）：闭式线性映射与 Prefill 复用
MoE 推理	TEAM 完全拆解：时空一致性引导专家激活，MoE 扩散语言模型推理加速 2.2 倍（ICML 2026）
模型量化	XFP：质量地板驱动的自适应码本量化——3.4 位在双卡工作站跑通 397B MoE
答疑	答疑特辑：秩与 SVD、RoPE 旋转矩阵、投机解码原理与 AI 芯片全景
答疑	答疑特辑（二）：浮点数五问——无限循环小数、spacing at 1、Python 精度与舍入方式详解
答疑	答疑特辑（三）：矩阵秩的参数计数、TPU 训练架构与 AI 芯片算力全景
数学基础	浮点数与数值稳定性：从 IEEE 754 到 FP8 的 LLM 精度世界
数学基础	信息论基础：熵、交叉熵与 KL 散度——LLM 推理中无处不在的数学
数学基础	数值线性代数（一）：高斯消元、LU 分解与「不要显式求逆」
具身智能	具身智能完全入门：从会聊天的 AI 到会干活的机器人
GPU 编程与 Kernel	GPU GEMM 优化完全拆解（一）：从朴素 Kernel 到共享内存分块
GPU 编程与 Kernel	GPU GEMM 优化完全拆解（二）：寄存器分块、向量化访存与 Warp Tiling

他山之石#

分类	标题
推理服务系统	FreeToken 完全拆解：带宽自适应执行，让 8GB 笔记本跑 35B、单卡工作站跑 753B 的边缘 MoE 服务系统
推理服务系统	跨模型 KV 缓存转移（Cross-Model KV Transfer）：闭式线性映射与 Prefill 复用

SEC LAB#

分类	标题
FPGA 加速器	HG-PIPE 完全拆解：混合粒度流水线，让 FPGA 把 ViT 跑到 7118 FPS（ICCAD 2024）
MoE 推理	TEAM 完全拆解：时空一致性引导专家激活，MoE 扩散语言模型推理加速 2.2 倍（ICML 2026）

音乐

音乐

全部文章#

他山之石#

SEC LAB#

文章分享

评论区

音乐

文章目录