SGLang 源码完全拆解(三):Scheduler 请求状态机如何闭环
沿 Req 状态迁移拆解入队、运行、完成、撤回与资源回收。
Cover Image of the Post
SGLang 源码完全拆解(二):入口、分词与流式输出如何闭环
沿请求 ID 拆解协议适配、分词、IPC、增量解码与中止清理。
Cover Image of the Post
SGLang 源码完全拆解(一):整体架构、进程拓扑与请求数据流
从入口到 GPU,建立 SGLang 推理运行时的完整源码地图。
Cover Image of the Post
vLLM 源码完全拆解(十六):把十五篇机制拼成一张可执行的源码阅读地图
串起请求、调度、KV、执行、采样与输出的完整源码路径。
Cover Image of the Post
Marlin 完全拆解:4-bit 权重如何喂满 GPU Tensor Core
从数据布局、流水线与并行策略拆解 Marlin W4A16 推理内核
Cover Image of the Post
Kimi Delta Attention 完全拆解:固定循环状态如何替代不断增长的 KV Cache
从 Delta Rule、细粒度门控到硬件感知 Kernel,讲透 KDA 的线性注意力机制。
Cover Image of the Post
GGUF 完全拆解:一个文件里的张量布局、k-quants 块量化与元数据字典
拆解 llama.cpp 的 GGUF 文件格式与 k-quants 块量化位布局,理解端侧推理模型文件为什么长这样
Cover Image of the Post
DLoop 完全拆解:让一次验证覆盖多个草稿阶段的循环投机解码
置信度门控的多阶段循环草稿加上循环感知训练,把投机解码的天花板从 k+1 抬到 Sk+1
Cover Image of the Post
AgRefactor 完全拆解:把真实 C++ 重构成可综合 HLS 的自进化 Agent 工作流
拆解 AgRefactor 的多 Agent 重构框架、事实/策略双记忆系统与工具-LLM 协同分工,以及它对 AutoDSE 的 6.51× 加速从哪来
Cover Image of the Post
Profile Image of the Author
平昊阳
乘长风,破巨浪, 展鸿图于未央!
--
总访问量
--
访客数
公告
欢迎来到我的个人博客!欢迎关注交流吖!
更多相关公告,见
「社交-留言」。
音乐
封面

音乐

暂未播放

0:000:00
暂无歌词
站点统计
文章
210
分类
26
标签
288
总字数
2,382,714
运行时长
0 天
最后活动
0 天前
最新动态
2026.09.18
你说,AI是不是新一次的工业革命呢
2026.09.04
过往皆是序章,前路漫有星光
2026.09.02
九月风至,赴约燕园
2026.07.06
岁次壬寅,序属季夏。负箧吴江,栖迟久泳。时维高考新败,登阊门而北望,临胥江以长嗟。昔者子安命蹇,尚能奋藻于滕阁;今吾才疏,岂可沉沦于吴市?乃焚膏以继晷,立雪而追贤。自暑月即研电学之微,探数理之奥。但求踔厉侪辈,砥砺锋芒。 洎乎素商既至,庠序始开。选修五门皆得满绩,总评冠绝同侪。然尘世难料,人心叵测。交非其人,悔吝丛生。一载相交,竟转瞬成参商。当是时也,恍若屈子见放,贾生受谗。然仲尼厄而作春秋,左丘眇而厥有国语。经此砥砺,竟愈宿疾:昔之曲意逢迎,今则坦荡自持;向之汲汲人言,今则泰然自若。所谓塞翁失马,焉知非福耶? 若夫玄冥司节,青阳启序。既专课业,复骋赛场。数模电赛,殚精竭虑;车赛集创,呕心镂骨。常观吴江夜月,每伴姑苏晨星。悬梁刺股,非为功名之累;凿壁囊萤,实怀鸿鹄之志。终使课业蝉联榜首,竞赛累获殊荣。然形神俱瘁,犹记寒宵病骨,强支案牍;伏暑昏眩,犹自深研不辍。 岁次甲辰,时逢白藏。绩点累年称冠,奖项盈箧成行。遂膺国奖之荣,如登龙门之津。乃遍谒名师,广求良策。拟鹏徙南冥,期凤鸣岐阳。幸得燕园李萌先生青眼,许列门墙。继入艾捷科芯实习,兼修毕业设计。两事交并,心力俱疲。承钟林峰师兄鼎力,终克难关。 今当辞别葑溪,将赴燕台。忆昔韩洪润学长,指迷津于暗夜;念吴圣洁挚友,伴苦读于寒窗。实乃天眷优渥,得遇诸君。昔者范公划粥,终成社稷之臣;欧母画荻,乃育文章之伯。予虽驽钝,敢不踵武前修?悟已往之不谏,知来者之可追。陶元亮归去来辞,实获我心;王子安穷且益坚,宁移素志?今将整装而北发,岂效楚囚之泣?当乘长风,破巨浪,展鸿图于未央!

文章目录