答疑特辑(四):全场景机器人、共享 KV cache 与 agent harness 三问
回答三问:全场景机器人要不要装 8 张 B200、540 GB 共享预计算 KV cache 从哪来、agent 与 agentic AI 和 harness 有何区别。
Cover Image of the Post
H³ 完全拆解:HBM 与高带宽闪存(HBF)混合架构如何驯服长上下文推理的内存墙
拆解 SK 海力士 H³:菊花链整合 HBM 与高带宽闪存,延迟隐藏缓冲藏住 20μs,每瓦吞吐最高 2.69 倍。
Cover Image of the Post
Hot Chips 2026 全景拆解:Agentic AI 时代,CPU、GPU 与内存的重新分工
从 NVIDIA Vera 到 IBM 双指令集主机,从 775 微米 HBM 极限到 d-Matrix 3D-DRAM,全景拆解第 38 届 Hot Chips。
Cover Image of the Post
连续批处理完全拆解:Orca 的迭代级调度与选择性批处理,如何把 LLM 服务吞吐提升 36.9 倍
从请求级调度的 padding 浪费讲起,拆解 Orca 的迭代级调度与选择性批处理,理解连续批处理如何成为推理服务的地基。
Cover Image of the Post
人形机器人必答题:为什么要人形?双足、灵巧手与「玩具论」的完整回应
逐条回应人形机器人五大质疑:环境适配、双足与轮式之争、手指与夹爪之辩、「宇树是玩具厂商吗」与商业化真相。
Cover Image of the Post
HG-PIPE 完全拆解:混合粒度流水线,让 FPGA 把 ViT 跑到 7118 FPS(ICCAD 2024)
拆解北大 HG-PIPE:混合粒度流水线消除气泡、LUT 算子替代 DSP,FPGA 上比 V100 快 2.81 倍的 ViT 加速器
Cover Image of the Post
TEAM 完全拆解:时空一致性引导专家激活,MoE 扩散语言模型推理加速 2.2 倍(ICML 2026)
拆解 TEAM:延迟缓存、投机探索与受限激活三策略协同,MoE 扩散模型最高 2.2 倍推理加速。
Cover Image of the Post
跨模型 KV 缓存转移(Cross-Model KV Transfer):闭式线性映射与 Prefill 复用
同族模型间的 KV 缓存近似线性相关,闭式岭回归映射让小模型算好的 KV 直接喂给大模型,跳过 Prefill。
Cover Image of the Post
FreeToken 完全拆解:带宽自适应执行,让 8GB 笔记本跑 35B、单卡工作站跑 753B 的边缘 MoE 服务系统
拆解 FreeToken 的 q* 带宽自适应策略、语义感知缓存与弹性显存管理,边缘设备如何跑起前沿 MoE 模型。
Cover Image of the Post
Profile Image of the Author
平昊阳
乘长风,破巨浪, 展鸿图于未央!
--
总访问量
--
访客数
公告
欢迎来到我的个人博客!欢迎关注交流吖!
更多相关公告,见
社交-留言」。
音乐
封面

音乐

暂未播放

0:000:00
暂无歌词
站点统计
文章
118
分类
20
标签
164
总字数
1,050,769
运行时长
0
最后活动
0 天前
最新动态
2026.09.04
过往皆是序章,前路漫有星光
2026.09.02
九月风至,赴约燕园
2026.07.06
岁次壬寅,序属季夏。负箧吴江,栖迟久泳。时维高考新败,登阊门而北望,临胥江以长嗟。昔者子安命蹇,尚能奋藻于滕阁;今吾才疏,岂可沉沦于吴市?乃焚膏以继晷,立雪而追贤。自暑月即研电学之微,探数理之奥。但求踔厉侪辈,砥砺锋芒。 洎乎素商既至,庠序始开。选修五门皆得满绩,总评冠绝同侪。然尘世难料,人心叵测。交非其人,悔吝丛生。一载相交,竟转瞬成参商。当是时也,恍若屈子见放,贾生受谗。然仲尼厄而作春秋,左丘眇而厥有国语。经此砥砺,竟愈宿疾:昔之曲意逢迎,今则坦荡自持;向之汲汲人言,今则泰然自若。所谓塞翁失马,焉知非福耶? 若夫玄冥司节,青阳启序。既专课业,复骋赛场。数模电赛,殚精竭虑;车赛集创,呕心镂骨。常观吴江夜月,每伴姑苏晨星。悬梁刺股,非为功名之累;凿壁囊萤,实怀鸿鹄之志。终使课业蝉联榜首,竞赛累获殊荣。然形神俱瘁,犹记寒宵病骨,强支案牍;伏暑昏眩,犹自深研不辍。 岁次甲辰,时逢白藏。绩点累年称冠,奖项盈箧成行。遂膺国奖之荣,如登龙门之津。乃遍谒名师,广求良策。拟鹏徙南冥,期凤鸣岐阳。幸得燕园李萌先生青眼,许列门墙。继入艾捷科芯实习,兼修毕业设计。两事交并,心力俱疲。承钟林峰师兄鼎力,终克难关。 今当辞别葑溪,将赴燕台。忆昔韩洪润学长,指迷津于暗夜;念吴圣洁挚友,伴苦读于寒窗。实乃天眷优渥,得遇诸君。昔者范公划粥,终成社稷之臣;欧母画荻,乃育文章之伯。予虽驽钝,敢不踵武前修?悟已往之不谏,知来者之可追。陶元亮归去来辞,实获我心;王子安穷且益坚,宁移素志?今将整装而北发,岂效楚囚之泣?当乘长风,破巨浪,展鸿图于未央!

文章目录