访客信息
☁️
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
公告
音乐
音乐
暂未播放
0:00/0:00
暂无歌词
答疑特辑(四):全场景机器人、共享 KV cache 与 agent harness 三问
2026-08-25
回答三问:全场景机器人要不要装 8 张 B200、540 GB 共享预计算 KV cache 从哪来、agent 与 agentic AI 和 harness 有何区别。
Image API Error

H³ 完全拆解:HBM 与高带宽闪存(HBF)混合架构如何驯服长上下文推理的内存墙
2026-08-25
拆解 SK 海力士 H³:菊花链整合 HBM 与高带宽闪存,延迟隐藏缓冲藏住 20μs,每瓦吞吐最高 2.69 倍。
Image API Error

Hot Chips 2026 全景拆解:Agentic AI 时代,CPU、GPU 与内存的重新分工
2026-08-25
从 NVIDIA Vera 到 IBM 双指令集主机,从 775 微米 HBM 极限到 d-Matrix 3D-DRAM,全景拆解第 38 届 Hot Chips。
Image API Error

连续批处理完全拆解:Orca 的迭代级调度与选择性批处理,如何把 LLM 服务吞吐提升 36.9 倍
2026-08-25
从请求级调度的 padding 浪费讲起,拆解 Orca 的迭代级调度与选择性批处理,理解连续批处理如何成为推理服务的地基。
Image API Error

Image API Error

HG-PIPE 完全拆解:混合粒度流水线,让 FPGA 把 ViT 跑到 7118 FPS(ICCAD 2024)
2026-08-24
拆解北大 HG-PIPE:混合粒度流水线消除气泡、LUT 算子替代 DSP,FPGA 上比 V100 快 2.81 倍的 ViT 加速器
Image API Error

TEAM 完全拆解:时空一致性引导专家激活,MoE 扩散语言模型推理加速 2.2 倍(ICML 2026)
2026-08-24
拆解 TEAM:延迟缓存、投机探索与受限激活三策略协同,MoE 扩散模型最高 2.2 倍推理加速。
Image API Error

跨模型 KV 缓存转移(Cross-Model KV Transfer):闭式线性映射与 Prefill 复用
2026-08-24
同族模型间的 KV 缓存近似线性相关,闭式岭回归映射让小模型算好的 KV 直接喂给大模型,跳过 Prefill。
Image API Error

FreeToken 完全拆解:带宽自适应执行,让 8GB 笔记本跑 35B、单卡工作站跑 753B 的边缘 MoE 服务系统
2026-08-24
拆解 FreeToken 的 q* 带宽自适应策略、语义感知缓存与弹性显存管理,边缘设备如何跑起前沿 MoE 模型。
Image API Error

Image API Error

Image API Error

GPU GEMM 优化完全拆解(二):寄存器分块、向量化访存与 Warp Tiling
2026-08-24
寄存器分块让每线程算 64 个结果,向量化访存与 Warp Tiling 把 GEMM 推到 cuBLAS 的 93.7%。
Image API Error

站点统计
文章
448
分类
29
标签
451
总字数
6,178,652
运行时长
0 天
最后活动
0 天前
最新动态
日
一
二
三
四
五
六
文章目录
访客信息
☁️
--°天气加载中
正在获取所在地区…
💨 风力--
💧 湿度--
正在读取天气
公告
音乐
音乐
暂未播放
0:00/0:00
暂无歌词
站点统计
文章
448
分类
29
标签
451
总字数
6,178,652
运行时长
0 天
最后活动
0 天前
最新动态



