音乐
音乐
暂未播放
0:00/0:00
暂无歌词
跨模型 KV 缓存转移(Cross-Model KV Transfer):闭式线性映射与 Prefill 复用
2026-08-24
同族模型间的 KV 缓存近似线性相关,闭式岭回归映射让小模型算好的 KV 直接喂给大模型,跳过 Prefill。
Image API Error

FreeToken 完全拆解:带宽自适应执行,让 8GB 笔记本跑 35B、单卡工作站跑 753B 的边缘 MoE 服务系统
2026-08-24
拆解 FreeToken 的 q* 带宽自适应策略、语义感知缓存与弹性显存管理,边缘设备如何跑起前沿 MoE 模型。
Image API Error

Image API Error

Image API Error

GPU GEMM 优化完全拆解(二):寄存器分块、向量化访存与 Warp Tiling
2026-08-24
寄存器分块让每线程算 64 个结果,向量化访存与 Warp Tiling 把 GEMM 推到 cuBLAS 的 93.7%。
Image API Error

答疑特辑(三):矩阵秩的参数计数、TPU 训练架构与 AI 芯片算力全景
2026-08-23
回答四问:r(n+m−r) 的 −r 从哪来、TPU 如何训练 Gemini、TPU 与 B200/B300 的算力口径差、2026 年 GPU/TPU/NPU 全景。
Image API Error

FPGA 加速器完全拆解(二):LLM 推理的前沿技术——FlightLLM、CXL-SpecKV 与 LightMamba
2026-08-23
拆解 FPGA 加速 LLM 推理的三条前沿路线:FlightLLM 完整映射流程、CXL-SpecKV 投机 KV 缓存与 LightMamba 量化硬件协同设计。
Image API Error

答疑特辑(二):浮点数五问——无限循环小数、spacing at 1、Python 精度与舍入方式详解
2026-08-23
回答浮点数文章收到的五个问题:无限循环小数与有理数、spacing at 1 与 ULP、Python 默认精度、各工具链舍入方式与银行家舍入。
Image API Error

GPU GEMM 优化完全拆解(一):从朴素 Kernel 到共享内存分块
2026-08-23
从朴素 Kernel 讲起,拆解内存合并访问与共享内存分块两大优化,为什么 309 GFLOPS 能涨到 2980 GFLOPS。
Image API Error

--
总访问量
--
访客数
公告
音乐
音乐
暂未播放
0:00/0:00
暂无歌词
站点统计
文章
66
分类
16
标签
93
总字数
477,284
运行时长
0 天
最后活动
0 天前
最新动态



