免训练测试时循环：把冻结模型的中间 4 层重复应用 2–3 次，知识类选择题最高 +2.64 pp

带 sink 的滑窗注意力为何零训练胜过后训练线性注意力：机制、数据与速度内存实测

讲透 LLM 推理评测：TTFT/TPOT 等指标的定义口径、MLPerf 与开源基准体系、让数字可信的评测方法

TileRT 用常驻 Engine Kernel 与 tile 级流水替代逐 kernel 启动，把超大模型的单请求解码压到毫秒级。

北大 S²-MoE：路由感知扩展与复用感知门控让边缘 MoE 自投机解码提速最高 5.3 倍。

拆解 NeurIPS 2024 KVQuant：量化轴选择、预 RoPE、非均匀码本与离群值隔离，如何让 3-bit KV Cache 近无损。

拆解 QuaRot 如何用 Hadamard 旋转根除离群值，让权重、激活与 KV 缓存全 4-bit 量化而近无损。

拆解 NeurIPS 2024 经典 SnapKV：观察窗口投票与池化聚类如何压掉 92% 的 prompt KV，让解码速度与输入长度解耦。

attention sink 的成因、滑窗注意力为何崩溃，拆解 4 个开头 token 复活无限流式推理的 ICLR 2024 经典。

拆解 NeurIPS 2023 经典 H2O：注意力的幂律分布、累计分数驱逐策略与重击者+最近区双缓冲设计。

拆解 LLM.int8() 的向量级量化与混合精度分解：系统离群值如何毁掉量化，175B 模型如何做到 8-bit 零损失推理。

2026 年 9 月大模型市场调查：一张表看懂各能力维度谁最强，附国内外主流模型参数量与 API 价格总表。