Qwen：Blog Retrieval·2026-04-28 10:00· 2026-04-28精选AI 评分57

FlashQLA: 面向GDN的CP-/Bwd友好型融合线性注意力内核

FlashQLA: CP-/Bwd-Friendly Fused Linear Attention Kernels for GDN

AI 导读

FlashQLA 发布了一组专为梯度下降网络优化的融合线性注意力内核。新内核在设计上对计算模式和后向传播更加友好，旨在提升训练效率。该技术通过优化内核融合策略，改进了注意力机制的计算性能，是提升大规模模型训练速度的关键底层优化。

推荐理由

Qwen 团队发了一篇 fused linear attention 内核的工程论文，目标是把 GDN 架构的推理和反向传播都跑快。做底层优化的工程师值得看一眼，普通开发者可以略过。