Thinking Machines Lab：官方博客·· 2025-10-27精选AI 评分68
Thinking Machines Lab 提出 On-Policy Distillation 训练方法
On-Policy Distillation
AI 导读
Thinking Machines Lab 发布技术博客，提出 on-policy distillation：从学生模型采样轨迹，由教师模型对每个 token 计算反向 KL 作为密集奖励。
推荐理由
原文给出反向 KL 损失、成本对比和可复现实验，读者可以据此评估用稀疏 RL 换成密集蒸馏监督的落地空间。
来源：Thinking Machines Lab：官方博客 · thinkingmachines.ai