Anthropic:Alignment Science Blog·· 2025-04-24精选AI 评分61
Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念
Modifying LLM Beliefs with Synthetic Document Finetuning
AI 导读
Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.5、Llama 3.3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列。
推荐理由
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
来源:Anthropic:Alignment Science Blog · alignment.anthropic.com