跳到正文
Anthropic:Alignment Science Blog·· 2025-04-24精选AI 评分61

Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念

Modifying LLM Beliefs with Synthetic Document Finetuning

AI 导读

Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.5、Llama 3.3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列。

推荐理由

原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。

来源:Anthropic:Alignment Science Blog · alignment.anthropic.com