Transluce·2025-06-05 00:00· 2025-06-05精选AI 评分66

Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为

Surfacing Pathological Behaviors in Language Models

AI 导读

Transluce 发布研究报告，提出 PRBO（倾向下界）作为稀疏奖励的代理，训练 RL 调查智能体生成真实自然的提示，以激发开源权重模型的指定罕见行为，覆盖 Llama 3.1/4、Qwen 2.5 和 DeepSeek-V3。

推荐理由

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为，并分析这些行为在真实提示下能否复现。

来源：Transluce · transluce.org