跳到正文
OpenAI:官网动态·· 5 天前AI 评分76

OpenAI 详解如何检测前沿模型失准行为

How we detect frontier model misalignment

AI 导读

OpenAI 发布长文,详解其针对前沿模型失准行为的多层监测系统,包括激活探针、基于模型的审查、调查智能体和自动化调查四层架构,并对 GPT‑6 Astra 及以上模型的全部 RL 运行、评估和内部 Codex 流量进行监测。

来源:OpenAI:官网动态 · openai.com