跳到正文
OpenAI:官网动态·· 2026-03-10精选

改进前沿 LLM 的指令层级

Improving instruction hierarchy in frontier LLMs

AI 导读

IH-Challenge 训练模型优先处理可信指令,改进指令层级、安全可控性,并提升对提示词注入攻击的抵抗能力。

推荐理由

OpenAI改进指令层级研究,增强模型抗提示注入攻击能力

来源:OpenAI:官网动态 · openai.com