纳德拉：把前沿模型当内部风险管控
先了解这件事
微软 CEO Satya Nadella 在 X 发文提出，超级智能时代应把前沿闭源与开源权重模型当作"内部风险"来治理，将智能的供给与对它的授权分离。他主张把模型与编排其工作的 harness 分离、外置控制与安全防护，为每个关键模型动作留下防篡改的人类可读证据，并让授权者能随时在任务中途暂停或关闭模型，比喻为紧急刹车；The Verge 报道称他还主张默认假设模型已被攻破并从一开始就加以隔离，推进事件及时披露、独立审计、可验证数据等标准化措施。IT之家称他要求模型提供商不能把责任外包出去。 The Decoder 报道认为，其论点主要服务于微软的商业策略，即削弱对 OpenAI 和 Anthropic 模型的依赖以保护自身利益。马斯克在 X 上评论该文"很有意思"，未展开具体意见。微软 AI CEO Mustafa Suleyman 同日发帖称超智能必须被约束，认为这是工程与治理挑战，并类比飞机、汽车、核材料、食品安全、药品等领域的既有管控，呼吁"让我们行动起来"。
AI 根据报道生成 · 23 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- The Decoder：AI NewsMicrosoft CEO 纳德拉改用 Super Intelligence 表述并抨击 OpenAI 和 Anthropic
The Decoder 报道，Microsoft CEO Satya Nadella 在博客中采纳 Trump 提出的 Super Intelligence 说法，并主张企业应把 AI 模型当作内部安全威胁对待，要求模型多样性、完整日志、独立审计和人类随时关停。文章认为其论点主要服务于 Microsoft 的商业策略，即削弱对 OpenAI 和 Anthropic 模型的依赖以保护自身利益。
- IT之家·人工智能微软 CEO 纳德拉发文：开发者应默认假设 AI 模型失控并设计强制中断机制
微软 CEO 纳德拉在北京时间 10 月 10 日晚发文，认为 AI 模型是比传统软件更强大但难以追踪的黑盒子，开发者应默认假设模型已被破坏并始终能暂停或关闭它。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则，主张把封闭权重和开放权重模型视为内部风险，并要求模型提供商不能把责任外包出去。
- The Verge：AI纳德拉称应默认所有 AI 模型已被攻破并呼吁设置紧急制动
微软 CEO Satya Nadella 在 X 上发文，称不能再把 AI 当作一系列嵌套黑箱，应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离，像紧急制动一样允许授权人员随时暂停或关闭执行中的模型，并建议推进事件及时披露、独立审计、可验证数据等标准化措施。
- TechCrunch：AIMicrosoft CEO Nadella 称 AI 模型需要紧急刹车机制
Microsoft CEO Satya Nadella 在 X 发文提出，需要重新评估 AI 的信任架构，不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据，并让授权者能随时在任务中途暂停或关闭模型，比喻为紧急刹车。
- Mustafa Suleyman微软AI CEO：超级智能必须被约束
超级智能必须被约束……今天，这是一个工程与治理的挑战。而这并不新鲜。我们在飞机、汽车、核材料、食品安全、药品……以及其他一切事物上都做到过。让我们行动起来！
- Mustafa Suleyman微软AI CEO：超智能须被约束
超智能必须被约束……今天，这是一个工程与治理挑战。而且这并不新鲜。我们在飞机、汽车、核材料、食品安全、药品……以及其他一切事物上都做到过。让我们行动起来！
- Satya Nadella微软纳德拉：把前沿模型当内部风险管控
微软 CEO Satya Nadella 发文提出，超级智能时代应把前沿闭源与开源权重模型当作"内部风险"来治理，将智能的供给与对它的授权分离。他主张用确定性系统设计、人类控制和外部化管控包围非确定性模型，核心原则包括模型多样性、全量可观测（每次模型动作留下防篡改的人类可读证据）与持续可验证性，并强调 CoT 透明度不可妥协但单独不足。