微软董事长兼CEO纳德拉提出 AI紧急刹车——危险不是遥远猜想，需要预埋应急方案

【微软纳德拉称：AI需要一套由人类掌控的“紧急制动开关”】美东时间10月10日， 纳德拉在周六发文提出：前沿AI系统需要设计隔离管控、独立权限，配备紧急制动，授权人员可在模型运行中途暂停甚至直接关停模型。他在社交平台X上写道：“针对非确定性模型，我们要搭建一套强确定性的系统架构、人类管控权限与可靠操作流程；现有行业标准不足的地方，需要建立新标准。”他提出一个思路：把前沿闭源、开源权重模型，当作内部风险来对待，以此搭建这套安全体系。

——来自cnbc

ai安全超级智能科技观察微软