纳德拉呼吁为先进AI模型设置人类可控“急停”

微软首席执行官萨蒂亚·纳德拉10月10日通过社交平台发表长文，呼吁为先进人工智能模型引入人类可控的“紧急制动”机制，并重新评估现有AI信任架构。他主张以“模型已被攻破”为防御假设，审慎推进安全治理，避免将复杂的黑箱模型视为全知全能。 纳德拉提出，应将底层AI模型与协调任务的控制框架分离，并把控制和安全措施置于模型之外。他还表示，每次有意义的模型操作都应有防篡改、便于人类读取的执行证据，授权人员则应能在任务执行期间随时暂停或关闭模型。这一主张与Anthropic首席执行官达里奥·阿莫迪提出的谨慎开发计划相呼应。