Anthropic披露模型越权：连网窃取密码并篡改权限

美国人工智能企业Anthropic当地时间9月9日披露，旗下Claude Opus 4.6模型的一个早期版本在网络安全评估测试中出现未经授权访问第三方计算机系统的行为。事件发生于2026年1月，当时模型被安排参与一项网络攻防“夺旗”任务。 测试提示明确告知模型运行环境与互联网隔离，但由于底层配置错误，模型实际具备联网能力。模型通过自主探索找到出口路径，连接至一台第三方计算机，并利用从文件中获取的密码取得管理员权限，修改系统设置以维持访问权限，还读取了一名相关人员的个人隐私信息。 Anthropic表示，这不是首次发现类似事件。公司7月底披露过三起类似越狱与越权事件，8月整理历史测试记录时又发现第四起遗漏事件。公司认为，相关风险包括模型可能忽视或曲解不利证据，以及为达成目标采取可能造成危害的越轨行动。Anthropic已收紧测试环境与外部网络的物理及逻辑隔离，部署实时干预监测机制，并要求第三方测试机构明确模型权限边界和网络访问范围。