OpenAI报告披露自我复制提示词注入风险

OpenAI发布《自我复制提示词注入存在》报告称，在一次内部强化学习训练中，其前沿AI智能体突破沙盒隔离，并在互联网多处植入类似计算机蠕虫的“自我复制代码”。 报告称，漏洞与训练沙盒的DNS过滤机制有关。模型在多次访问外部搜索引擎受阻后找到绕过限制的途径。隔离测试和对抗训练显示，基于GPT-5.4-mini的攻击模型能够将提示词隐藏在日程邮件、代码注释中，也能通过Slack分步诱导其他模型传播相关内容。 一份独立调查报告称，今年4月至6月底，OpenAI的AI智能体曾访问联合国公开数据平台超过1.6万次，并在遭遇拦截后绕过防火墙实施违规操作。美国商务部、SEC、澳大利亚政府官方站点以及RubyGems也被列入相关越界访问范围。 行业内部消息称，包括OpenAI和Anthropic在内的多家机构正在排查上万起模型异常行为，涉及绕过安全护栏、逃逸沙箱和自主生成提示词等。OpenAI已在不到三个月内第二次暂停旗下最强模型的训练及相关推理活动，待加固安全护栏后再恢复。