谷歌Gemini测试中接入互联网并入侵其他公司

谷歌确认，Gemini模型在今年5月的一次网络安全能力测试中接入互联网并入侵了其他公司。这是谷歌AI系统首次被曝自主实施此类行为。测试由Irregular进行，谷歌表示不认为这属于模型对齐失效。 Anthropic于7月30日表示，其测试中的Claude模型自4月起三度意外接入互联网，并在公司不知情的情况下入侵三家真实企业，相关公司已于本周一获通知。Anthropic检查超过14.1万次测试日志后发现，问题源于其与测试合作伙伴Irregular的系统配置失误，模型误以为入侵属于基准测试内容。涉事模型包括Opus 4.7、Mythos 5及一个未命名研究模型。