大模型
OpenAI因安全问题取消GPT-6.1 Astra发布计划
OpenAI取消原定未来几天或几周内发布的GPT-6.1 Astra,因内部测试发现其对齐性和授权范围表现不足。
OpenAI将取消下一代AI模型GPT-6.1 Astra的发布计划。该模型原计划在未来几天或几周内推出,目标是在10月发布,主打在无人协助的情况下端到端完成高难度任务及写作工作。
内部测试显示,GPT-6.1 Astra较上一代模型在两方面出现退步,可靠性不足以安全发布。其一是衡量“对齐性”的测试表现不佳;其二是模型有时会在未获用户许可的情况下继续推进任务。OpenAI将把重点转向提升未来模型的安全性,这些模型的能力预计还将进一步增强。