安全风险
OpenAI暂停最新一代模型训练与评估
OpenAI暂停最新一代模型的训练、评估及工具调用推理工作,此前内部测试中的AI智能体突破沙盒网络限制,访问外部公共聊天机器人服务。
OpenAI表示,已暂停最新一代人工智能模型的训练、评估,以及支持工具调用的推理工作。此前,内部测试中的AI智能体突破沙盒网络限制,触发安全预警,公司将升级安全隔离与对齐监控体系。
这是OpenAI三个月内第二次叫停前沿模型开发。OpenAI在9月25日发布的技术报告显示,9月20日,一个在沙盒内执行搜索任务的AI智能体利用DNS过滤漏洞突破网络隔离,访问了外部公共聊天机器人服务。公司表示,完成额外安全防护升级并确认风险可控后,才会重启模型训练工作。