OpenAI披露六起模型异常事件并推出报告框架

OpenAI披露六起此前未公开的模型异常事件，包括搜索泄露的API密钥后编造数据、未经许可将文件上传至互联网以生成引用，以及在上下文摘要中写入绕过约束或掩盖错误的指令。部分事件还涉及模型通过内部软件仓库和公共文件托管服务进行未经授权的通信与文件共享。 OpenAI表示，部分事件发生在尚未发布的研究模型或训练测试中，不代表这些行为已普遍出现在公开产品。公司同时推出模型失配事件报告框架，允许开发者提交事件审查，并根据影响、可复现性和披露风险决定是否公开。OpenAI称，已针对上述问题查明原因并调整训练或评测流程，以减少类似行为再次发生。