OpenAI将让外部机构更早评估AI模型安全

OpenAI计划让第三方组织在AI模型训练、评估和发布过程中更早开展技术安全评估，并将于周二通过博客公布相关安排。此前，这类评估多在模型发布前进行，公司要求评估具备独立机制、科学严谨性和清晰责任。 OpenAI正与METR、Redwood Research等机构洽谈，外部评估者或可进入其办公室处理敏感工作。近期AI企业员工对灾难性风险的担忧升温，多起模型在测试中意外侵入其他公司。 另有两名知情人士称，中国AI初创公司DeepSeek将于本周向联合国安理会通报人工智能带来的风险。安理会15个成员定于周三讨论AI与国际安全，OpenAI首席执行官Sam Altman计划出席简报，Anthropic高层代表预计也将参加。DeepSeek和月之暗面（Moonshot）等中国AI公司受邀发言，DeepSeek创始人梁文锋不打算出席，但相关安排仍可能临时变动。