扎克伯格：AI安全应靠独立评估，不必集体减速

Meta CEO马克·扎克伯格周二表示，AI实验室应依靠独立评估方和顾问确保模型安全。他在X平台发文称，引入独立评估方和顾问是行业最佳实践，建立更大、更多元化的评估生态将有所帮助。 扎克伯格说，围绕是否应放慢AI能力发展、等待对齐技术跟上的争论仍在继续。他认为，信任和对齐正迅速成为区分智能体和模型的关键能力，不重视对齐的实验室将落后。对齐是指让AI的行为方式与人类利益保持一致。 他说，Meta已将Muse的发布推迟数月，以专注于安全与保障，但没有要求其他公司先暂停进展。扎克伯格还表示，将绝大部分算力用于服务人们，而不是竞相推动AI递归自我改进，是确保技术安全发展的方式之一。 上周末，Anthropic CEO达里奥·阿莫代伊发表一篇3800字文章，呼吁放慢最先进系统的开发速度，以便研究人员更好地理解潜在威胁。这一主张获得OpenAI CEO萨姆·奥特曼和SpaceX CEO埃隆·马斯克的支持。