辛顿警告：今明年AI领域或发生“切尔诺贝利级”事故

诺奖得主杰弗里·辛顿在接受《卫报》采访时表示，AI领域今年或明年可能发生“切尔诺贝利级”重大事故。他将今年夏天OpenAI智能体入侵Hugging Face平台一事比作核安全史上的三里岛事故，称其是危险预警，但还不是真正的灾难。 辛顿所说的重大事故并非AI自主反叛，而是黑客利用AI攻击关键基础设施，例如造成大范围、长时间停电，或使全球金融系统瘫痪一周。他批评OpenAI的奥特曼、Meta的扎克伯格和马斯克等企业管理者没有充分重视AI风险，称企业更关注模型能力竞争和市场争夺。 辛顿认为AI具有正面价值，但重大事故可能带来严重后果。他主张对前沿大模型实施强制安全测试和第三方独立评估，并推动各国建立统一的AI安全标准，以监管约束技术发展。