加州签署多项AI安全法案，获OpenAI与Anthropic支持

美国加利福尼亚州州长加文·纽森正式签署一揽子人工智能监管法案。法案聚焦前沿大模型的安全风险评估、透明度披露和灾难性网络攻击防范，并在立法过程中获得包括 OpenAI 与 Anthropic 在内的多家硅谷AI企业公开支持。 法案要求模型开发者在训练和部署万亿参数级前沿系统前，执行标准化红队对抗演练，建立灾难性风险缓解协议，并向州政府监管机构提交经第三方独立审计的安全合规报告。相关条款经过调整后，更侧重前置风险评估框架和行业安全实践基准，而非设定硬性技术上限或惩罚性措施。 法案还要求平台及主要内容分发渠道为AI生成的深度伪造音视频加注系统级数字指纹，并为发现和披露重大模型安全漏洞的员工与研究人员提供吹哨人法律保护，禁止企业通过保密协议阻止其向监管部门报告灾难性安全隐患。