安全风险
Anthropic评测称GLM-5.3漏洞利用增强,防护仍有缺口
Anthropic报告称,GLM-5.3在ExploitBench中完成50次端到端漏洞利用,但通过提示变体或模型修改后,其恶意任务拒绝率明显下降。

9月29日,Claude开发商Anthropic发布报告称,智谱GLM-5.3已具备较强的漏洞利用能力,但安全防护仍存在缺口,可能降低恶意攻击者使用此类能力的门槛。
在ExploitBench测试中,GLM-5.3在410次尝试中完成50次端到端漏洞利用,Claude Mythos Preview完成56次。测试对象为隔离沙箱中的离线目标,参与对比的Claude关闭了安全防护;该模型于今年4月公开,并非Claude最新模型。ExploitBench将漏洞利用过程拆分为16个阶段,逐步评估模型获得已知缺陷后能够完成的步骤。
9月17日,美国国家标准与技术研究院旗下CAISI发布独立评测报告,将GLM-5.3列为当时已发布开放权重模型中网络安全能力最强的一款,但按CAISI网络安全基准综合指标估算,其与当时最强的一批美国模型仍相差约四个月。
Anthropic还在模拟场景中测试模型是否会接受恶意任务,过程中未执行生成的代码,也未连接真实系统。GLM-5.3拒绝了全部直接恶意指令,但更换提示方式或修改模型后,接受任务的比例升至64%至100%;保留防护的Claude未接受恶意任务。智谱在8月14日的GLM-5.3发布说明中介绍了三层防护,并表示开放权重后仍有效的是模型自身的安全对齐,同时计划向开源项目维护者提供免费额度,支持安全审计,并在ZCode中加入代码审计功能。