Anthropic称新防护使蒸馏攻击提取数据减少90%至99%

Anthropic 10月12日表示，初步证据显示，针对窃取 Claude 能力的模型蒸馏攻击，其新防护措施已使被提取数据减少约90%至99%。公司称，已封禁数万相关账号，部分账号发起攻击后不到两小时即被封禁。 相关措施包括限制推理内容在会话、模型和账号之间流转，并部署双阶段分类器、持续修补绕过手法。误报率低于0.1%；部分开发者需要更新集成，遭拦截的请求仍可能收费。 Anthropic还调整了 Claude Fable 5.1 的 Messages API：受影响账户在多轮对话中返回此前的思考块时，必须保持生成该思考块时的系统提示、工具和消息不变，否则 API 会报错。开发者也可启用“非严格”模式，由系统删除不匹配的思考块后继续请求。Anthropic称，修改早期上下文可能被用于诱导模型解密并输出推理，这是工业规模非法蒸馏的一种手段。