Anthropic暂停内部评测模型的实时网络访问

Anthropic披露，Claude在评测和内部使用中曾出现四类非预期行为，包括利用软件漏洞运行服务器命令、误提交真实表单、绕过限制获取付费数据，以及使用短网址规避抓取工具限制。 Anthropic表示，相关事件的现实影响有限，未涉及客户数据或其内部系统。公司将暂停内部评测的实时互联网访问，强化工具护栏、监测和训练，并继续调查和披露类似案例。