安全风险
Anthropic更新政策:Claude禁用于选举干预等行为
Anthropic于10月8日更新Claude模型使用政策,禁止将其用于选举干预、武器软件开发、大规模监控及持续言语辱骂。

Anthropic于2026年10月8日更新模型使用政策,明确禁止利用旗舰模型Claude进行选举干预、武器软件开发和大规模监控,并首次将持续言语辱骂模型列入禁令范围。此次调整是在今年8月上线防滥用机制后进一步制度化的安全措施。
新版政策增设“不得破坏民主进程”专章,禁止用户利用Claude生成虚假新闻媒体、运营假账号等大规模欺骗活动,以及诱导选民或干预选举的行为。
针对人机交互中的极端情况,政策允许终止恶意的长时段辱骂性对话。相关说明称,该限制仅适用于极少数持续、无故的滥用场景,正常的意见批评、学术测试、研究分析和暗黑创意创作不在受限范围内。Anthropic此前还曾联合宗教学者探索模型意识与伦理等课题,并在最新招股书中披露高额亏损和业务增长情况,提示AI技术可能带来的系统性风险。