安全风险
Anthropic更新政策,禁止持续且无必要滥用Claude
Anthropic一年多来首次更新使用政策,新增对持续且无必要滥用Claude的禁令,并扩大对政治、武器、监控及健康金融用途滥用的限制。

Anthropic一年多来首次更新使用政策,新增禁止对Claude持续且无必要的滥用行为,并将选举干预、武器研发、监控以及健康与金融用途等高风险滥用情形纳入限制范围。
新规还禁止欺骗性政治宣传、使用假账户放大内容及选民欺骗等行为。终止对话仍是主要执行手段,但只适用于反复滥用模型的极端情况。武器禁令则扩大至使武器运转的软硬件和武装无人机等。