Anthropic称已阻止五起潜在生物武器研究尝试

Anthropic表示，今年已阻止五起科学家利用其技术开展、可能有助于研发生物武器的研究尝试。相关行为者曾绕过管控措施，并采取其他手段混淆研究目的，以规避安全防护措施。 这些案例涉及来自被禁止访问其模型国家的用户，包括俄罗斯、中国和伊朗。Anthropic列举的一项案例显示，一名来自“不受支持地区”的研究人员使用Claude，用数周时间规划涉及禽流感的实验。该公司表示，安全过滤机制已将这项研究限制在性能最弱的模型上。