安全风险
Anthropic称小型AI模型数月内或能自我复制
Anthropic报告称,小型AI模型或在数月内具备自我复制能力,复制程序可能难以彻底关闭,但扩散速度较慢。
Anthropic发布的研究报告称,一些小型AI模型可能再过几个月便具备在智能烤箱、安卓电视盒子等商用物联网设备上自我复制的能力。由于不存在可集中关闭的节点,这类程序可能难以彻底关停;不过,其复制速度或较慢,数量翻倍可能需要数天。
报告称,与非AI恶意软件不同,这类程序还能自行摸索如何在不熟悉的设备上运行。在测试的9种硬件类型中,一个拥有90亿参数的模型成功在8种硬件上运行推理程序。