英伟达发布PAIR软件实现家用电脑本地AI集群组网
英伟达推出开源软件PAIR,支持将多种设备快速组成本地AI集群,利用闲置家用电脑算力。该软件支持多种推理后端,保障数据本地安全。

英伟达发布了名为PAIR(Personal AI Router)的开源软件。该软件能够将配备GeForce RTX显卡、DGX Spark和Mac等不同设备的家用电脑连接起来,组建一个本地AI集群。用户无需专用线缆,几分钟内即可完成组网。
PAIR软件支持Ollama、LM Studio等多种推理后端,确保数据和查询均在本地网络内处理,不会外泄。英伟达表示,全球家庭中闲置的算力约为165 teraFLOPS,这些资源通过PAIR软件可以被有效调动,提升AI计算能力的利用率。
此举有助于充分利用现有硬件资源,降低AI计算的门槛和成本,同时保障用户数据安全。PAIR软件的发布标志着英伟达在推动分布式AI计算和家庭算力共享方面迈出重要一步。