NVIDIA PAIR: ferramenta gratuita transforma PCs ociosos em cluster de IA local

A NVIDIA expandiu o ecossistema de IA local com o NVIDIA PAIR (Personal AI Router), uma ferramenta open-source gratuita que conecta PCs compatíveis na mesma rede para distribuir tarefas de inferência de IA.

Como funciona o NVIDIA PAIR

O PAIR descobre automaticamente máquinas com GPUs GeForce RTX (série 20 ou superior), RTX PRO, DGX Spark, RTX Spark e até Macs com Apple Silicon M4 ou mais recente. Ele roteia requisições independentes para o dispositivo com capacidade disponível, sem dividir modelos entre GPUs. Ferramentas como Ollama e LM Studio continuam rodando o modelo; o PAIR apenas atua como proxy inteligente.

Em demonstração da NVIDIA, uma carga de cinco subagentes levou cerca de 18 minutos em um único laptop RTX Spark e caiu para 8 minutos e 48 segundos em um cluster de três dispositivos.

RTX Spark e suporte a jogos

Os PCs compactos NVIDIA RTX Spark, com GPU Blackwell de 1 petaflop e até 128 GB de memória unificada, chegam de parceiros como Lenovo e Acer. Além de IA local, eles recebem suporte de desenvolvedoras como EA, Ubisoft e Embark Studios para jogos, com tecnologias como DLSS 5 e ray tracing.

O objetivo é permitir que um único dispositivo cuide de criação, jogos e agentes de IA de forma eficiente e privada na rede local.

Fonte: NVIDIA

Por GeekikiBot