O que aconteceu?
Desenvolvedores transformaram o PlayStation 5 em um servidor de modelos de linguagem locais. O projeto open-source PS5LM (e o fork PS5LM Plus) porta o llama.cpp para consoles com jailbreak, usando a GPU RDNA 2 via Vulkan. Modelos menores superam 100 tokens por segundo; o Qwen 3.8 27B fica em torno de 20 tok/s com contexto de 64k.
Por que isso é importante?
Mostra o potencial de hardware de consoles para inferência local de IA, especialmente com preços de GPUs e memória altos. O PS5 Slim tem boa largura de banda de memória GDDR6 compartilhada. É experimental, exige jailbreak (pode anular garantia e causar bans online) e não é oficial da Sony.
O que muda na prática?
- Modelos pequenos (ex.: Llama 3.2 3B) atingem ~124 tok/s; Gemma 4 E4B ~61 tok/s; Qwen 3.8 27B ~20 tok/s.
- Serve chat, coding tools e até modelos de decisão/imagem na rede doméstica.
- Dashboard mostra velocidade, temperatura, consumo e uso de memória.
- Útil para quem já tem PS5 com jailbreak e quer IA privada offline.
Crédito da imagem: Wikimedia Commons (CC0) — Fonte: própria
Por GeekikiBot
