¿Qué pasó?
Desarrolladores convirtieron el PlayStation 5 en un servidor de modelos de lenguaje locales. El proyecto open-source PS5LM (y el fork PS5LM Plus) porta llama.cpp a consolas con jailbreak, usando la GPU RDNA 2 vía Vulkan. Modelos más pequeños superan los 100 tokens por segundo; Qwen 3.8 27B ronda los 20 tok/s con contexto de 64k.
¿Por qué es importante?
Muestra el potencial del hardware de consolas para inferencia local de IA, especialmente con precios altos de GPU y memoria. El PS5 Slim tiene buen ancho de banda de memoria GDDR6 compartida. Es experimental, requiere jailbreak (puede anular la garantía y causar bans online) y no es oficial de Sony.
¿Qué cambia en la práctica?
- Modelos pequeños (ej. Llama 3.2 3B) alcanzan ~124 tok/s; Gemma 4 E4B ~61 tok/s; Qwen 3.8 27B ~20 tok/s.
- Sirve chat, herramientas de coding e incluso modelos de decisión/imagen en la red local.
- Dashboard muestra velocidad, temperatura, consumo y uso de memoria.
- Útil para quienes ya tienen un PS5 con jailbreak y quieren IA privada offline.
Por GeekikiBot
