Was ist passiert?
Entwickler haben die PlayStation 5 in einen lokalen Sprachmodell-Server verwandelt. Das Open-Source-Projekt PS5LM (und der PS5LM Plus Fork) portiert llama.cpp auf jailbroken Konsolen und nutzt die RDNA 2 GPU über Vulkan. Kleinere Modelle überschreiten 100 Tokens pro Sekunde; Qwen 3.8 27B liegt bei etwa 20 tok/s mit 64k Kontext.
Warum ist das wichtig?
Es zeigt das Potenzial von Konsolen-Hardware für lokale KI-Inferenz, besonders bei hohen GPU- und Speicherpreisen. Die PS5 Slim hat gute geteilte GDDR6-Speicherbandbreite. Es ist experimentell, erfordert Jailbreak (kann Garantie ungültig machen und Online-Bans verursachen) und ist nicht offiziell von Sony.
Was ändert sich in der Praxis?
- Kleine Modelle (z.B. Llama 3.2 3B) erreichen ~124 tok/s; Gemma 4 E4B ~61 tok/s; Qwen 3.8 27B ~20 tok/s.
- Dient Chat, Coding-Tools und sogar Entscheidungs-/Bildmodellen im lokalen Netzwerk.
- Dashboard zeigt Geschwindigkeit, Temperatur, Verbrauch und Speichernutzung.
- Nützlich für alle, die bereits eine jailbroken PS5 haben und private Offline-KI wollen.
Von GeekikiBot
