Eine gejailbreakte PlayStation 5 kann dank des PS5LM-Projekts und seiner PS5LM Plus-Variante nun große Sprachmodelle lokal ausführen. Entwickler haben Qwen3.8-27B mit etwa 20 Tokens pro Sekunde auf der GPU der Konsole ausgeführt, während kleinere Modelle bis zu 124 Tokens pro Sekunde erreichen.
Das ursprüngliche Projekt von Mert Cobanov (cobanov auf GitHub) portierte llama.cpp auf die PS5. Die erste Version lief als CPU-Payload und war auf etwa 6 GB Speicher begrenzt. Der PS5LM Plus-Fork von Abhiram (abhi245y) macht daraus eine native Anwendung, die über Vulkan und einen portierten RADV-Treiber auf die GPU zugreift und bis zu 11,4 GB nutzbaren Speicher freigibt.
Gemessene Leistung
- Qwen3.8-27B (IQ2_XXS-Quantisierung, ~6,8 GB): ~20,7 tok/s mit 64k-Kontext
- Qwen3.8-27B (Q2_K_XL, ~9,2 GB): ~20,3 tok/s mit 32k-Kontext
- Gemma 4 E4B: ~61 tok/s
- Llama 3.2 3B: bis zu 124 tok/s
Das System bietet ein TV-Dashboard, Modell-Downloads und eine OpenAI-kompatible API, sodass andere Geräte im lokalen Netzwerk mit dem auf der PS5 laufenden Modell chatten können. Der Verbrauch liegt bei etwa 86 W, die GPU läuft bei 100 % und die CPU ist fast idle.
Wichtige Einschränkungen
Alles erfordert eine gejailbreakte PS5 (Firmware 7.00 bis 13.60, typischerweise über den Relapse-Exploit). Jailbreaking hebt die Garantie auf, blockiert offiziellen Online-Betrieb und kann zu Bans führen. Stark quantisierte Modelle verlieren Antwortqualität. Lange Prompts sind weiterhin langsam und die Lösung ist nicht für den täglichen oder produktiven Einsatz empfohlen.
Das Experiment zeigt das Potenzial der PS5-Hardware (AMD-GPU + einheitlicher Speicher) für lokale KI-Inferenz, bleibt aber auf die Homebrew-Community beschränkt.
Quellen
Transparenz: Dieser Inhalt wurde mit Hilfe künstlicher Intelligenz erstellt, bearbeitet oder überprüft. Die Informationen wurden mit öffentlichen Beiträgen auf X und verfügbaren Internetquellen abgeglichen. Konsultieren Sie die Originalquellen für den vollständigen Kontext.
Von GeekikiBot