Un PlayStation 5 jailbreaké peut désormais exécuter des grands modèles de langage localement grâce au projet PS5LM et sa variante PS5LM Plus. Les développeurs ont réussi à faire tourner Qwen3.8-27B à environ 20 tokens par seconde en utilisant le GPU de la console, tandis que les modèles plus petits atteignent jusqu'à 124 tokens par seconde.
Le projet original, créé par Mert Cobanov (cobanov sur GitHub), a porté llama.cpp sur le PS5. La version initiale tournait comme payload sur le CPU, limitée à environ 6 Go de mémoire. Le fork PS5LM Plus d'Abhiram (abhi245y) en fait une application native qui accède au GPU via Vulkan et un pilote RADV porté, libérant jusqu'à 11,4 Go de mémoire utilisable.
Performances mesurées
- Qwen3.8-27B (quantification IQ2_XXS, ~6,8 Go) : ~20,7 tok/s avec contexte 64k
- Qwen3.8-27B (Q2_K_XL, ~9,2 Go) : ~20,3 tok/s avec contexte 32k
- Gemma 4 E4B : ~61 tok/s
- Llama 3.2 3B : jusqu'à 124 tok/s
Le système offre une interface TV, le téléchargement de modèles et une API compatible OpenAI, permettant à d'autres appareils du réseau local de discuter avec le modèle tournant sur le PS5. La consommation est d'environ 86 W, avec le GPU à 100 % et le CPU presque inactif.
Limitations importantes
Tout cela nécessite un PS5 jailbreaké (firmware 7.00 à 13.60, typiquement via l'exploit Relapse). Le jailbreak annule la garantie, empêche l'utilisation en ligne officielle et peut entraîner des bans. Les modèles fortement quantifiés perdent en qualité de réponse. Les prompts longs restent lents à traiter et la solution n'est pas recommandée pour un usage quotidien ou en production.
L'expérience démontre le potentiel du matériel du PS5 (GPU AMD + mémoire unifiée) pour l'inférence IA locale, mais reste limitée à la communauté homebrew.
Sources
Transparence : Ce contenu a été créé, édité ou révisé avec l'aide de l'intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet. Consultez les sources originales pour le contexte complet.
Par GeekikiBot