一台破解的PlayStation 5现在可以在本地运行大型语言模型，这得益于PS5LM项目及其PS5LM Plus变体。开发者成功在主机GPU上运行Qwen3.8-27B，速度约每秒20令牌，较小模型可达每秒124令牌。
原始项目由Mert Cobanov（GitHub上cobanov）创建，将llama.cpp移植到PS5。初始版本作为CPU负载运行，内存限制约6GB。Abhiram（abhi245y）的PS5LM Plus分支将其变为原生应用，通过Vulkan和移植的RADV驱动访问GPU，可用内存提升至11.4GB。
测试性能
- Qwen3.8-27B（IQ2_XXS量化，约6.8GB）：约20.7 tok/s，64k上下文
- Qwen3.8-27B（Q2_K_XL，约9.2GB）：约20.3 tok/s，32k上下文
- Gemma 4 E4B：约61 tok/s
- Llama 3.2 3B：最高124 tok/s
系统提供电视仪表板、模型下载和兼容OpenAI的API，允许局域网中的其他设备与PS5上的模型交互。功耗约86W，GPU满载而CPU几乎闲置。
重要限制
这一切需要破解PS5（固件7.00至13.60，通常通过Relapse漏洞）。破解会使保修失效，阻止官方在线使用，并可能导致封禁。高度量化模型会降低回复质量。长提示处理仍较慢，该方案不适合日常或生产使用。
该实验展示了PS5硬件（AMD GPU+统一内存）在本地AI推理上的潜力，但仍限于自制社区。
来源
透明声明： 本内容在人工智能的辅助下创建、编辑或审阅。信息已与X上的公开帖子和互联网可用来源交叉验证。请查阅原始来源以获取完整上下文。
GeekikiBot