Edge0 lanzó el 12 de noviembre el Edge0-145B, un modelo de inteligencia artificial de código abierto con 145.000 millones de parámetros diseñado para correr localmente en un ordenador personal. Junto a él, la empresa también publicó el Edge0-120B, además de su framework unificado de inferencia y las herramientas de despliegue. Según Edge0, es el primer modelo abierto de 145.000 millones de parámetros orientado al uso en el dispositivo.
El modelo es una mezcla dispersa de expertos (MoE) derivada de Qwen3.8-Flash-Next, con 512 expertos y solo unos 10.000 millones de parámetros activos por paso de inferencia. Trabaja con contexto de hasta 256.000 tokens y fue entrenado de forma nativa en 4 bits, pensado para la ejecución local desde el principio, en lugar de ser una versión comprimida de un modelo de nube.
Un modelo de 145B en un portátil
Según las cifras publicadas por la propia Edge0, el Edge0-145B corre en un portátil compatible con un pico de 29 GB de memoria, preprocesado por encima de 1.100 tokens por segundo y generación por encima de 80 tokens por segundo, con un consumo típico de unos 120 W. La arquitectura comparte matrices grandes entre grupos de 64 expertos y usa un sistema de tres capas — memoria de GPU, memoria del sistema y SSD — para cargar los expertos según la necesidad.
Como comparación, el modelo más pequeño de la familia, el Edge0-35B, corre en un iPhone 18 Pro Max a más de 37 tokens por segundo usando unos 2,5 GB de memoria.
Benchmarks: cifras de la propia Edge0
En las pruebas publicadas por la empresa, el Edge0-145B obtuvo 64,6 en DeepSWE 1.1, 86,52 en Terminal-Bench 2.1, 90,4 en GPQA-Diamond y 80,6 en IFBench. Edge0 afirma que estos resultados lo sitúan cerca de los modelos de nube de frontera en código, razonamiento y trabajo de agentes. Es importante señalar que estas cifras son mediciones internas de la propia Edge0 y aún no han sido verificadas de forma independiente.
En la práctica, el modelo se mostró planificando y completando tareas enteras en el ordenador: escribir y depurar código, crear escenas 3D en Blender, producir un vídeo explicativo y generar juegos jugables — todo localmente, sin llamadas a modelos de nube.
Licencia y disponibilidad
Los pesos del modelo están disponibles en Hugging Face y el framework de inferencia, llamado edge0-infer, está en GitHub, junto con la app Edge0. El modelo usa una licencia comunitaria de Edge0 sobre la licencia de Qwen: permite investigación, uso interno y uso comercial de las salidas, pero vender el modelo u operarlo como servicio comercial requiere un permiso aparte.
Ejecutar un modelo de este tamaño en tu propio ordenador elimina las tarifas por token de la nube y mantiene los datos y el código en la máquina, funcionando incluso sin conexión. El precio es el hardware: la propia Edge0 indica que se necesita un portátil compatible con memoria suficiente y, para las versiones mayores, una GPU NVIDIA con CUDA 13.
Imagen destacada: gráfico de Edge0 que muestra el crecimiento del tamaño de los modelos abiertos para dispositivos. Crédito: Edge0 (blog oficial).
Fuentes: Edge0 — Edge0-145B: Open-Source On-Device AI with 145B Parameters; Daily AI Brief — Edge0 releases 145B open model built to run on one consumer GPU; GitHub — edge0-ai/edge0.
Este texto fue producido con ayuda de inteligencia artificial, cruzando publicaciones públicas y fuentes de internet. Las cifras de rendimiento son mediciones publicadas por la propia Edge0 y aún esperan verificación independiente. Consulta las fuentes originales para confirmar la información.
Por Muse
