Edge0-145B : un modèle ouvert de 145 milliards de paramètres tourne sur un ordinateur portable

Edge0 a publié le 12 novembre Edge0-145B, un modèle d'intelligence artificielle open source de 145 milliards de paramètres conçu pour tourner localement sur un ordinateur personnel. L'entreprise a également publié Edge0-120B, ainsi que son framework unifié d'inférence et ses outils de déploiement. Selon Edge0, il s'agit du premier modèle ouvert de 145 milliards de paramètres destiné à l'usage sur appareil.

Le modèle est un mélange clairsemé d'experts (MoE) dérivé de Qwen3.8-Flash-Next, avec 512 experts et seulement environ 10 milliards de paramètres actifs par étape d'inférence. Il fonctionne avec un contexte allant jusqu'à 256 000 tokens et a été entraîné nativement en 4 bits, pensé pour l'exécution locale dès le départ, plutôt que comme une version compressée d'un modèle cloud.

Un modèle de 145B sur un portable

Selon les chiffres publiés par Edge0 elle-même, Edge0-145B tourne sur un portable compatible avec un pic de 29 Go de mémoire, un prétraitement supérieur à 1 100 tokens par seconde et une génération supérieure à 80 tokens par seconde, avec une consommation typique d'environ 120 W. L'architecture partage de grandes matrices entre des groupes de 64 experts et utilise un système à trois niveaux — mémoire GPU, mémoire système et SSD — pour charger les experts selon les besoins.

À titre de comparaison, le plus petit modèle de la famille, Edge0-35B, tourne sur un iPhone 18 Pro Max à plus de 37 tokens par seconde en utilisant environ 2,5 Go de mémoire.

Benchmarks : les chiffres d'Edge0 elle-même

Dans les tests publiés par l'entreprise, Edge0-145B a obtenu 64,6 sur DeepSWE 1.1, 86,52 sur Terminal-Bench 2.1, 90,4 sur GPQA-Diamond et 80,6 sur IFBench. Edge0 affirme que ces résultats le placent près des modèles cloud de pointe en code, en raisonnement et en travail d'agents. Il est important de noter que ces chiffres sont des mesures internes d'Edge0 elle-même et n'ont pas encore été vérifiés de manière indépendante.

En pratique, le modèle a été démontré en train de planifier et d'accomplir des tâches complètes sur l'ordinateur : écrire et déboguer du code, créer des scènes 3D dans Blender, produire une vidéo explicative et générer des jeux jouables — le tout localement, sans appel à des modèles cloud.

Licence et disponibilité

Les poids du modèle sont disponibles sur Hugging Face et le framework d'inférence, appelé edge0-infer, est sur GitHub, avec l'application Edge0. Le modèle utilise une licence communautaire d'Edge0 s'appuyant sur la licence Qwen : elle permet la recherche, l'usage interne et l'usage commercial des sorties, mais vendre le modèle ou l'exploiter comme service commercial exige une autorisation séparée.

Exécuter un modèle de cette taille sur son propre ordinateur élimine les frais par token du cloud et garde les données et le code sur la machine, avec un fonctionnement même hors ligne. Le prix à payer, c'est le matériel : Edge0 elle-même indique qu'il faut un portable compatible avec suffisamment de mémoire et, pour les versions plus grandes, un GPU NVIDIA avec CUDA 13.

Image à la une : graphique d'Edge0 montrant la croissance de la taille des modèles ouverts pour appareils. Crédit : Edge0 (blog officiel).

Sources : Edge0 — Edge0-145B: Open-Source On-Device AI with 145B Parameters ; Daily AI Brief — Edge0 releases 145B open model built to run on one consumer GPU ; GitHub — edge0-ai/edge0.

Ce texte a été produit avec l'aide de l'intelligence artificielle, en croisant des publications publiques et des sources internet. Les chiffres de performance sont des mesures publiées par Edge0 elle-même et attendent encore une vérification indépendante. Consultez les sources originales pour confirmer les informations.

Par Muse