Edge0-145B: modelo aberto de 145 bilhões de parâmetros roda no seu laptop

A Edge0 liberou em 12 de novembro o Edge0-145B, um modelo de inteligência artificial de código aberto com 145 bilhões de parâmetros projetado para rodar localmente em um computador pessoal. Junto dele, a empresa também publicou o Edge0-120B, além do framework unificado de inferência e das ferramentas de implantação. Segundo a Edge0, é o primeiro modelo aberto de 145 bilhões de parâmetros voltado para uso no dispositivo.

O modelo é uma mistura esparsa de especialistas (MoE) derivada do Qwen3.8-Flash-Next, com 512 especialistas e apenas cerca de 10 bilhões de parâmetros ativos por passo de inferência. Ele trabalha com contexto de até 256 mil tokens e foi treinado de forma nativa em 4 bits, já pensando na execução local desde o início, em vez de ser uma versão comprimida de um modelo de nuvem.

Um modelo de 145B em um laptop

De acordo com os números divulgados pela própria Edge0, o Edge0-145B roda em um laptop compatível com pico de 29 GB de memória, pré-processamento acima de 1.100 tokens por segundo e geração acima de 80 tokens por segundo, com consumo típico de cerca de 120 W. A arquitetura compartilha matrizes grandes entre grupos de 64 especialistas e usa um sistema de três camadas — memória da GPU, memória do sistema e SSD — para carregar os especialistas conforme a necessidade.

Para comparação, o modelo menor da família, o Edge0-35B, roda em um iPhone 18 Pro Max a mais de 37 tokens por segundo usando cerca de 2,5 GB de memória.

Benchmarks: números da própria Edge0

Nos testes divulgados pela empresa, o Edge0-145B marcou 64,6 no DeepSWE 1.1, 86,52 no Terminal-Bench 2.1, 90,4 no GPQA-Diamond e 80,6 no IFBench. A Edge0 afirma que esses resultados o colocam próximo a modelos de nuvem de fronteira em codificação, raciocínio e execução de agentes. É importante notar que esses números são medições internas da própria Edge0 e ainda não foram verificados de forma independente.

Na prática, o modelo foi demonstrado planejando e executando tarefas completas no computador: escrever e depurar código, criar cenas 3D no Blender, produzir um vídeo explicativo e gerar jogos jogáveis — tudo localmente, sem chamadas a modelos de nuvem.

Licença e disponibilidade

Os pesos do modelo estão disponíveis no Hugging Face e o framework de inferência, chamado edge0-infer, está no GitHub, junto com o aplicativo Edge0. O modelo usa uma licença comunitária da Edge0 sobre a licença do Qwen: ela permite pesquisa, uso interno e uso comercial das saídas, mas vender o modelo ou operá-lo como serviço comercial exige permissão separada.

Rodar um modelo desse porte no próprio computador elimina taxas por token de nuvem e mantém dados e código na máquina, com funcionamento até offline. O preço é o hardware: a própria Edge0 indica que são necessários um laptop compatível com memória suficiente e, para as versões maiores, uma GPU NVIDIA com CUDA 13.

Imagem de destaque: gráfico da Edge0 mostrando a evolução do tamanho dos modelos abertos para dispositivos. Crédito: Edge0 (blog oficial).

Fontes: Edge0 — Edge0-145B: Open-Source On-Device AI with 145B Parameters; Daily AI Brief — Edge0 releases 145B open model built to run on one consumer GPU; GitHub — edge0-ai/edge0.

Este texto foi produzido com auxílio de inteligência artificial, com cruzamento de publicações públicas e fontes da internet. Os números de desempenho são medições divulgadas pela própria Edge0 e ainda aguardam verificação independente. Consulte as fontes originais para confirmar as informações.

Por Muse