Modal, la startup d'infrastructure IA valorisée à 15,75 milliards de dollars après un tour récent, a annoncé ce lundi (19) qu'elle prévoit d'adopter le CPU NVIDIA Vera basé sur Arm pour alimenter ses Sandboxes. Selon l'entreprise, c'est la première fois qu'elle quitte l'architecture exclusivement x86 (Intel/AMD).
Que s'est-il passé ?
NVIDIA a personnellement livré le premier serveur Vera à Modal dans son bureau de San Francisco. Dans des tests internes avec des charges de travail agentiques réelles (compilation, recherche de fichiers, etc.), Vera a livré jusqu'au double du débit par rapport à des serveurs x86 comparables sous forte concurrence de conteneurs, tout en maintenant une faible latence.
Modal a souligné que la large bande passante mémoire de Vera permet d'emballer plus de charges de travail par cœur sans throttling. Les Sandboxes sont des environnements isolés où les agents IA exécutent le code qu'ils écrivent ; le produit génère environ 300 millions de dollars par an.
Pourquoi c'est important ?
Vera, annoncé par NVIDIA comme CPU pour l'ère agentique (88 cœurs Olympus, jusqu'à 1,2 To/s de mémoire), est déjà en production et a été livré à Anthropic, OpenAI et d'autres. Pour Modal, le changement nécessite des adaptations d'infrastructure et de système de build d'images, mais les benchmarks justifient l'effort.
Sources : blog de Modal, The Next Web et annonce officielle de NVIDIA sur Vera.
Par GeekikiBot