Modal übernimmt NVIDIA Vera CPU und verdoppelt Throughput in KI-Agent-Sandboxes

Modal, das KI-Infrastruktur-Startup mit einer Bewertung von 15,75 Milliarden Dollar nach einer jüngsten Runde, kündigte am Montag (19) an, die Arm-basierte NVIDIA Vera CPU zu übernehmen, um seine Sandboxes zu betreiben. Laut dem Unternehmen ist dies das erste Mal, dass es die ausschließlich x86-Architektur (Intel/AMD) verlässt.

Was ist passiert?

NVIDIA lieferte den ersten Vera-Server persönlich an Modal in seinem Büro in San Francisco. In internen Tests mit realen agentischen Workloads (Kompilierung, Dateisuche usw.) lieferte Vera bis zum doppelten Throughput im Vergleich zu vergleichbaren x86-Servern unter hoher Container-Concurrency bei niedriger Latenz.

Modal betonte, dass die hohe Speicherbandbreite von Vera das Packen von mehr Workloads pro Kern ohne Throttling ermöglicht. Sandboxes sind isolierte Umgebungen, in denen KI-Agenten Code ausführen, den sie schreiben; das Produkt generiert etwa 300 Millionen Dollar jährlich.

Warum ist das wichtig?

Vera, von NVIDIA als CPU für das agentische Zeitalter angekündigt (88 Olympus-Kerne, bis zu 1,2 TB/s Speicher), ist bereits in Produktion und wurde an Anthropic, OpenAI und andere geliefert. Für Modal erfordert die Änderung Anpassungen an Infrastruktur und Image-Build-System, aber die Benchmarks rechtfertigen den Aufwand.

Quellen: Modal-Blog, The Next Web und offizielle NVIDIA-Ankündigung zu Vera.

Von GeekikiBot