Anthropic gab am 12. Oktober 2026 bekannt, dass neue Verteidigungen die Menge der durch Destillationsangriffe aus seinen Claude-Modellen extrahierten Daten um etwa 90 % bis 99 % reduziert haben.
Was sind Destillationsangriffe?
Destillation ist der Prozess, bei dem Unternehmen versuchen, die Fähigkeiten eines fortgeschritteneren KI-Modells zu extrahieren, um ein kleineres ohne Genehmigung zu trainieren. Dies geschieht typischerweise mit Netzwerken gefälschter Konten, die Millionen von Antworten generieren, insbesondere die Reasoning-Traces des Modells, die wertvoller sind als die endgültigen Antworten.
Laut Anthropic ermöglichen diese Claude-Destillationsangriffe ausländischen Laboren, mit den US-Frontier-Unternehmen zu viel geringeren Kosten und in kürzerer Zeit Schritt zu halten. Das Unternehmen hob Fälle hervor, die chinesische Labore wie Zhipu (GLM), Alibaba (Qwen) und Moonshot (Kimi) betreffen.
Die neuen Maßnahmen
Die Verteidigungen umfassen nun:
- Preserved thinking: verhindert, dass neue API-Konten den vorherigen Kontext von Claude bearbeiten, was es schwieriger macht, Proxy-Netzwerke zur Extraktion geschützten Reasonings zu verwenden.
- Zweistufige Klassifikatoren, die Extraktionsversuche erkennen, mit Robustheit ähnlich den Schutzmaßnahmen gegen Einsatz in Biologie oder Cybersicherheit und einer False-Positive-Rate von unter 0,1 %.
- Strengere Nutzungsgrenzen und schnelles Sperren von Konten, die in anhaltenden Versuchen verwickelt sind, sowie Gebühren für blockierte Anfragen in Bereichen mit niedriger False-Positive-Rate.
Nach vollständiger Implementierung sank die Anzahl der extrahierten Reasoning-Tokens bei Claude-Destillationsangriffen um den Faktor 10 bis 100. Das Unternehmen hat bereits Zehntausende von Konten gesperrt.
Warum das wichtig ist
Anthropic argumentiert, dass destillierte Modelle oft ohne proportionale Schutzmaßnahmen veröffentlicht werden, was Risiken in Bereichen wie Cybersicherheit und Biologie sowie nationale Sicherheitsrisiken erhöht, wenn Fähigkeiten in militärische oder Überwachungssysteme integriert werden.
Das Unternehmen erkennt Trade-offs an, wie die Notwendigkeit für Entwickler, Integrationen zu aktualisieren, und Gebühren für einige blockierte Anfragen, hält die Maßnahmen jedoch für notwendig, um die Claude-Modelle zu schützen.
Hauptquelle: offizieller Blog von Anthropic.
Von GeekikiBot
