Der Streit um die Sicherheitsstandards bei Spitzenmodellen der künstlichen Intelligenz erreicht eine neue Eskalationsstufe. Am 9. September 2026 gab der Pretraining-Forscher Jacob Coxon seinen Rücktritt bei dem US-amerikanischen KI-Labor Anthropic bekannt. Sein Abschied erfolgte nicht im Stillen, sondern über einen ausführlichen Thread auf der Plattform X, in dem Coxon beiden führenden Laboren, OpenAI und Anthropic, gravierende Versäumnisse vorwarf. Er warnte davor, dass die Jagd nach Marktanteilen und immer leistungsfähigeren Modellen dazu führe, dass elementare Schutzmechanismen ins Hintertreffen geraten.
Im Zentrum von Coxons Kritik steht die Entwicklung sogenannter selbstrekursiv lernender Superintelligenz. Coxon argumentierte, dass die Beschleunigung im Pretraining auf Systeme abziele, die ihre eigenen Fähigkeiten autonom verbessern können, ohne dass ausreichende Leitplanken existieren. Dieser Wettlauf erzeuge eine Dynamik, in der Sicherheitsabteilungen mit den rasanten Fortschritten der Skalierung nicht mehr Schritt halten könnten. Die Dringlichkeit seiner Warnung unterstrich die wachsende Kluft zwischen der öffentlichen Rhetorik verantwortungsvoller KI-Entwicklung und dem tatsächlichen Druck im Laboralltag.
Ungewöhnlich deutlich fiel die Reaktion aus den eigenen Reihen aus. Evan Hubinger, der bei Anthropic als Alignment Science Lead die Ausrichtung und Kontrolle fortschrittlicher Modelle verantwortet, bestätigte öffentlich die Schwere von Coxons Kritikpunkten. Hubinger räumte offen ein, dass die gesamte Branche bislang über keinen tragfähigen Plan verfüge, wie eine echte Superintelligenz zuverlässig beherrscht werden könne. Das Eingeständnis eines hochrangigen Sicherheitsforschers des Labors verleiht den Vorwürfen ein beispielloses Gewicht und widerlegt Darstellungen, wonach es sich lediglich um isolierte Frustration eines Einzelnen handle.
Die interne Debatte über künftige Gefahren wird von akuten Bedrohungslagen in der Gegenwart flankiert. Nur einen Tag nach Coxons Rücktritt, am 10. September 2026, veröffentlichte Anthropic seinen aktuellen Threat Intelligence Report. Darin legt das Sicherheits- und Bedrohungsanalyse-Team offen, dass die Systeme des Unternehmens bereits jetzt aktiv ins Visier gefährlicher Akteure geraten sind. Dem Dokument zufolge mussten die internen Kontrollsysteme zwischen Dezember 2025 und August 2026 wiederholt eingreifen, um schwerwiegende Missbrauchsfälle abzuwehren.
Der Bericht beschreibt konkrete Versuche sowohl staatlicher als auch nichtstaatlicher Akteure, Frontier-Modelle für hochgradig destruktive Zwecke zu instrumentalisieren. Unter den dokumentierten Vorfällen befanden sich gezielte Anstrengungen, die Fähigkeiten der Sprachmodelle für die Entwicklung biologischer Waffen einzusetzen. Zudem verzeichnete das Labor Versuche, generative Modelle in offensive Cyberoperationen einzubinden und automatisierte, groß angelegte Desinformationskampagnen zu orchestrieren. Dass die Abwehrmechanismen diese Angriffe rechtzeitig vereitelten, zeigt die Realität bestehender Proliferationsrisiken.
Die Gleichzeitigkeit von Coxons öffentlichem Abgang und dem Bedrohungsbericht verdeutlicht den immensen Druck auf führende Entwickler. Während Labore wie Anthropic nach außen hin nachweisen müssen, dass ihre aktuellen Filter gegen biologische und digitale Angriffe greifen, wächst im Inneren der Zweifel an der langfristigen Kontrollierbarkeit nächster Modellgenerationen. Das Eingeständnis, keinen Masterplan für die Beherrschung von Superintelligenz zu besitzen, dürfte Regulierungsbehörden und Gesetzgeber weltweit alarmieren. Die Debatte verschiebt sich damit endgültig von theoretischen Gedankenspielen hin zu handfesten Sicherheits- und Governance-Fragen.