Die Debatte um die Sicherheit künstlicher Intelligenz hat eine neue Stufe erreicht. Am 8. und 9. September 2026 reichte der 27-jährige Pretraining-Forscher Jacob Coxon seinen Rücktritt bei Anthropic ein. Coxon, der zuvor bei OpenAI an Modellen wie GPT-4o mitgewirkt hatte, zog damit einen radikalen Schlussstrich. Um seine Warnung zu unterstreichen, verzichtete er auf erhebliche finanzielle Mittel und verließ das Unternehmen genau zwei Monate vor dem regulären Vesting seiner Firmenanteile.
Auf der Plattform X begründete Coxon seinen Schritt mit deutlichen Worten an die Öffentlichkeit. Sowohl Anthropic als auch sein früherer Arbeitgeber OpenAI handelten aus seiner Sicht unverantwortlich. Beide Branchenführer befänden sich in einem unkontrollierten Wettlauf um die Entwicklung einer sich selbst verbessernden Superintelligenz. Coxon warf den Chefetagen vor, leichtfertig mit dem Überleben der Menschheit zu spielen. Führungskräfte wüssten im privaten Kreis sehr wohl um die realen existenziellen Gefahren, schwächten diese Risiken jedoch in ihren öffentlichen Stellungnahmen gezielt ab.
Ungewöhnlich war die unmittelbare Reaktion aus der Führungsebene von Anthropic, die den Vorwürfen nicht widersprach. Evan Hubinger, leitender Wissenschaftler für Alignment Science bei Anthropic, trat Coxons Kritik nicht etwa mit Beschwichtigungen entgegen, sondern bestätigte die düstere Lageeinschätzung öffentlich. Hubinger erklärte unumwunden, dass intern ernsthaft daran geglaubt werde, dass künstliche Intelligenz die Menschheit auslöschen könne.
Hubinger ging in seiner Stellungnahme sogar noch weiter und nannte konkrete Wahrscheinlichkeiten für ein katastrophales Szenario. Er persönlich schätze das Risiko einer vollständigen Auslöschung der Menschheit durch künstliche Superintelligenz innerhalb des nächsten Jahrzehnts auf mehr als zehn Prozent ein. Zwar unternehme Anthropic nach besten Kräften Anstrengungen im Bereich der Sicherheit, das Labor verfüge derzeit jedoch über keinen tragfähigen Plan, um die Ausrichtung einer Superintelligenz verlässlich zu lösen. Man befinde sich gegenwärtig nicht auf einem Kurs, dieses Kontrollproblem rechtzeitig in den Griff zu bekommen.
Die Offenheit dieser Äußerungen markiert einen beispiellosen Moment in der Geschichte der modernen KI-Forschung. Bislang wurden Befürchtungen über existenzielle Risiken von Tech-Konzernen meist als ferne Zukunftsszenarien behandelt oder PR-wirksam abgewiegelt. Nun räumen zeitgleich ein Kernentwickler aus dem Pretraining und der leitende Sicherheitsforscher eines der wichtigsten Frontier-Labs ein, dass die Skalierung der Rechenmodelle die Entwicklung von Kontrollmechanismen längst überholt hat.
Die Enthüllungen und das Eingeständnis fehlender Sicherheitslösungen haben unmittelbare politische Folgen in den USA und in Großbritannien ausgelöst. Gesetzgeber und Regulierungsbehörden nutzen die Stellungnahmen Coxons und Hubingers bereits als Beleg für die Dringlichkeit verbindlicher gesetzlicher Vorgaben. Wenn selbst Spitzenforscher der Branche das Risiko eines Kontrollverlusts mit zweistelligen Prozentwerten beziffern, verliert das Argument der freiwilligen Selbstverpflichtung der Technologiekonzerne rasch an Glaubwürdigkeit.