Am 9. September 2026 trat Jacob Coxon, ein führender Forscher für Pretraining und Alignment bei Anthropic, unter öffentlichem Protest von seinem Posten zurück. Wie Medien wie Axios und CNN berichteten, verzichtete Coxon dabei bewusst auf wertvolle, noch nicht übertragene Eigenkapitalpakete. Dieser radikale finanzielle Schritt ermöglichte es ihm, vertragliche Beschränkungen zu umgehen und seine Bedenken bezüglich der aktuellen Sicherheitskultur öffentlich darzulegen. Sein Abgang markiert einen neuen Höhepunkt interner Spannungen in der Führungsebene der führenden KI-Labore.
Coxon gilt in der Branche als erfahrener Insider an den empfindlichsten Schnittstellen der Modellentwicklung. Vor seinem Wechsel zu Anthropic im Jahr 2023 war er bereits bei OpenAI an maßgeblichen Fortschritten im Pretraining und Alignment beteiligt. Bei beiden Unternehmen konzentrierte sich seine Arbeit auf die Frage, wie fundamentale Trainingsarchitekturen gestaltet werden müssen, um leistungsfähige Modelle berechenbar und sicher zu halten. Seine langjährige operative Erfahrung verleiht seiner öffentlichen Kritik in der Fachwelt ein außergewöhnliches Gewicht.
Im Mittelpunkt von Coxons Warnung steht die dynamische Zuspitzung des Wettbewerbs zwischen OpenAI und Anthropic. Er kritisiert, dass das Rennen um selbstoptimierende künstliche allgemeine Intelligenz und sogenannte Superintelligenz zunehmend auf Kosten minimaler Kontroll- und Sicherheitsmechanismen ausgetragen werde. Der Druck, immer schneller autonome, rekursiv lernende Systeme zu veröffentlichen, verdränge systematisch grundlegende Schutzprüfungen. Das Streben nach technologischer Vorherrschaft führe dazu, dass existenzielle Gefahren wissentlich in Kauf genommen werden.
Der öffentlichkeitswirksame Abgang stieß unmittelbar in der gesamten Technologiebranche auf breite Resonanz. Einflussreiche Investoren wie David Cahn und Keith Rabois griffen den Fall auf und entfachten eine Debatte über das Tempo künftiger Modellskalierungen. Während Vertreter eines aggressiven Wachstumskurses die Notwendigkeit schneller Bereitstellung verteidigen, sehen Kritiker in Coxons Warnruf ein Symptom gefährlicher Fehlanreize. Der Fall offenbart eine tiefe Spaltung zwischen kommerziellem Ehrgeiz und wissenschaftlicher Risikovorsorge.
Über das Einzelschicksal hinaus wirft der Rücktritt fundamentale Fragen zur Governance und Haftung in der KI-Industrie auf. Die Tatsache, dass ein leitender Entwickler auf Millionenwerte verzichten muss, um auf strukturelle Sicherheitsdefizite hinzuweisen, beschädigt das Vertrauen in freiwillige Selbstverpflichtungen der Branche. Für Aufsichtsbehörden und politische Entscheidungsträger liefert der Vorgang neue Argumente für verbindliche rechtliche Leitplanken. Die Debatte um unkontrollierte Skalierung dürfte sich in den kommenden Monaten weiter zuspitzen.