In einem Grundsatz-Essay mit dem Titel 'We Must Pace the Frontier' hat Dario Amodei, Chief Executive Officer von Anthropic, eine koordinierte Verlangsamung der Entwicklung an der technologischen Modellgrenze gefordert. Amodei warnt vor unkontrollierten Risiken, die durch die Beschleunigung hochgradig fähiger KI-Systeme entstehen. Aus seiner Sicht drohen Entwickler die Kontrolle über die Systeme zu verlieren, wenn die Branche das derzeitige Tempo ohne verbindliche Zwischenschritte beibehält.
Im Zentrum seiner Argumentation steht das Phänomen der rekursiven Selbstverbesserung, im Englischen als Recursive Self-Improvement bezeichnet. Sobald Modelle in der Lage sind, eigene Nachfolger autonom zu entwerfen, zu programmieren und zu optimieren, schrumpfen menschliche Reaktionszeiten drastisch. Amodei argumentiert, dass ohne verlässliche Schutzmechanismen und Tempobeschränkungen eine Dynamik entstehen könnte, die bestehende Sicherheitsüberprüfungen schlicht überrennt.
Um den Worten Taten folgen zu lassen, hat Anthropic eine einseitige Selbstverpflichtung angekündigt. Das Unternehmen plant, externe und unabhängige Sicherheitsprüfer dauerhaft direkt in den eigenen Firmenbüros zu stationieren. Diese Experten sollen Entwicklungsprozesse, Modellgewichtungen und Trainingsfortschritte in Echtzeit begleiten, statt lediglich nachträglich bereits trainierte Systeme punktuell zu evaluieren.
Die Initiative stößt in der Branche und Politik auf prominente Resonanz. Demis Hassabis, Mitgründer und Leiter von Google DeepMind, signalisierte rasch Unterstützung für den Vorstoß und bekräftigte öffentlich, dass die Stoßrichtung einer bewussten Tempokontrolle korrekt sei. Auch aus der britischen Politik kam Zuspruch, unter anderem durch den früheren Premierminister Rishi Sunak, der koordinierte internationale Leitplanken seit längerem befürwortet.
Trotz der hochkarätigen Unterstützung werfen Marktbeobachter kritische Fragen zur konkreten Umsetzung auf. Diskutiert wird vor allem, welche Institutionen die Kriterien für eine Verlangsamung verbindlich festlegen dürfen und wer die Bremshebel kontrolliert. Kleinere Wettbewerber und Teile der Open-Source-Gemeinschaft befürchten zudem, dass ein verordneter Entwicklungsstopp vor allem etablierten Marktführern nutzt, um ihren Vorsprung dauerhaft abzusichern.
Der Vorstoß markiert dennoch eine spürbare Verschiebung im Diskurs der führenden KI-Labore. Statt reiner Sicherheitsbekenntnisse in Marketingpapieren rückt nun die Frage in den Vordergrund, wie sich multilaterale Bremsen institutionell verankern lassen. Ob andere Branchenschwergewichte dem Beispiel von Anthropic folgen und eigene Büros für externe Aufseher öffnen, wird über den tatsächlichen Erfolg der Initiative entscheiden.