Das KI-Unternehmen Anthropic hat in Washington einen eigenen Gesetzesentwurf zur Regulierung von Spitzenmodellen in Umlauf gebracht. Wie Recherchen von Politico und TechCrunch aufzeigen, zielt die Initiative darauf ab, rechtliche Mechanismen zu etablieren, mit denen das Ausrollen potenziell verheerender Systeme im Vorfeld gestoppt werden kann. Der Vorstoß markiert einen bemerkenswerten Schritt, da ein führendes Entwicklerlabor damit selbst konkrete Interventionsschwellen für staatliche Verbote vorschlägt.
Im Zentrum des Entwurfs steht eine präzise Definition katastrophaler Risiken, die als Auslöser für regulatorische Eingriffe dienen soll. Konkret greift der Mechanismus, wenn ein vorhersehbares und unmittelbares Risiko besteht, bei dem mehr als 50 Menschen ums Leben kommen könnten. Alternativ löst auch die Gefahr von Sachschäden in Höhe von über einer Milliarde US-Dollar die vorgeschriebenen Schutzverfahren aus. Als typische Gefahrenszenarien nennt das Papier unter anderem Beihilfe bei der Konstruktion biologischer Waffen, großflächig unkontrollierte Cyberangriffe sowie einen vollständigen Kontrollverlust über das Modell.
Um solche Gefahren rechtzeitig zu identifizieren, setzt der Entwurf auf externe Kontrollinstanzen. Unabhängige Gutachter, die zuvor beim US-Handelsministerium akkreditiert werden müssen, sollen Einblick in sicherheitsrelevante Tests erhalten. Schlagen diese Prüfer Alarm und stellen fest, dass ein Modell die definierten Grenzwerte überschreitet, wird ein verbindliches 72-Stunden-Warnfenster in Kraft gesetzt. Innerhalb dieser Frist müssen Entwickler und Aufsichtsstellen reagieren, bevor eine breite Veröffentlichung erfolgen kann.
Ein wesentliches Detail des Papiers betrifft die Machtverteilung zwischen Exekutive und Judikative. Bundesbehörden sollen ausdrücklich nicht befugt sein, ein Veröffentlichungsverbot eigenmächtig auf dem Verwaltungsweg zu erlassen. Eine Blockade darf nach den Vorstellungen von Anthropic ausschließlich durch den Beschluss eines US-Bundesrichters angeordnet werden. Damit soll verhindert werden, dass Regulierungsbehörden aus politischen Motiven oder ohne ausreichende Beweise Marktzugänge blockieren.
Der Entwurf spiegelt die wachsende Sorge innerhalb führender KI-Labore vor mangelnder Rechtssicherheit und unkalkulierbaren Risiken autonomer Systeme wider. Indem Anthropic quantifizierbare Schwellenwerte vorschlägt, versucht das Unternehmen, die politische Debatte weg von vagen Grundsatzdiskussionen hin zu festen Schadensgrenzen zu lenken. Gleichzeitig verlagert die Festlegung auf den Gerichtsweg den finalen Entscheidungsdruck auf die Bundesgerichte, was in Washington bereits erste Debatten über die technische Kompetenz von Richtern bei solchen Eilentscheidungen auslöst.