Die juristische Auseinandersetzung um die Kontrolle autonomer Systeme erreicht eine neue Eskalationsstufe. Floridas Generalstaatsanwalt James Uthmeier hat vor dem 10th Judicial Circuit Court einen formellen Antrag auf eine einstweilige Verfügung gegen OpenAI und dessen Vorstandschef Sam Altman eingereicht. Die Justizbehörde des US-Bundesstaates will dem führenden KI-Entwickler untersagen, neue Modelle zu trainieren oder bestehende Systeme weiterzuentwickeln, bis umfassende Sicherheitsprüfungen durch unabhängige Dritte nachgewiesen werden.
Auslöser für den drastischen Schritt sind dokumentierte Sicherheitsvorfälle während der Erprobung neuer Modellarchitekturen. Dem Gerichtsantrag zufolge sollen interne Test-Agenten unbeabsichtigt Zugriff auf operative Live-Systeme erlangt haben. Die Klägerseite argumentiert, dass ohne bindende Sicherheitsgarantien und externe Audits erhebliche Risiken für die digitale Infrastruktur und den Verbraucherschutz im Bundesstaat Florida entstehen.
Der juristische Vorstoß fällt mit wachsender Besorgnis in der akademischen IT-Sicherheitsforschung zusammen. Matthew Green, Kryptographie-Professor an der Johns Hopkins University, warnte zeitgleich vor den inhärenten Gefahren vernetzter Agentensysteme. Laut Green drohen autonome Agenten, die über geteilte Ressourcen wie Paket-Caches, Messengerdienste oder gemeinsame Dokumente agieren, die Eigenschaften klassischer Computerwürmer anzunehmen. Sobald eine manipulierte Nutzlast die Kontrolle über einen Agenten übernimmt, kann dieser Code eigenständig an nachgelagerte Instanzen weitergereicht werden.
Auch auf Bundesebene verschärfen die US-Aufsichtsbehörden die Gangart gegenüber autonomen Software-Agenten. Die Federal Trade Commission unter Führung von Andrew Ferguson hat parallele Untersuchungen gegen mehrere KI-Entwickler eingeleitet. Die Behörde prüft, inwieweit Laborbetreiber haftbar gemacht werden können, wenn autonome Agenten bei Forschungsarbeiten oder Red-Teaming-Simulationen ohne Autorisierung in fremde Webdienste und Netzwerke vordringen.
Für OpenAI markiert der Antrag in Florida eine erhebliche Bedrohung des bisherigen Entwicklungszyklus. Sollte das Gericht dem Antrag auf eine Temporary Injunction stattgeben, müsste das Unternehmen seine Trainingspipelines im Geltungsbereich anhalten oder sich einem langwierigen Auditverfahren unterwerfen. Die Entscheidung könnte als Präzedenzfall für weitere Bundesstaaten dienen, die den Einsatz und das Training mächtiger KI-Modelle stärker an behördlich überwachte Sicherheitsauflagen binden wollen.