Die drei weltweit führenden Entwickler von Spitzenmodellen Künstlicher Intelligenz, OpenAI, Anthropic und Google DeepMind, haben Verhandlungen über die Gründung eines gemeinsamen Aufsichtsgremiums aufgenommen. Die Initiative orientiert sich institutionell an der US-Finanzaufsicht Financial Industry Regulatory Authority, kurz FINRA. Vorgesehen ist ein branchenweites Organ, das künftige Frontier-Modelle vor deren offizieller Veröffentlichung verbindlichen und unabhängigen Stresstests unterzieht. Die beteiligten Unternehmen reagieren damit auf den steigenden Druck regulierter Wirtschaftszweige, verlässliche Sicherheitszertifikate vorzulegen.
Den Anstoß zu diesem historischen Annäherungsversuch der Rivalen lieferte Anthropic-Chef Dario Amodei. In seinem Grundsatzessay mit dem Titel 'We Must Pace the Frontier' plädierte Amodei öffentlich für ein koordiniertes, vorsichtigeres Vorgehen bei der Weiterentwicklung hochkomplexer Systeme. Google-DeepMind-Leiter Demis Hassabis und OpenAI-Chef Sam Altman griffen diesen Impuls unmittelbar auf und befürworteten eine institutionalisierte Abstimmung zwischen den Tech-Konzernen, um unkalkulierbare Risiken im Wettlauf um neue Leistungsklassen einzudämmen.
Das gewählte FINRA-Vorbild besitzt strategische Signalwirkung für die gesamte Branche. Im US-Finanzmarkt agiert die FINRA als privatrechtliche Organisation zur Selbstregulierung von Wertpapierfirmen, die Standards überwacht und durchsetzt, ohne direkt eine Bundesbehörde zu sein. Übertragen auf Künstliche Intelligenz soll das Gremium definieren, welche Tests ein Modell in Bereichen wie Cyberrisiken, Manipulationssicherheit und autonomer Handlungsfähigkeit zwingend bestehen muss. Bisherige, rein firmeninterne Sicherheitsversprechen sollen so durch eine formalisierte Compliance-Architektur abgelöst werden.
In der US-Politik löste die Initiative umgehend eine polarisierte Debatte aus. Der frühere US-Präsident Donald Trump wies staatliche Vorgaben zur Drosselung des technologischen Fortschritts über seine Plattform Truth Social scharf zurück und forderte uneingeschränkte Priorität für Innovation. Zeitgleich warnte der renommierte Politikwissenschaftler William A. Galston in einem Leitartikel für das Wall Street Journal mit dem Titel 'The People Get a Vote on AI Safety' vor einer reinen Selbstkontrolle der Tech-Branche und verlangte eine demokratisch legitimierte Gesetzgebung.
Für die Finanzwirtschaft und hochregulierte Industrieunternehmen besitzt das Vorhaben enorme praktische Bedeutung. Banken und Asset Manager zögern zunehmend, autonome KI-Agenten in kritische Workflows wie das Risikomanagement oder die Kundenberatung einzubinden, da ungeklärte Haftungsfragen und aufsichtsrechtliche Pflichten erhebliche Risiken bergen. Die Entwickler hoffen, dass standardisierte Stresstests externer Prüfer die Haftungsbedenken von Firmenkunden verringern und damit ein drohendes Ausbremsen der unternehmerischen KI-Adoption abwenden.