Die zunehmende Autonomie von KI-Systemen im Zahlungsverkehr und Wertpapierhandel bringt traditionelle Kontrollmechanismen des Finanzsektors an ihre Grenzen. Am 18. September 2026 forderte Fernando Restoy, Vorsitzender des Financial Stability Institute (FSI) der Bank für Internationalen Zahlungsausgleich (BIZ), tiefgreifende Reformen der Bankenaufsicht. In seiner Grundsatzrede auf der Konferenz 'Digital regulation in the era of agentic AI' am Downing College der Universität Cambridge warnte Restoy eindringlich vor den systemischen Risiken unkontrollierter Agenten. Herkömmliche Methoden des Modellrisikomanagements, insbesondere historische Rückrechnungen und statistisches Backtesting, seien nicht mehr in der Lage, das unvorhersehbare Verhalten adaptiver Softwareagenten verlässlich zu steuern.
Als Konsequenz verlangte der FSI-Chef verbindliche Notfall-Abschaltmechanismen, sogenannte Circuit Breaker, sowie strikt isolierte Systemgrenzen für autonome Handels- und Abwicklungssysteme. Er stützte sich dabei auf das FSI Occasional Paper Nr. 28 mit dem Titel 'When machines attack: policy responses to financial institution's frontier AI cyber threats'. Darin legen die Währungshüter dar, wie hochentwickelte KI-Modelle bestehende Transaktionsketten destabilisieren können, wenn ihnen operative Handlungsspielräume ohne harte Kontrollschranken eingeräumt werden. Solche Schutzvorrichtungen müssten künftig aufsichtsrechtlich vorgeschrieben und in Echtzeit durchsetzbar sein, um kaskadierende Fehlentscheidungen im Finanzsystem abzuwenden.
Der regulatorische Druck wächst zeitgleich auch in den Vereinigten Staaten, wo Aufsichtsbehörden die Vorgaben für Finanzhäuser verschärfen. Das New York Department of Financial Services (NYDFS) aktualisierte seine Leitlinien zur Auslegung der Cybersecurity Regulation. Diese Maßnahme ergänzt das bankweite Prüfrahmenwerk der Conference of State Bank Supervisors (CSBS) vom 16. September 2026. Finanzinstitute unter New Yorker Aufsicht müssen in ihren vorgeschriebenen Cyber-Risikoanalysen ab sofort explizit darlegen, wie sie sich gegen automatisierte Angriffswellen durch Frontier-KI-Systeme wappnen. Vorstände stehen in der Pflicht, funktionierende Kontrollen gegen KI-gestützte Aushebelungen von Berechtigungen nachzuweisen.
Parallel zu den staatlichen Vorgaben formiert sich eine Selbstregulierung innerhalb führender Technologiekonzerne. Das im Dezember 2025 ins Leben gerufene AI Evaluator Forum veröffentlichte mit AEF-1 einen Mindeststandard für unabhängige Modellprüfungen durch Dritte. Das Regelwerk mit dem Titel 'Minimum Operating Conditions for Independent Third Party AI Evaluations' wurde von xAI, OpenAI und Anthropic gemeinsam gezeichnet. Am 18. September bekräftigte zudem eine Koalition aus mehr als 100 Forschern in einem offenen Brief die dringende Umsetzung dieser Richtlinien. Damit verpflichten sich die Entwickler zu standardisierten Prüfprotokollen vor der Veröffentlichung neuer Systeme.
Anthropic-CEO Dario Amodei knüpfte in seinem Pacing-Framework eine direkte Verbindung zwischen der Modellentwicklung und der klassischen Bankenprüfung. Amodei schlug das Konzept sogenannter 'Embedded Evaluators' vor, bei dem externe Sicherheitsteams dauerhaft in die internen Entwicklungsprozesse integriert werden. Als Vorbild nannte er ausdrücklich Prüfer der Federal Reserve oder der Europäischen Zentralbank, die permanente Arbeitsplätze und eigene Büros innerhalb von Großbanken unterhalten. Nach diesem Prinzip gewährt Anthropic externen Prüfern wie der Evaluierungsorganisation METR bereits Mitarbeiter-Badges, eigene Schreibtische und direkten Zugriff auf Vorab-Pipelines, um Risiken vor dem Rollout systematisch aufzudecken.
Die Annäherung zwischen Finanzregulierung und KI-Entwicklung erfolgt zu einem Zeitpunkt, an dem Technologieanbieter immer tiefer in Bankdienstleistungen vordringen. So testet Anthropic in Test-Builds der Claude-App einen eigenen 'Money'-Tab, über den Nutzer ihre Bankkonten direkt per Programmierschnittstelle anbinden können. Da KI-Assistenten künftig nicht mehr nur Berichte analysieren, sondern eigenständig Transaktionen vorbereiten und Liquidität verwalten, schließt sich das Zeitfenster für regulatorische Grauzonen rapide. Institute und Softwareanbieter müssen sich darauf einstellen, dass autonome Entscheidungsbefugnisse künftig unweigerlich mit strengen Quarantänen und lückenlosen Audit-Pfaden verknüpft werden.