Unternehmen forcieren die Automatisierung durch autonome KI-Agenten in hohem Tempo, vernachlässigen dabei jedoch grundlegende Kontroll- und Sicherheitsstrukturen. Zu diesem Ergebnis kommt der dritte State of AI Agent Security Report des Softwareunternehmens Gravitee, für den 900 Technologie- und IT-Führungskräfte in den USA und Großbritannien befragt wurden. Binnen sechs Monaten verdoppelte sich der Anteil der Unternehmen, die mehr als 150 autonome Agenten parallel im Produktivbetrieb einsetzen, von zuvor 7 Prozent auf nunmehr 16 Prozent. Diese Systeme agieren zunehmend eigenständig in Unternehmensnetzen, greifen auf Datenbanken zu und führen Transaktionen aus.
Der rasante operative Ausbau steht in scharfem Kontrast zu den bestehenden Governance-Mechanismen. Lediglich 17 Prozent der befragten Betriebe weisen ihren aktiven KI-Agenten eine isolierte Identität oder dezidierte Zugriffsprofile zu. Noch dramatischer stellt sich die Lage bei der personellen Zurechenbarkeit dar: Bei weniger als 10 Prozent der befragten Firmen existiert eine namentlich benannte Person, die formal für Entscheidungen, Fehler oder Fehltritte des Agenten haftbar gemacht werden kann. Zudem greifen nur für durchschnittlich 51 Prozent der eingesetzten Agenten überhaupt durchsetzbare Richtlinien bezüglich ihrer konkreten Handlungskompetenzen.
Die praktischen Konsequenzen dieses Kontrollvakuums zeigen sich bereits flächendeckend im Unternehmensalltag. Mehr als die Hälfte der befragten Betriebe, exakt 52 Prozent, erlebte innerhalb der vergangenen zwölf Monate mindestens einen handfesten Sicherheits- oder Datenschutzvorfall, der direkt durch eine autonome Aktion eines KI-Agenten verursacht wurde. Die Vorfälle reichen von unberechtigten Datenabflüssen bis hin zu fehlerhaft ausgeführten Workflows mit teuren Folgefehlern. Dass autonome Systeme ohne menschliche Zwischenprüfung agieren, führt vermehrt zu unkontrollierten Ausnahmesituationen in der IT-Infrastruktur.
Angesichts der steigenden Schadensfälle schwindet das Vertrauen der IT-Verantwortlichen in die eigene Beherrschung der Technologie rapide. Bezeichneten sich vor sechs Monaten noch 47 Prozent der befragten Technologieentscheider als sehr gut auf Vorfälle im Zusammenhang mit Agenten vorbereitet, sank dieser Wert in der aktuellen Erhebungswelle auf 29 Prozent ab. Viele Führungskräfte realisieren erst im Nachgang, dass Standard-Sicherheitswerkzeuge für klassische Softwareanwendungen bei eigenständig entscheidenden und lernenden Software-Agenten versagen.
Für einen nachhaltigen Betrieb drängen Experten auf den schnellen Aufbau verbindlicher Autorisierungskonzepte und technischer Freigabeschranken. Solange Agenten unkoordinierte Aktionen ausführen können, ohne dass klare Rollback-Routinen greifen, drohen Unternehmen erhebliche Mehrkosten für die nachträgliche Datenbereinigung und Systemwiederherstellung. Wer autonome Systeme in kritische Prozesse einbindet, muss technische Identitäten und juristische Zuständigkeiten zwingend vor dem Produktivgang definieren.