Risiken kennen, sicher arbeiten

Wie in Lektion 2 gesehen, berechnet ein Sprachmodell Wort für Wort die wahrscheinlichste Fortsetzung eines Textes — es schlägt nicht in einer geprüften Datenbank nach und kennt den Unterschied zwischen wahr und falsch nicht. Fehlt dem Modell Wissen, erzeugt es plausibel klingende Inhalte, die schlicht erfunden sind. Dieses Verhalten nennt man Halluzination, und es ist kein seltener Ausrutscher, sondern eine Grundeigenschaft der Technologie.

Im Berufskontext sind vor allem drei Formen gefährlich: erfundene Quellen (Studien, Urteile oder Normen, die es nicht gibt), erfundene Zahlen (Marktdaten, Fristen, Preise) und erfundene Details in Zusammenfassungen. In den USA wurden bereits Anwälte von einem Gericht sanktioniert, weil ihr Schriftsatz Gerichtsentscheidungen zitierte, die eine KI frei erfunden hatte. Das Tückische: Halluzinationen sehen genauso überzeugend aus wie korrekte Antworten — mit sauberer Formatierung, Autorennamen und Jahreszahlen.

Daraus folgt die wichtigste Berufsregel im Umgang mit KI: Kein Fakt, keine Zahl, kein Zitat und keine Rechtsangabe verlässt Ihren Schreibtisch, bevor Sie sie an einer unabhängigen Quelle geprüft haben. Je wichtiger die Aussage, desto gründlicher die Prüfung. Die KI liefert Ihnen einen Entwurf — die Verantwortung für den Inhalt bleibt bei Ihnen.

KI-Modelle lernen aus vorhandenen Daten — und übernehmen damit auch deren Schieflagen. Sind bestimmte Gruppen in den Trainingsdaten unterrepräsentiert oder historisch benachteiligt worden, kann das Modell diese Muster unbemerkt fortschreiben. Das nennt man Bias: eine systematische Verzerrung, die nicht böswillig entsteht, aber reale Folgen hat.

Kritisch wird Bias überall dort, wo KI Aussagen über Menschen macht: bei der Vorauswahl von Bewerbungen, der Bewertung von Kundenanfragen oder der Priorisierung von Vorgängen. Eine Personalabteilung, die Lebensläufe automatisch vorsortieren lässt, kann so unbemerkt ganze Gruppen benachteiligen — mit rechtlichen Folgen, etwa nach dem Allgemeinen Gleichbehandlungsgesetz (AGG). Nicht zufällig stuft der AI Act KI-Systeme, die bei Einstellung und Bewerberauswahl mitwirken, als Hochrisiko-Anwendungen ein.

Für Ihren Alltag heißt das: Ergebnisse, die Menschen betreffen, prüft immer ein Mensch — nicht als Formalie, sondern mit echtem Blick auf den Einzelfall. Zwei Kontrollfragen helfen: Würde ich mit meinem Fachwissen zum selben Schluss kommen? Und fällt das Ergebnis für bestimmte Gruppen auffällig anders aus?

Die DSGVO gilt im KI-Chat genauso wie in jeder E-Mail. Sobald Sie Namen, Adressen, Vertragsnummern oder andere personenbezogene Daten von Kunden, Kollegen oder Bewerbern in ein KI-Tool eingeben, verarbeiten Sie diese Daten und übermitteln sie an den Anbieter des Tools. Dafür brauchen Sie eine Rechtsgrundlage — und die fehlt bei öffentlichen Gratis-Tools in aller Regel. Die Faustregel lautet daher: keine personenbezogenen Daten Dritter in öffentliche KI-Tools.

Anders liegt der Fall bei Tools, die Ihr Unternehmen offiziell einführt. Hier schließt das Unternehmen mit dem Anbieter einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO: Der Anbieter darf die Daten nur nach Weisung verarbeiten, und vertraglich wird unter anderem geregelt, dass Eingaben nicht für das Training der Modelle verwendet werden. Genau deshalb ist „freigegebenes Firmen-Tool“ etwas völlig anderes als „dasselbe Tool mit Privataccount“.

Eine dritte Frage ist der Serverstandort. Viele KI-Anbieter verarbeiten Daten außerhalb der EU; solche Übermittlungen in Drittländer sind nach der DSGVO nur unter zusätzlichen Voraussetzungen zulässig. Ihr Unternehmen klärt das bei der Tool-Auswahl — die deutschen Datenschutzaufsichtsbehörden haben dazu eine eigene Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Für Sie als Anwenderin oder Anwender reicht es zu wissen: Auch das ist ein Grund, ausschließlich freigegebene Tools zu nutzen.

Was Sie in ein KI-Tool eingeben, verlässt Ihr Unternehmen. Viele Anbieter speichern Eingaben in Protokollen, und gerade bei kostenlosen Verbraucher-Versionen behalten sich Anbieter häufig vor, Eingaben zur Verbesserung ihrer Modelle zu verwenden. Ein Prompt mit Kalkulationsdaten, Kundenlisten oder Vertragsentwürfen kann so dauerhaft in fremden Systemen landen — zurückholen können Sie ihn nicht.

Das hat auch eine rechtliche Dimension: Geschäftsgeheimnisse sind nach dem Geschäftsgeheimnisgesetz nur geschützt, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen trifft. Wer vertrauliche Informationen sorglos in öffentliche Tools eingibt, kann diesen Schutz gefährden. Interne Zahlen, Strategien, Quellcode und Kundendaten gehören deshalb nur in Tools, die dafür ausdrücklich freigegeben sind.

Damit sind wir bei der Schatten-KI: Mitarbeitende nutzen private Accounts für Firmenarbeit, weil es schnell und bequem ist — meist ohne böse Absicht. Das Problem: Das Unternehmen weiß nichts davon, hat keinen Vertrag mit dem Anbieter und keine Kontrolle darüber, was mit den Daten geschieht. Wenn Ihnen ein Tool fehlt, ist der richtige Weg nicht der Privataccount, sondern die Anfrage bei IT oder Vorgesetzten — viele Unternehmen führen freigegebene Alternativen ein, sobald der Bedarf sichtbar wird.

Für den Arbeitsalltag genügen zwei Grundzüge des Urheberrechts. Erstens: KI-Ausgaben können geschützte Inhalte aus den Trainingsdaten so ähnlich wiedergeben, dass ihre Verwendung Rechte Dritter verletzt — etwa bei Bildern, längeren Textpassagen oder Programmcode. Wer KI-Inhalte veröffentlicht, haftet dafür wie für eigene Inhalte; „das hat die KI gemacht“ ist keine Verteidigung.

Zweitens: Rein maschinell erzeugte Inhalte ohne eigene schöpferische Leistung genießen nach deutschem Recht in der Regel keinen Urheberrechtsschutz, denn geschützt sind nur persönliche geistige Schöpfungen. Ein vollständig KI-generiertes Logo oder Werbebild kann daher unter Umständen von jedem frei verwendet werden. Prüfen Sie außerdem die Nutzungsbedingungen des jeweiligen Tools — und laden Sie keine geschützten Werke Dritter hoch, für die Sie keine Rechte haben.

Alle Risiken dieser Lektion lassen sich mit fünf einfachen Regeln beherrschen. Sie sind bewusst kurz gehalten — als Checkliste für jeden einzelnen KI-Einsatz, nicht als Papier für den Ordner.

Diese fünf Regeln sind gelebte KI-Kompetenz im Sinne von Art. 4 des AI Acts, der seit dem 2. Februar 2025 gilt: Sie nutzen die Stärken der Werkzeuge und kennen zugleich ihre Grenzen. Wie all das in das Gesamtsystem des AI Acts passt — Risikoklassen, Pflichten, Umsetzung im Unternehmen — sehen Sie in Lektion 5.