KI-Chatbots und Datensicherheit: Was passiert eigentlich mit unseren Daten?

vor 4 Stunden
5 Min. Lesezeit

KI-Chatbots sind für viele das neue Google. Und warum auch nicht, wenn man mit ihnen so viel mehr machen kann, als nur zu recherchieren? KI-Chatbots helfen beim Formulieren von E-Mails, Zusammenfassen von Texten, Übersetzungen, beim Programmieren oder einfach bei kleinen Alltäglichkeiten. Man kann sie gut und gerne als praktische digitale Helfer bezeichnen.

Doch genau darin liegt auch eine neue Herausforderung. Denn seien wir ehrlich: Menschen neigen dazu, nicht mehr über Konsequenzen nachzudenken, wenn etwas bequem und „von allen“ genutzt wird. So auch bei KI-Chats.

Ein Chatfenster ist kein vertraulicher Raum… Und doch geben so viele Menschen Informationen an ChatGPT und Co. bekannt, ohne darüber nachzudenken, was anschließend mit diesen Daten passiert.

KI lässt sich zwar nicht grundsätzlich in sicher und unsicher bzw. datenschutzkonform und datenschutzwidrig einteilen, aber dennoch sollte man mit einer gewissen Vorsicht an die Sache herangehen. Denn nicht jeder KI-Chatbot kann für jeden Zweck bedenkenlos eingesetzt werden.

Entscheidend sind u.a. der Anbieter, die konkrete Datenverarbeitung, die Speicherfristen, die verwendeten Systeme und (bei personenbezogenen Daten) die datenschutzrechtliche Grundlage.

Was passiert mit unseren Daten, wenn wir KI-Chats mit Unterhaltungen zwischen Freunden gleichsetzen? Genau dieser Frage gehen wir in diesem Beitrag nach.

Nicht jeder Chatbot ist für sensible Daten geeignet

Bei einem KI-Chatbot werden Eingaben technisch verarbeitet. Je nach Anbieter können dabei Chatverläufe, hochgeladene Dateien und andere Informationen gespeichert und/oder an beteiligte Dienstleister übermittelt werden.

Somit kann eine einfache Eingabe schnell zu einer Datenschutzfrage werden.

Ein Beispiel: Ein Mitarbeiter kopiert eine Kundenmail in einen Chatbot und bittet darum, den Text professioneller zu formulieren.

Auf den ersten Blick okay und eine völlig normale Aufgabe im Büroalltag. Enthält die Mail jedoch Namen, Kontaktdaten, Kundennummern oder andere personenbezogene Angaben, bleiben diese Informationen nicht nur im KI-Chat, sondern landen am Server des jeweiligen KI-Anbieters.

Laut der österreichischen Datenschutzbehörde (DSB) bleibt aber auch beim Einsatz von KI die DSGVO anwendbar, sobald personenbezogene Daten verarbeitet werden. Deshalb muss man sich als Nutzer:in immer die Frage stellen, ob das jeweilige Tool überhaupt genutzt werden darf.

Was ist mit Servern außerhalb der EU?

Der Standort der Server sorgt immer wieder für Missverständnisse, wenn es um die sichere Nutzung von KI-Diensten geht.

Viele bekannte KI-Dienste werden von Unternehmen außerhalb der EU betrieben. Das bedeutet aber nicht automatisch, dass ihre Nutzung DSGVO-widrig ist. Allerdings gelten für die Übermittlung von personenbezogenen Daten in „Drittländer“ besondere Anforderungen.

Der Europäische Datenschutzausschuss (EDSA) erklärt, dass personenbezogene Daten außerhalb der EU grundsätzlich nur dann übermittelt werden dürfen, wenn das Zielland ein angemessenes Datenschutzniveau bietet oder geeignete Garantien bestehen, wie beispielweise Standardvertragsklauseln.

Besonders für Unternehmen bedeutet das, sich nicht nur zu fragen, wer den Chatbot anbietet, sondern auch:

Wo werden die Daten verarbeitet?
Werden Daten in Drittländer übertragen?
Wer kann darauf zugreifen?
Werden Daten für das Training von KI-Modellen verwendet?
Wie lange werden Eingaben und Chatverläufe gespeichert?
Können Daten gelöscht werden?
Welche vertraglichen und technischen Schutzmaßnahmen gibt es?

Ein Serverstand außerhalb der EU ist kein automatisches Ausschlusskriterium, aber definitiv ein Grund, sich das Produkt genauer anzuschauen.

Ein aktueller Vorfall zeigt, wie schnell ein Chat öffentlich werden kann

Im Juli 2026 berichtete die Nachrichten-Website Heise von einem Sicherheitsvorfall im Zusammenhang mit dem KI-Dienst Claude.

Dort waren zeitweise tausende geteilte Claude-Konversationen über Suchmaschinen auffindbar. Ursache war eine Funktion zum Teilen von Chats, über die öffentliche Links erstellt werden konnten. Dadurch wurden die Chats und persönliche Informationen öffentlich einsehbar. Google hat die entsprechenden Ergebnisse zwar wieder entfernt, jedoch zeigt dieses Beispiel deutlich:

Datenschutz und Datensicherheit hängen nicht nur vom Anbieter ab. Auch Funktionen und die konkrete Nutzung eines Dienstes spielen eine entscheidende Rolle.

Nicht nur Unternehmen sollten vorsichtig sein

Auch privat ist schnell eine Grenze überschritten.

„Hier ist mein Arbeitsvertrag: kannst du ihn prüfen?“

„Kannst du die Werte auf meinem Laborbericht checken und sie mir in Laiensprache übersetzen?“

„Hier sind meine Bewerbungsunterlagen. Mach daraus bitte ein Anschreiben.“

Künstliche Intelligenz kann solche Aufgaben mit Leichtigkeit und innerhalb kürzester Zeit erledigen, aber braucht sie dafür wirklich den vollständigen Datensatz?

Merksatz:

Was nicht öffentlich werden soll, sollte nicht ungeprüft in einen beliebigen KI-Chat kopiert werden.

Dinge, die man auch Fremden nicht verraten würde, haben in ungeprüften KI-Diensten nichts zu suchen. Dazu gehören Namen, Kundennummern, Adressen oder andere identifizierende Informationen. Bei sensiblen Daten sollte zudem noch geklärt werden, ob das jeweilige Tool überhaupt dafür geeignet ist.

Auch digitale Souveränität wird wichtiger

Aber nicht nur Datenschutz ist wichtig. Es geht zunehmend auch um die Frage, wie viel Kontrolle Unternehmen und Organisationen über ihre digitale Infrastruktur behalten.

Ein aktuelles Beispiel liefert das Schweizer Kommando Cyber.

Wie Heise kürzlich berichtete, sollen die Cyber-Spezialisten der Schweizer Armee von Microsoft auf die deutsche Open-Source-Lösung OpenDesk wechseln. Hintergrund sind u.a. Bedenken hinsichtlich Cloud-Abhängigkeiten und geopolitische Risiken.

Microsoft zwingt seine Kunden zunehmend in die eigene Cloud-Infrastruktur, wodurch sich E-Mails, Dokumente, Kalenderdaten oder Videokonferenzen künftig nur noch über die Server des US-Unternehmens abrufen lassen.

Das macht Microsoft nicht grundsätzlich zu einem unsicheren Anbieter!

Aber Unternehmen mit besonders schützenwerten Daten, wie z.B. das Militär, sollten sich immer die Frage stellen, wie abhängig sie von einzelnen internationalen Anbietern sein wollen.

Was bedeutet das für Unternehmen?

KI abschalten?

Nein, so dramatisch muss das nicht sein.

KI kann Unternehmen enorm unterstützen. Sie ist ein Teil der heutigen Zeit und es ist wichtig, sich ebenso mit den Risiken wie auch mit den Möglichkeiten auseinanderzusetzen. Entscheidend ist, welche KI für welchen Zweck eingesetzt wird.

Vor der Nutzung eines KI-Chatbots sollten deshalb drei Fragen beantwortet werden:

Welche Daten gebe ich in den Chat? Sind personenbezogene, vertrauliche oder geschäftskritische Informationen enthalten?
Wo werden diese Daten verarbeitet?
Ist die Datenverarbeitung transparent und für den konkreten Anwendungsfall geeignet?
Wer kann auf die Daten zugreifen?
Sind Zugriffsrechte, Speicherfristen und die Datennutzung nachvollziehbar?

Für Unternehmen besonders wichtig: Klare interne Regeln festlegen und Mitarbeitende für den sicheren Umgang mit KI sensibilisieren und laufend schulen!

Fazit

Es wurde schon so oft gesagt und wir schließen uns an: KI ist gekommen, um zu bleiben.

Sie bietet viele Vorteile und Möglichkeiten, macht unser Leben in manchen Bereichen einfacher und wird uns in den nächsten Jahren noch weiter überraschen. Gleichzeitig stellt sie uns vor viele Herausforderungen, neue Regeln und Gesetze, die man weder umgehen darf noch sollte.

Bei der Nutzung von KI stellt sich nicht die Frage, ob man sie einsetzt. Das tun wir inzwischen teils sogar unbemerkt (Streamingdienste, Smartphone Tools etc.). Es geht vielmehr darum, die Technologie sinnvoll und verantwortungsbewusst einzusetzen.

Nicht jeder kostenlose Chatbot ist für vertrauliche Daten geeignet.

Grundsätzlich gilt: Ist es gratis, bezahlt man mit seinen Daten dafür.

Gleichzeitig ist aber auch nicht jeder kostenlose oder ausländischer Anbieter automatisch unsicher oder DSGVO-widrig. Ebenso wie nicht jedes kostenpflichtige Tool automatisch datensicher und/oder DSGVO-konform ist.

Entscheidend sind die konkreten Datenflüsse, die technischen und organisatorischen Maßnahmen und der jeweilige Anwendungsfall.

Erst überlegen, dann prompten! Und für Unternehmen immer mit dem Zusatzgedanken: „Welche Informationen darf ich der KI überhaupt geben?“.