Datenschutz bei Chatbots scheitert nicht an den Nutzern

68 Prozent der deutschen Chatbot-Nutzer haben laut einer Umfrage des Software-Anbieters Proton bereits ein sensibles Thema mit einer KI besprochen: psychische Gesundheit, Finanzen, Beziehungen, Sexualität, Familienkonflikte. Gleichzeitig trauen 40,5 Prozent der Befragten den Anbietern nicht zu, ihre Daten ausreichend zu schützen. Dieser Widerspruch ist kein Erziehungsproblem der Nutzer. Er zeigt ein Marktversagen: Es fehlt an Anbietern, die Datenschutz technisch einlösen, statt ihn nur zu versprechen.

Was die Umfrage zeigt

Proton hat zwischen dem 22. Juli und dem 2. August 2026 gut 4.000 aktive Chatbot-Nutzer in Deutschland, Frankreich, Großbritannien und den USA befragt. Neben Gesundheit und Finanzen nennen die Befragten auch Geheimnisse und Arbeitsprobleme als Themen, die sie einer KI anvertrauen. Parallel dazu geben 51 Prozent an, eine Erstellung von Werbeprofilen aus den Gesprächen zu befürchten, und 43 Prozent sorgen sich, dass ihre Aussagen ins Training künftiger Modelle einfließen. 71 Prozent würden einen Chatbot bevorzugen, der ausdrücklich auf Datenschutz setzt, und 44 Prozent wären bereit, mehr Intimes zu teilen, wenn ihre Eingaben garantiert nicht fürs Training verwendet würden.

Diese Zahlen beschreiben keine sorglosen Nutzer, sondern Menschen, die eine Abwägung treffen. Der Nutzen eines Gesprächs, das sofort verfügbar ist und nicht wertet, wiegt für sie schwerer als das diffuse Risiko, dass eine Aussage irgendwo landet, die sie lieber für sich behalten hätten. Bequemlichkeit gewinnt nicht, weil Nutzern Datenschutz egal wäre, sondern weil es kaum eine Alternative gibt, die beides bietet. Wer in Deutschland, Frankreich, Großbritannien oder den USA einen Chatbot nutzt, kann derzeit kaum zwischen einem schnellen und einem datensparsamen Angebot wählen. Es gibt praktisch nur die eine Option, und die Umfrage zeigt, dass die Menschen sie trotz ihrer Bedenken nutzen, weil eine zweite fehlt.

Was die Branche stattdessen liefert

OpenAI hat in derselben Woche mit MentalHealthBench einen Benchmark vorgestellt, der prüft, wie hilfreich und sicher ein Modell auf realistische Gespräche über psychische Gesundheit antwortet. Das ist eine Antwort auf ein reales Problem, denn ein Modell, das in einer Krise falsch reagiert, richtet Schaden an. In der Rubrik Künstliche Intelligenz häufen sich solche Meldungen über neue Kennzahlen für Antwortqualität.

Nur beantwortet ein Benchmark für Antwortqualität nicht die Frage, die 40,5 Prozent der Proton-Befragten stellen: Was passiert mit dem, was ich gerade gesagt habe, nachdem die Antwort gegeben ist. Wird es gespeichert, für wie lange, fließt es ins Training, wer sieht es intern. MentalHealthBench misst, ob die Antwort gut ist. Es misst nicht, wo die Frage danach landet.

Wie der Default entsteht, ohne dass es jemand entscheidet

Ich habe für ein Unternehmen ein Chat-Voice-Interface für die eigene Webseite gebaut, reine Aufklärung, damit Nutzer Fragen zum Unternehmen und seinen Leistungen stellen können, keine intimen Themen. Trotzdem landeten die Eingaben der Nutzer am Ende beim API-Anbieter, nicht auf einem Server, den der Kunde oder ich kontrolliert hätten. Der Kunde selbst hat danach nie gefragt, wo diese Daten bleiben.

Genau das ist der Mechanismus hinter der Proton-Umfrage, nur eine Ebene früher. Es braucht keine Nachlässigkeit und keinen bösen Willen, damit Daten beim Anbieter landen. Es braucht nur, dass niemand im Projekt die Frage stellt, bevor der Chatbot live geht. Ein Auftragsverarbeitungsvertrag mit klaren Löschfristen, ein selbst gehostetes Modell oder wenigstens eine ausdrückliche Zusage gegen Trainingsnutzung hätten sich zu Projektbeginn ebenso leicht klären lassen wie jede andere technische Entscheidung. Stattdessen entschied der Default des Anbieters, weil das die bequemste Option war und niemand widersprach. Bei einem informativen Bot mag das folgenlos bleiben. Sobald ein Chatbot auf einer Kundenseite tatsächlich intime oder geschäftskritische Eingaben bekommt, ist derselbe unbeachtete Default plötzlich ein Datenschutzproblem, das niemand geplant, aber jeder mitgebaut hat.

Der stärkste Einwand

Man kann einwenden, dass MentalHealthBench dem Datenschutz indirekt doch hilft. Ein Modell, das sicherer mit sensiblen Themen umgeht, könnte auch vorsichtiger mit den Daten dahinter umgehen, etwa indem es Gesprächsinhalte seltener in einer späteren Antwort wiederholt oder unangemessen verarbeitet. Antwortqualität und Datenverarbeitung wären dann keine getrennten Themen, sondern zwei Symptome derselben Modellarchitektur.

Das überzeugt mich nicht. Speicherung, Trainingsnutzung und Zugriffsrechte sind Entscheidungen der Datenpipeline und der Verträge, nicht des Modells, das eine Antwort formuliert. Mein eigenes Projekt zeigt das in der einfachst möglichen Form. Der Chatbot hatte kein Problem mit riskanten Antworten, das Thema war harmlos, trotzdem landeten die Eingaben beim Anbieter, weil das schlicht die Standardeinstellung war. Ein besseres Antwortverhalten hätte daran nichts geändert. Qualität und Datenverbleib sind zwei getrennte Baustellen, und wer die eine bearbeitet, hat die andere noch nicht angefasst.

Was das für den Betrieb eigener Systeme bedeutet

Wer für Kunden Chat- oder Sprachschnittstellen baut, kann sich nicht darauf verlassen, dass der Kunde nach dem Datenverbleib fragt. In meinem eigenen Fall hat er es nicht getan, und ich vermute, das ist eher die Regel als die Ausnahme. Die Frage, wo Eingaben landen, wie lange sie bleiben und ob sie ins Training eines Anbieters einfließen, gehört deshalb in die Projektplanung, unabhängig davon, ob das Thema des Chatbots harmlos wirkt. Harmlos ist am Anfang eines Projekts oft nur eine Annahme über die Nutzung, keine verlässliche Eigenschaft.

Für mich persönlich gilt dieselbe Zurückhaltung, mit der ich private Daten sonst behandle. Ich bin vorsichtig mit sensiblen Informationen, auch bei Anbietern, deren Technik ich einschätzen kann, weil die Art der Information am Ende zweitrangig ist. Diese Zurückhaltung lässt sich auf Kundenprojekte übertragen, indem die Frage nach Speicherort und Trainingsnutzung von Anfang an Teil der Architektur wird, nicht weil jeder Chatbot mit intimen Geständnissen rechnen muss, sondern weil niemand vorher zuverlässig weiß, wofür Nutzer ihn tatsächlich verwenden werden.

Konkret heißt das für mich inzwischen: Bevor ein Projekt live geht, steht fest, wo die Eingaben gespeichert werden, wie lange, und ob ein Auftragsverarbeitungsvertrag das mit dem Anbieter absichert. Diese Fragen kosten in der Planung wenig Zeit. Nachträglich zu klären, was mit bereits gesammelten Daten passiert ist, kostet ungleich mehr, und genau diese nachträgliche Klärung ist es, die die Proton-Umfrage bei den Nutzern sichtbar macht.