Snapchat vor Gericht: My AI verstößt laut Landgericht Köln gegen Datenschutz und Jugendschutz

Snapchat hat vor dem Landgericht Köln eine deutliche Niederlage kassiert.
Im Mittelpunkt stehen dabei der KI-Chatbot My AI, personalisierte Werbung und der Umgang mit minderjährigen Nutzern.
Nach Auffassung des Gerichts hat die Snap Group Limited personenbezogene Daten ohne ausreichende Rechtsgrundlage für Werbezwecke verarbeitet. Besonders problematisch: Betroffen waren dabei auch sensible Informationen von Kindern und Jugendlichen.
Zusätzlich beanstandete das Gericht Voreinstellungen, durch die bei minderjährigen Nutzern Werbung für Alkohol und Glücksspiel aktiviert war.
Das Landgericht gab damit einer Klage des Verbraucherzentrale Bundesverbands – kurz vzbv – vollständig statt. Das Urteil vom 17. September 2026 mit dem Aktenzeichen 33 O 120/24 ist allerdings noch nicht rechtskräftig.
Im Mittelpunkt steht Snapchats KI „My AI“
Snapchat integriert bereits seit einiger Zeit den KI-Chatbot My AI direkt in seine App.
Nutzer können dort ähnlich wie bei anderen KI-Assistenten Fragen stellen, sich Empfehlungen geben lassen oder einfach mit dem Bot schreiben.
Genau diese Unterhaltungen standen im Mittelpunkt des Verfahrens.
Vor der erstmaligen Nutzung informierte Snapchat nach Darstellung des vzbv darüber, dass von Nutzern eingegebene Informationen unter anderem dazu verwendet werden könnten, Snap-Produkte zu verbessern und das Nutzererlebnis einschließlich Werbeanzeigen zu personalisieren.
Das Problem dabei:
In solchen Gesprächen können sehr persönliche Informationen landen.
Auch sensible Informationen konnten verarbeitet werden
Der Chatbot beschränkte sich nicht auf harmlose Fragen wie:
„Wie wird morgen das Wetter?“
Nutzer konnten praktisch beliebige Informationen eingeben.
Dazu konnten nach Darstellung der Verbraucherschützer auch Fotos, Sprachnachrichten und besonders sensible personenbezogene Informationen gehören.
Beispielsweise Angaben über:
- Religion,
- sexuelle Orientierung,
- Gesundheit
- oder andere private Lebensbereiche.
Nach Auffassung des Landgerichts fehlte für die werbliche Nutzung solcher Daten eine ausreichende Rechtsgrundlage.
Besonders sensible Daten genießen stärkeren Schutz
Die Datenschutz-Grundverordnung – kurz DSGVO – behandelt bestimmte personenbezogene Informationen besonders streng.
Solche Daten dürfen grundsätzlich nicht einfach für beliebige Zwecke verarbeitet werden.
Eine Verarbeitung kann unter bestimmten Voraussetzungen zwar erlaubt sein, beispielsweise durch eine ausdrückliche Einwilligung.
Gerade bei Kindern gelten allerdings zusätzliche Anforderungen.
Der vzbv kritisierte, dass eine entsprechende ausdrückliche Einwilligung bei Snapchat überhaupt nicht vorgesehen gewesen sei.
Besonders problematisch bei Jugendlichen
Snapchat richtet sich laut seinen Nutzungsbedingungen beziehungsweise seinem Angebot bereits an Personen ab 13 Jahren.
Genau deshalb spielte der Jugendschutz in dem Verfahren eine besonders wichtige Rolle.
Das Landgericht berücksichtigte nach Angaben des vzbv ausdrücklich, dass Minderjährige die Risiken bei der Weitergabe persönlicher Informationen möglicherweise noch nicht im gleichen Umfang einschätzen können wie Erwachsene.
Das ist gerade bei einem KI-Chatbot relevant.
Ein Chatbot wirkt schließlich anders als ein klassisches Formular.
Man führt scheinbar ein normales Gespräch und kann dabei schnell Informationen preisgeben, die man bei einer klassischen Werbeabfrage niemals freiwillig eintragen würde.
My AI wirkt bewusst wie ein Gesprächspartner
Genau dieser Punkt wird von Verbraucherschützern besonders kritisch gesehen.
My AI taucht direkt im Snapchat-Chat auf und verhält sich dadurch eher wie ein digitaler Gesprächspartner als wie ein klassisches Werbe- oder Analysewerkzeug.
Das kann die Hemmschwelle senken, persönliche Dinge zu erzählen.
Snap selbst weist auf seiner aktuellen Datenschutzseite darauf hin, dass Nutzer keine vertraulichen oder sensiblen Informationen mit My AI teilen sollten und dass Inhalte aus Unterhaltungen mit dem Chatbot gespeichert werden können, bis sie vom Nutzer beziehungsweise durch die Löschung des Kontos entfernt werden.
Inhalte können laut Snap zur Personalisierung genutzt werden
Snap beschreibt auf seiner Datenschutzseite außerdem weiterhin, dass Inhalte aus My-AI-Interaktionen und – sofern freigegeben – Standortinformationen verwendet werden können, um Snap-Produkte zu verbessern und das Nutzererlebnis zu personalisieren.
Dazu zählt Snap ausdrücklich auch Werbung.
Genau bei der dafür notwendigen rechtlichen Grundlage setzte die Klage der Verbraucherzentrale an.
Das Landgericht Köln kam zu dem Ergebnis, dass die beanstandete Verarbeitung in der damaligen Gestaltung nicht zulässig war.
Voreingestellte Zustimmung reicht nicht
Ein weiterer wichtiger Punkt betrifft die Anzeigenpräferenzen innerhalb von Snapchat.
Dort waren nach den Feststellungen beziehungsweise der Darstellung des vzbv verschiedene Optionen bereits standardmäßig aktiviert.
Dazu gehörten unter anderem Einstellungen zur Nutzung personenbezogener Daten für Werbung, zur Weitergabe an Drittanbieter-Werbenetzwerke und zur Auswertung von Aktivitäten außerhalb von Snapchat.
Der Nutzer musste also selbst aktiv werden, um die entsprechenden Häkchen zu entfernen.
Das Gericht sah darin keine wirksame Einwilligung.
Zustimmung muss aktiv erfolgen
Das Prinzip ist eigentlich ziemlich einfach:
Eine Zustimmung zur Verarbeitung persönlicher Daten darf nicht dadurch konstruiert werden, dass ein Unternehmen bereits alle Häkchen setzt und anschließend davon ausgeht:
„Wer nichts ändert, stimmt zu.“
Das Gericht verwies laut vzbv auf die Rechtsprechung des Bundesgerichtshofes, wonach eine Einwilligung durch solche Voreinstellungen nicht den gesetzlichen Anforderungen genügt.
Nutzer müssen eine entsprechende Entscheidung grundsätzlich aktiv treffen.
Noch heikler wird es bei Minderjährigen
Bei Jugendlichen wurde allerdings noch ein zweites Problem festgestellt.
In den Snapchat-Werbeeinstellungen waren offenbar auch die Themen:
- Alkohol
und
- Glücksspiel
aktiviert.
Und zwar selbst bei Konten minderjähriger Nutzer.
Das Landgericht beanstandete diese Gestaltung ausdrücklich.
Alkohol- und Glücksspielwerbung war voreingestellt
Nach Angaben des vzbv waren entsprechende Werbekategorien auch bei Minderjährigen standardmäßig mit einem Häkchen versehen.
Besonders merkwürdig:
Selbst wenn diese Optionen abgeschaltet wurden, informierte Snapchat demnach darüber, dass Nutzer lediglich weniger Werbung aus diesen Kategorien erhalten würden.
Das Gericht sah darin einen Verstoß gegen die Jugendschutzanforderungen.
Werbung für Alkohol und Glücksspiel darf schließlich nicht gezielt an Kinder und Jugendliche gerichtet werden.
Verbraucherzentrale testete ein Konto einer Minderjährigen
Um die Funktionsweise zu überprüfen, richteten die Verbraucherschützer unter anderem ein Testkonto eines minderjährigen Nutzers ein.
Dadurch sollten die tatsächlichen Voreinstellungen und Reaktionen der App dokumentiert werden.
Die dabei gewonnenen Erkenntnisse spielten anschließend auch im Gerichtsverfahren eine Rolle.
Besonders viel Aufmerksamkeit bekam dabei eine Unterhaltung mit My AI.
„Welcher Cocktail schmeckt am besten?“
Im Test wurde der Chatbot über ein Konto einer vermeintlich 14-jährigen Nutzerin nach Cocktails gefragt.
My AI nannte daraufhin mehrere bekannte alkoholische Cocktails und forderte sinngemäß dazu auf, diese auszuprobieren.
Dass ein KI-Assistent einer vermeintlich 14-Jährigen alkoholische Getränke empfiehlt, ist offensichtlich alles andere als optimal.
Allerdings sollte man hier sauber unterscheiden.
Nicht alles davon war Gegenstand der gerichtlichen Werbewertung
Das Gericht musste laut Berichterstattung nicht abschließend entscheiden, ob genau diese Antwort des Chatbots selbst als Werbung einzustufen war.
Für die rechtliche Bewertung der beanstandeten Alkohol- und Glücksspielwerbung reichten bereits die problematischen Voreinstellungen.
Das Beispiel zeigt trotzdem ein grundsätzliches Problem bei KI-Assistenten:
Sie müssen das Alter und den Kontext ihres Gesprächspartners berücksichtigen.
Gerade bei Kindern und Jugendlichen können unpassende Antworten schnell deutlich problematischer werden als bei erwachsenen Nutzern.
Snap hat My AI inzwischen verändert
Man sollte außerdem beachten, dass sich die aktuelle Version von Snapchat nicht zwangsläufig exakt so verhält wie die App zum Zeitpunkt der Klage.
Das Verfahren wurde bereits 2024 eingeleitet.
Seitdem hat Snap Änderungen an My AI vorgenommen.
Eine Sprecherin des Unternehmens erklärte nach dem Urteil, Snap habe My AI seit der Klage weiterentwickelt und Werbung aus dem Chatbot entfernt.
Snap hat in der Vergangenheit außerdem zusätzliche Jugendschutzmechanismen für My AI eingeführt.
Dazu gehören beispielsweise Alterssignale, mit denen der Chatbot das hinterlegte Geburtsdatum eines Nutzers berücksichtigen soll, sowie Funktionen im Family Center für Eltern und Erziehungsberechtigte.
Snap widerspricht beim Thema Alkoholwerbung
Snap weist einen Teil der Vorwürfe zurück.
Eine Sprecherin erklärte, das Unternehmen habe zu keinem Zeitpunkt Alkohol- oder Glücksspielwerbung für Minderjährige zugelassen, da eine solche Werbung bereits gegen die eigenen Werberichtlinien verstoßen würde.
Das ändert allerdings nichts daran, dass das Landgericht die konkret beanstandete Gestaltung der App anders bewertete.
Gerade deshalb dürfte das Verfahren noch weitergehen.
Snap will gegen das Urteil vorgehen
Das Urteil des Landgerichts Köln ist nämlich:
nicht rechtskräftig.
Snap hat angekündigt, Rechtsmittel einzulegen.
Damit ist das Verfahren noch nicht endgültig abgeschlossen.
Eine höhere Instanz könnte die Entscheidung bestätigen, teilweise verändern oder theoretisch auch aufheben.
Bis dahin sollte man deshalb nicht schreiben, Snapchat sei endgültig rechtskräftig wegen dieser Verstöße verurteilt worden.
Warum ist das Urteil trotzdem wichtig?
Der Fall ist interessant, weil er gleich mehrere aktuelle Themen miteinander verbindet:
künstliche Intelligenz
soziale Netzwerke
personalisierte Werbung
Datenschutz
Kinder- und Jugendschutz
Dark Patterns beziehungsweise voreingestellte Einwilligungen
Gerade KI-Chatbots sind dabei eine vergleichsweise neue Herausforderung.
Menschen teilen mit einem Chatbot möglicherweise Informationen, die sie in einem normalen sozialen Netzwerk niemals öffentlich posten würden.
Wenn solche Informationen anschließend für Werbeprofile verwendet werden, entsteht ein erhebliches Datenschutzrisiko.
Ein KI-Gespräch fühlt sich privat an
Das dürfte einer der wichtigsten Punkte sein.
Wenn jemand bei Snapchat ein öffentliches Video liked oder einem bestimmten Creator folgt, ist vielen Nutzern vermutlich bewusst, dass diese Aktivität zur Personalisierung verwendet werden kann.
Bei einem Chat ist das anders.
Wer einem KI-Assistenten beispielsweise schreibt:
„Ich habe gerade Probleme in meiner Beziehung.“
oder:
„Ich glaube, ich bin schwanger.“
nimmt die Unterhaltung möglicherweise als etwas Privates wahr.
Wenn solche Aussagen anschließend zur Werbepersonalisierung beitragen können, verändert das die Situation erheblich.
Snap warnt inzwischen selbst vor sensiblen Informationen
Auf seiner aktuellen Datenschutzseite weist Snap ausdrücklich darauf hin, keine vertraulichen oder sensiblen Informationen an My AI zu senden.
Das Unternehmen erklärt außerdem, dass My-AI-Unterhaltungen anders behandelt werden als Chats mit Freunden.
Allein dieser Hinweis zeigt bereits:
Ein Gespräch mit My AI sollte nicht mit einem privaten Gespräch zwischen zwei Menschen verwechselt werden.
Gerade jüngeren Nutzern dürfte dieser Unterschied allerdings nicht immer vollständig klar sein.
Der Digital Services Act verschärft inzwischen die Regeln
Das Verfahren wurde noch vor Inkrafttreten beziehungsweise der vollständigen Anwendung wichtiger Regelungen des Digital Services Act – DSA angestoßen.
Inzwischen gelten in der EU zusätzliche Vorgaben für große Onlineplattformen.
Unter anderem dürfen Plattformen personalisierte Werbung auf Basis von Profilbildung nicht an Minderjährige ausspielen, wenn sie mit hinreichender Sicherheit wissen, dass es sich um Minderjährige handelt.
Die regulatorische Lage ist heute deshalb noch strenger als zu Beginn des Verfahrens.
Verbraucherschützer wollen sichere Voreinstellungen
Der vzbv fordert deshalb nicht nur einzelne Änderungen bei Snapchat.
Grundsätzlich sollen Plattformen nach Ansicht der Verbraucherschützer von Anfang an mit sicheren Voreinstellungen arbeiten.
Das Prinzip wird häufig als:
Safety by Default
bezeichnet.
Ein minderjähriger Nutzer sollte also nicht erst dutzende Einstellungen durchsuchen müssen, um gefährliche oder ungeeignete Funktionen auszuschalten.
Stattdessen sollten sie standardmäßig deaktiviert sein.
Das betrifft mehr als Snapchat
Der Fall dürfte deshalb auch für andere soziale Netzwerke und KI-Anbieter interessant sein.
Immer mehr Plattformen integrieren:
KI-Chatbots,
personalisierte Assistenten,
Empfehlungssysteme
und automatisierte Werbeprofile.
Dabei entstehen enorme Mengen persönlicher Informationen.
Gerade wenn KI-Assistenten tief in Messenger und soziale Netzwerke eingebaut werden, müssen Anbieter sauber trennen:
Welche Daten braucht die KI für ihre Funktion?
und:
Welche Daten dürfen anschließend zusätzlich für Werbung verwendet werden?
Diese beiden Dinge sind nicht automatisch dasselbe.
Eltern sollten My AI nicht mit einem normalen Chat verwechseln
Wer Kinder oder Jugendliche hat, die Snapchat verwenden, sollte sich außerdem bewusst machen, dass My AI kein normaler privater Snapchat-Kontakt ist.
Snap erklärt selbst, dass Unterhaltungen mit My AI anders verarbeitet und gespeichert werden als Chats mit Freunden.
Über das Family Center können Eltern beziehungsweise vertrauenswürdige Erwachsene inzwischen sehen, ob Jugendliche My AI verwenden, und den Zugriff darauf ein- oder ausschalten.
Die konkreten Inhalte der Gespräche können Eltern dabei laut Snap nicht einsehen.
Fazit
Das Landgericht Köln hat Snapchat in einem Verfahren des Verbraucherzentrale Bundesverbands gleich in mehreren Punkten deutlich kritisiert.
Nach Auffassung des Gerichts wurden über My AI erhobene personenbezogene Daten ohne ausreichende Rechtsgrundlage für personalisierte Werbung verarbeitet. Das betraf nach den Feststellungen auch sensible Informationen von Kindern und Jugendlichen.
Zusätzlich beanstandete das Gericht voreingestellte Einwilligungen für eine umfassende Werbedatenverarbeitung.
Besonders problematisch waren außerdem die Einstellungen für Minderjährige:
Werbung zu Alkohol und Glücksspiel war auch dort voreingestellt.
Das Gericht gab der Klage des vzbv deshalb vollständig statt.
Allerdings gilt:
Das Urteil vom 17. September 2026 ist noch nicht rechtskräftig.
Snap widerspricht Teilen der Darstellung, verweist auf Änderungen an My AI seit Beginn des Verfahrens und hat angekündigt, Rechtsmittel einzulegen.
Der Fall zeigt trotzdem ziemlich deutlich, welches Problem KI-Assistenten innerhalb sozialer Netzwerke mit sich bringen.
Ein Chatbot kann sich wie ein privater Gesprächspartner anfühlen.
Die dahinterliegenden Daten bleiben aber trotzdem personenbezogene Informationen, für deren Verarbeitung klare Regeln gelten.
Und gerade wenn Kinder und Jugendliche beteiligt sind, reicht ein Hinweis irgendwo in den Einstellungen nicht aus.
Datenschutz und Jugendschutz müssen bereits in den Voreinstellungen funktionieren – und nicht erst dann, wenn Nutzer selbst herausfinden, welche Häkchen sie besser entfernen sollten.