Datenschutz bei KI-Apps: Was Kinder nie eingeben sollten

Ihr Kind hat ein Quiz gebaut und möchte es mit einem Klassenfoto als Startbild schmücken. Oder es tippt in den Chat: „Mach ein Spiel, in dem meine Freundin Lena die Heldin ist.” Das wirkt harmlos und ist oft gut gemeint. Trotzdem landet dabei mehr bei einem Anbieter, als vielen Familien bewusst ist.

Dieser Beitrag zeigt am Beispiel von Gemini, was mit Eingaben in einer KI-App passiert, und leitet daraus einfache Familienregeln ab. Andere Anbieter regeln das in ihren eigenen Datenschutzhinweisen, die Sie für jedes genutzte Werkzeug prüfen sollten. Ob Ihr Kind ein bestimmtes Werkzeug überhaupt nutzen darf, steht in unserem Beitrag ChatGPT, Gemini, Claude: Welche Altersgrenzen gelten?.

Was eine KI-App alles mitbekommt

Google listet in seinem Privacy Hub für die Gemini-Apps (Stand: 13. Oktober 2026) genau auf, welche Daten anfallen. Dazu gehören natürlich die Prompts, also alles, was getippt oder eingesprochen wird. Dazu gehören aber auch Dateien, Fotos, Videos und Bildschirminhalte, zu denen man Fragen stellt.

Bei Bildern geht es nicht nur um das Motiv. Die App wertet laut Google den Bildinhalt aus und liest auch Text, der im Bild steht. Ein Screenshot vom Klassenchat oder ein Foto vor dem Haus mit Straßenschild verrät also mehr, als man auf den ersten Blick denkt.

Hinzu kommen Daten, die Ihr Kind gar nicht aktiv eingibt: Informationen zu Gerät und Browser sowie Standortangaben wie der ungefähre Ort oder die IP-Adresse.

Menschen können mitlesen

Das überrascht viele Eltern am meisten: Ein Teil der Chats wird von Prüferinnen und Prüfern angesehen, auch von Mitarbeitenden externer Dienstleister. Sie bewerten, ob Antworten fehlerhaft oder schädlich waren, und schlagen bessere vor. Google schreibt selbst sinngemäß: Geben Sie nichts Vertrauliches ein, was ein Prüfteam nicht sehen soll.

Wichtig ist auch, wie lange das nachwirkt. Geprüfte Chats werden vom Konto getrennt und bis zu drei Jahre aufbewahrt. Löschen Sie später den Verlauf, verschwinden diese bereits geprüften Chats nicht.

Einstellungen, die Sie kennen sollten

Bei Gemini steuert die Einstellung „Aktivitäten speichern”, was mit den Chats geschieht. Ist sie eingeschaltet, werden Aktivitäten unter anderem zum Trainieren der KI-Modelle genutzt und standardmäßig nach 18 Monaten gelöscht. Den Zeitraum können Sie auf 3 oder 36 Monate ändern oder das automatische Löschen abschalten.

Ist die Einstellung ausgeschaltet, werden künftige Chats nicht für das Training verwendet, solange niemand Feedback abgibt. Sie bleiben aber 72 Stunden im Konto, damit die App antworten kann und zum Schutz der Nutzer. Dasselbe gilt für temporäre Chats.

Für den Familienalltag heißt das: Ein Schalter hilft, ersetzt aber keine Regel. Auch mit den sparsamsten Einstellungen sieht der Anbieter, was eingegeben wird.

Vorsicht bei selbst gebauten Apps

Beim Vibe Coding entsteht schnell etwas, das andere benutzen können. Gemini bietet dafür Canvas an. Hier gilt laut Google: Wer eine Canvas-App erstellt hat, kann alle Daten sehen, die andere darin eingeben. Und wer den öffentlichen Link hat, kann die mit der App gespeicherten Daten ansehen und bearbeiten.

Baut Ihr Kind also eine Umfrage für die Klasse und teilt den Link in der Gruppe, können Antworten bei Leuten landen, für die sie nie gedacht waren. Die einfache Lösung: Projekte arbeiten mit erfundenen Namen und Testdaten, und Links werden nur nach Rücksprache geteilt. Wie ein erstes Projekt ohne echte Daten aussieht, zeigt Das erste eigene Browserspiel an einem Nachmittag.

Warum Kinder hier besonders geschützt werden müssen

Die Initiative klicksafe hat auf Basis einer Einschätzung von jugendschutz.net zusammengetragen, welche Risiken generative KI gerade für Minderjährige birgt. Einige davon betreffen direkt die Frage, was Kinder preisgeben:

• KI-Systeme berücksichtigen das Alter der Nutzenden oft nicht.
• Manche Sprachmodelle klingen so menschlich, dass Kinder glauben können, mit einer echten Person zu schreiben. Wer sich verstanden fühlt, erzählt mehr.
• Mit echten Kinderfotos lassen sich Deepfakes bis hin zu Nacktbildern erzeugen.
• Schutzvorkehrungen lassen sich teils durch geschickte Anweisungen umgehen.

Ein Foto, das einmal hochgeladen wurde, lässt sich nicht zurückholen. Deshalb ist Zurückhaltung hier wichtiger als jede Einstellung.

Was das für Ihr Kind bedeutet

Ihr Kind muss auf nichts Kreatives verzichten. Ein Spiel wird nicht schlechter, wenn die Heldin „Kira” statt wie die beste Freundin heißt, und ein Quiz funktioniert auch mit einem gemalten Startbild. Die Grundregel lautet: Was auf eine echte Person zeigt, bleibt draußen, im Chat genauso wie im fertigen Projekt.

Besprechen Sie das am besten an einem konkreten Projekt und nicht als Verbot vorab. Schauen Sie gemeinsam in die Einstellungen des genutzten Werkzeugs. Weitere Familienregeln finden Sie in Vibe Coding für Kinder: Was Eltern wissen sollten, Hinweise zu Werkzeugen und Altersgrenzen auf unserer Seite Sicherheit.

Fazit

KI-Apps sehen mehr, als Kinder vermuten: Texte, Bilder, Bildschirminhalte, Gerätedaten. Teile davon lesen Menschen, und manches bleibt Jahre gespeichert. Mit erfundenen Daten, sparsamen Einstellungen und der Regel „keine echten Personen” bleibt das Bauen trotzdem ein Vergnügen.

Datensparsamkeit soll auch in unseren geplanten Kursen ein Grundsatz sein, das Sicherheitskonzept veröffentlichen wir vor dem Start auf unserer Sicherheitsseite. Sie möchten informiert werden, sobald es so weit ist? Tragen Sie sich unverbindlich in die Warteliste ein.