Wenn die KI irrt: Halluzinationen kindgerecht erklärt
Warum KI-Chats überzeugend falsche Antworten geben, wie Sie das Ihrem Kind mit einem einfachen Versuch zeigen und welche Familienregeln dabei helfen.
- Klingt die Antwort nur sicher, oder lässt sie sich auch woanders bestätigen?
- Kann die KI das überhaupt wissen, oder ist es ein Thema, zu dem es kaum Daten gibt?
- Wurde nach einer möglichst kurzen Antwort gefragt? Dann lieber eine Erklärung verlangen.
- Hat die KI ihre Meinung nach einem Nachhaken einfach geändert? Dann ist keine der Antworten verlässlich.
- Funktioniert der Code wirklich? Ausprobieren und testen statt einfach übernehmen.
Grafik: Vibe Coding Kids · Grundlage: die Quellen unten
Ihr Kind kommt mit dem Tablet in die Küche und liest stolz vor, was der KI-Chat zum Referatsthema geschrieben hat. Es klingt flüssig, sachlich und sehr überzeugend. Nur: Ein Detail kommt Ihnen merkwürdig vor. Oder das selbst gebaute Spiel startet nicht, obwohl die KI versichert hat, der Code sei jetzt fehlerfrei.
Spätestens dann stellt sich eine wichtige Frage: Wie erklären Sie einem Kind, dass eine Maschine, die so sicher klingt, trotzdem danebenliegen kann? Die gute Nachricht: Das lässt sich gut zeigen, ganz ohne Technikstudium.
Warum eine KI überzeugend danebenliegen kann
Die Verbraucherzentrale NRW beschreibt in einer Lerneinheit zu generativer KI sehr anschaulich, woher falsche Antworten kommen. Ein KI-Chat lernt aus riesigen Mengen an Texten, zu großen Teilen aus dem Internet. Und dort steht eben nicht nur Richtiges.
Veraltete Erkenntnisse, Tippfehler, Satire, die die KI nicht als Witz erkennt, oder falsch beschriftete Bilder landen mit im Trainingsmaterial. Das Beispiel der Verbraucherzentrale versteht schon ein Zehnjähriger: Steht unter einem Katzenfoto das Wort „Hund”, lernt das Modell genau diesen Fehler mit.
Dazu kommt ein zweiter Punkt. KI-Chats sind darauf gebaut, auf jede Frage eine Antwort zu geben. Wo ihnen das Wissen fehlt, füllen sie die Lücke mit erfundenen Fakten. Dieses Phänomen heißt Halluzination. Das Tückische daran: Die erfundene Antwort klingt genauso glaubwürdig wie eine richtige.
Für Kinder lässt sich das gut in einem Satz zusammenfassen: Die KI weiß nicht, was wahr ist. Sie formuliert, was zu dem passt, was sie gelesen hat.
Ein Versuch für den Küchentisch
Die Verbraucherzentrale hat einen Chatbot gefragt, wie oft der Buchstabe „r” im Wort „Rechtschreibfehler” vorkommt. Die Antwort lautete: zweimal. Richtig ist dreimal. Bei einem weiteren Versuch stimmte die Antwort. Doch auf die Nachfrage, ob es nicht doch nur zwei seien, entschuldigte sich der Chatbot und gab der falschen Zahl recht.
Solche kleinen Versuche eignen sich hervorragend, um mit Ihrem Kind ins Gespräch zu kommen. Wichtig dabei: Ob und welchen KI-Chat Ihr Kind selbst nutzen darf, regeln die Nutzungsbedingungen der Anbieter. Eine Übersicht finden Sie im Beitrag ChatGPT, Gemini, Claude: Welche Altersgrenzen gelten?. Bei jüngeren Kindern führen Sie den Versuch deshalb am besten an Ihrem eigenen Konto durch und sprechen gemeinsam über das Ergebnis.
Rechnen Sie nicht damit, dass jedes Werkzeug genau so reagiert. Die Anbieter arbeiten laut Verbraucherzentrale laufend daran, solche Fehler zu beheben. Genau das ist aber eine Lektion für sich: Dieselbe Frage kann heute so und morgen anders beantwortet werden.
Warum Nachbohren nicht immer hilft
Viele Eltern raten ihrem Kind: „Frag die KI einfach, ob sie sich sicher ist.” Das klingt vernünftig, ist aber kein verlässlicher Test. Wie der Buchstabenversuch zeigt, lässt sich ein Chatbot verunsichern und schwenkt dann um, auch von einer richtigen zu einer falschen Antwort.
Eine Studie des Softwareunternehmens Giskard, über die t3n im Jahr 2025 berichtet hat, bestätigt dieses Muster. Die Forschenden testeten mehrere bekannte KI-Modelle. Zwei Befunde sind für Familien besonders interessant:
- Kurze Antworten sind fehleranfälliger. Wurden die Modelle aufgefordert, knapp zu antworten, halluzinierten sie messbar häufiger. Ihnen fehlte schlicht der Raum, eine falsche Annahme zu widerlegen.
- Selbstbewusste Behauptungen werden übernommen. Behaupteten Nutzer, sie seien sich völlig sicher, oder beriefen sie sich auf einen Lehrer, widersprachen die Modelle der Falschinformation nicht mehr.
Für den Familienalltag heißt das: „Antworte in einem Satz” ist eine schlechte Anweisung, wenn es um Fakten geht. Und wer eine falsche Behauptung in die Frage packt, bekommt sie womöglich bestätigt.
Beim Bauen zeigt sich der Fehler
Hier liegt eine echte Stärke des Bauens mit KI. Bei einem Referatstext bleibt ein Fehler oft unbemerkt. Bei einem selbst gebauten Spiel ist das anders: Wenn die Figur nicht springt oder der Punktestand nicht zählt, sieht Ihr Kind sofort, dass etwas nicht stimmt.
Das macht Fehler greifbar. Ihr Kind lernt, dass die Aussage „Der Code ist jetzt korrekt” nur eine Behauptung ist, die man überprüfen muss. Wie so ein erstes Projekt in kleinen, testbaren Schritten aussehen kann, beschreibt der Beitrag Das erste eigene Browserspiel an einem Nachmittag. Kinder mit Scratch-Erfahrung bringen dafür übrigens schon viel mit, wie der Beitrag Von Scratch zu KI zeigt.
Familienregeln gegen falsche Antworten
Ein paar einfache Absprachen helfen, kritisches Denken zur Gewohnheit zu machen:
- Zwei Quellen für jede wichtige Tatsache. Was fürs Referat zählt, wird im Schulbuch, in einem Lexikon oder auf einer seriösen Website gegengeprüft.
- Erklären lassen statt Kurzantwort. Bei Faktenfragen lieber nach einer Begründung fragen als nach einem Satz.
- Neutral fragen. Keine Behauptung in die Frage einbauen, die die KI dann nur bestätigt.
- Testen statt glauben. Beim Programmieren gilt: Erst wenn es läuft, stimmt es.
- Fehlerfunde feiern. Wer der KI einen Fehler nachweist, hat etwas verstanden. Das darf am Abendbrottisch ruhig erzählt werden.
Was das für Ihr Kind bedeutet
Ein Kind, das weiß, dass eine KI überzeugend falsch liegen kann, nutzt sie klüger. Es wird nicht ängstlich, sondern aufmerksam. Diese Haltung hilft weit über das Programmieren hinaus, etwa bei Nachrichten, Videos oder Bildern im Netz, die ebenfalls mit KI erzeugt sein können.
Für jüngere Kinder reicht oft schon der Buchstabenversuch und die Erkenntnis: „Die KI kann sich irren, genau wie Menschen.” Teenager können tiefer einsteigen und verstehen, warum Trainingsdaten und Fragestellung das Ergebnis prägen. Beim Bauen eigener Projekte üben beide Altersgruppen dasselbe: nachprüfen, ausprobieren, nicht alles übernehmen.
Fazit
KI-Chats erfinden manchmal Fakten, lassen sich durch Nachhaken verunsichern und geben bei knappen Fragen eher falsche Antworten. Das ist kein Grund, Ihrem Kind KI-Werkzeuge grundsätzlich zu verbieten, wohl aber ein guter Anlass für ein gemeinsames Experiment und klare Familienregeln.
Das kritische Testen von KI-Antworten soll in den geplanten Kursen und Ferienworkshops von Vibe Coding Kids ein fester Baustein sein. Sie möchten informiert werden, sobald Konzept und Termine feststehen? Tragen Sie sich unverbindlich auf die Warteliste ein.
Häufige Fragen
Was bedeutet Halluzination bei KI?
So nennt man es, wenn ein KI-Chat Fakten erfindet. Die Programme sind darauf ausgelegt, immer eine Antwort zu liefern. Fehlt ihnen das Wissen, entsteht eine Antwort, die plausibel klingt, aber nicht stimmt.
Warum macht eine KI überhaupt Fehler?
Laut Verbraucherzentrale NRW liegt die Ursache meist in den Trainingsdaten. Darin stecken auch veraltete oder falsche Informationen aus dem Internet, Tippfehler, falsch beschriftete Bilder und Satire, die das Modell nicht als solche erkennt.
Hilft es, die KI zu fragen, ob sie sich sicher ist?
Nicht zuverlässig. In einem Versuch der Verbraucherzentrale NRW gab ein Chatbot nach einer Nachfrage eine richtige Antwort auf und stimmte der falschen zu. Besser ist es, eine Antwort mit einer zweiten Quelle zu vergleichen.
Warum sind kurze Antworten von Chatbots riskanter?
Eine Studie des Testanbieters Giskard aus dem Jahr 2025 fand, dass KI-Modelle häufiger halluzinieren, wenn sie knapp antworten sollen. Ihnen fehlt dann der Platz, um eine falsche Annahme zu widersprechen, und sie stimmen eher zu.