Chatbots machen sich in deutschen Kinder- und Klassenzimmern breit
Künstliche Intelligenz ist für viele Kinder und Jugendliche in Deutschland längst Teil des Alltags, birgt aber teils erhebliche Risiken. Ob bei Hausaufgaben, zur Prüfungsvorbereitung oder einfach aus Neugier: Knapp zwei Drittel der 12- bis 19-Jährigen nutzen bereits KI-Werkzeuge wie ChatGPT, Gemini & Co. Der europäische IT-Sicherheitshersteller ESET warnt anlässlich des Safer Internet Days 2026 davor, den Einsatz von KI im Kinderzimmer zu unterschätzen.
"KI ist für viele Jugendliche heute das, was früher Lexikon, Taschenrechner und Nachhilfe zugleich waren", sagt Ildiko Bruhns, Projektleiterin Safer Kids Online bei ESET Deutschland. "Genau deshalb braucht es einen realistischen Blick auf die Kehrseite dieser Entwicklung."
KI wird vom digitalen Helfer zum digitalen Begleiter
Neben klassischen Sicherheits- und Datenschutzfragen rücken zunehmend psychologische Aspekte in den Fokus. Chatbots sind so programmiert, dass sie hilfreich, bestätigend und dialogorientiert reagieren. Für Kinder und Jugendliche kann daraus schnell mehr werden als ein reines Werkzeug. "Chatbots sind vielen Kindern mittlerweile ein echter 'Freund'", warnt Bruhns. “Gerade in einer sensiblen Phase der sozialen und emotionalen Entwicklung kann das reale Beziehungen verdrängen.”
Hinzu kommt: Die digitalen Assistenten irren sich häufig. Sogenannte Halluzinationen, also überzeugend formulierte, aber falsche Antworten, sind ein bekanntes Phänomen. Während (viele) Erwachsene dies einordnen können, nehmen Kinder solche Aussagen häufig ungeprüft als Fakten hin. Das kann bei schulischen Themen nur schlechte Noten zur Folge haben, in gesundheitlicher oder persönlicher Hinsicht ein ernsthaftes Problem darstellen.
Datenschutz: Ein blinder Fleck im Kinderzimmer
Ein weiteres Risiko liegt im Umgang mit persönlichen Daten. Viele Kinder geben in Chatbots Informationen preis, die dort nichts zu suchen haben. Von privaten Problemen bis hin zu vertraulichen Daten. "Alles, was eingegeben wird, verlässt den geschützten Raum der Familie", betont Bruhns. “Diese Daten können gespeichert, ausgewertet oder im schlimmsten Fall missbraucht werden.” Zwar setzen große Plattformen auf Schutzmechanismen und Altersbeschränkungen, doch diese greifen nicht immer zuverlässig. Technisch versierte Jugendliche finden oft Wege, Filter zu umgehen oder Beschränkungen auszuhebeln.
Wenn KI das Denken ersetzt
Neben Sicherheits- und Datenschutzfragen weisen Experten zunehmend auf mögliche psychische Auswirkungen der KI-Nutzung hin. Studien aus dem arbeits- und gesundheitswissenschaftlichen Umfeld zeigen, dass Chatbots nicht nur fehlerhafte oder widersprüchliche Informationen liefern, sondern bei intensiver Nutzung auch die kognitiven Fähigkeiten junger Menschen beeinflussen. Zu den möglichen Folgen gehören eine verminderte Gedächtnisleistung sowie Einschränkungen bei der Kreativität.
Aufklärung und Begleitung gefordert
Die Sicherheitsexpertin rät, das Thema KI und Chatbots aktiv aufzugreifen. Und zwar eher mit Aufklärung und Begleitung statt mit Verboten:
- Interesse zeigen: Fragen Sie Ihr Kind, wofür es KI nutzt und welche Erfahrungen es damit macht.
- Kritisches Denken fördern: Erklären Sie, dass KI Fehler machen kann und Antworten immer überprüft werden sollten.
- Grenzen setzen: Klare Regeln zur Nutzungsdauer und zu erlaubten Anwendungen helfen, Abhängigkeiten zu vermeiden.
- Privatsphäre schützen: Machen Sie deutlich, dass persönliche Daten, Probleme oder Fotos nichts in Chatbots zu suchen haben.
- Menschlichen Austausch stärken: Echte Gespräche mit Eltern, Freunden und Lehrern helfen.