Ein Ratgeber zu künstlicher Intelligenz im Kinderzimmer

Wenige Tage, bevor diese lausebande gedruckt wurde, hat die EU ein KI-Gesetz beschlossen – das erste seiner Art weltweit. Damit reagiert die Europäische Union auf technologische Entwicklungen, die ziemlich rasant vonstattengehen. Die sogenannte Künstliche Intelligenz ist mittlerweile zu Dingen in der Lage, die wir von zwanzig Jahren für undenkbar gehalten hätten. Was bedeutet das für uns und unsere Kinder? Das versuchen wir in diesem Titelthema zu beantworten.

Doch was ist eigentlich Künstliche Intelligenz? Wir haben sie selbst gefragt – und Chat GPT um eine Definition gebeten. Das ist die Antwort: „Künstliche Intelligenz bezieht sich auf die Fähigkeit von Maschinen oder Computersystemen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden. Das umfasst verschiedene Techniken, wie zum Beispiel maschinelles Lernen, bei dem Algorithmen auf Daten trainiert werden, um Muster zu erkennen und Vorhersagen zu treffen, sowie tiefe neuronale Netze, die Strukturen imitieren, die im menschlichen Gehirn gefunden werden. KI-Systeme können Aufgaben wie Spracherkennung, Bilderkennung, Übersetzung, Autonomes Fahren, und vieles mehr durchführen. Der Fortschritt in der künstlichen Intelligenz hat in den letzten Jahren erhebliche Fortschritte gemacht und spielt eine immer wichtigere Rolle in vielen Bereichen des täglichen Lebens und der Industrie.“

Bei künstlicher Intelligenz übernimmt die Technik Aufgaben, die menschliches Denken erfordern, beispielsweise Sprechen, Rechnen sowie Bilder oder Musik erschaffen. Allerdings ist die KI nicht wirklich kreativ, stattdessen kann sie auf einen riesigen Pool aus Daten zurückgreifen – im Grunde auf einen Datenozean. Nehmen wir das Beispiel ChatGPT: Das Programm wird mit Millionen Texten gefüttert, die im Internet verfügbar sind. Wenn man dann eine Frage stellt, generiert es eine Antwort, in dem es bereits vorhandene – von Menschen verfasste Texte – neu zusammensetzt. Das heißt also: Zunächst einmal ist KI nur deswegen so intelligent, weil sie auf von Menschen erstellte Daten, Texte, Bilder, Kompositionen zurückgreifen kann. Allerdings kann sie dank besserer technischer Voraussetzungen in viel kürzerer Zeit eine viel größere Datenmenge verarbeiten als wir Menschen. Und darin erkennt sie Muster, aus denen sie wiederum neue Muster – also Texte, Bilder oder Lieder – generieren kann. So ist Forschenden gelungen, ein Programm zu erstellen, das gefüttert mit Beethovens Musik dessen 10. unvollendet gebliebene Symphonie beendet hat.

Das macht Künstliche Intelligenz für uns manchmal etwas unheimlich. Vielleicht stehen wir auch nur wegen der Begrifflichkeit so ehrfürchtig davor, vermutet der US-amerikanische IT-Fachmann Andrew McAfee: „Wenn man in den Anfangsjahren einen anderen Begriff gewählt hätte als künstliche Intelligenz, irgendetwas Langweiliges wie symbolische Analyse oder Musterabgleich, was beides auch zuträfe, dann würden Menschen heute nicht so sehr ausflippen“, sagte er 2023 im Interview mit dem Spiegel.

Was künstlicher Intelligenz aber fehlt, ist so etwas wie ein Bewusstsein. Anders als der Mensch hat sie keine Persönlichkeit. Sie übernimmt Einstellungen und Bewertungen von uns Menschen. Wenn wir sie mit Daten füttern, die einen Zusammenhang zwischen Bildungsstand und Einkommen herstellen, dann übernimmt die Maschine diese Daten und verknüpft vielleicht ein hohes Einkommen automatisch mit einem hohen Bildungsstand.

Vor allem ist Künstliche Intelligenz mittlerweile unglaublich präsent in unserem Alltag – oft genug ohne dass wir uns dessen bewusst sind. Das Navi, das uns auf dem kürzesten Weg ans Ziel bringt und im Falle eines Staus in Sekundenschnelle eine neue Route berechnet, basiert ebenso auf maschinellem Lernen wie die Sprachassistentin Siri oder Streaminganbieter wie Spotify oder Netflix. Aufgrund unserer Suche und Vorlieben unterbreiten sie uns Empfehlungen, was uns ebenfalls interessieren könnte. Auch die bei Kindern und Jugendlichen beliebten Apps TikTok und Snapchat basieren auf KI.

Passend zum Thema haben wir ein KI-Bildprogramm gefragt, wie es sich KI im Kinderzimmer vorstellt. Die Ergebnisse sehen Sie auf den folgenden Seiten.

Einfluss der Digitalisierung auf Kinder

Wie aber wirkt sich das ständige Online-Sein, die stete Verfügbarkeit von Daten, das unbekümmerte Nutzen von Algorithmen auf uns und vor allem auf unsere Kinder aus? Ehrlich gesagt, wissen wir es einfach noch nicht. Es gibt kaum Forschung dazu, vor allem keine langfristigen Untersuchungen. Forschung rund um KI wird regelmäßig von den neuesten technischen Entwicklungen überholt. So schnell, wie neue Produkte und Apps auf den Markt kommen, so schnell kann ihre Auswirkung gar nicht untersucht werden.

Gleichwohl gibt es den Chor jener, die vor den Risiken der Digitalisierung warnen – zu den bekanntesten Warnern gehört der Hirnforscher Manfred Spitzer. Etwas überspitzt warnt er seit Jahren davor, dass Smartphones unsere Kinder dick, dumm und dement machen. Im Interview mit der lausebande vor fünf Jahren zog er ein ernüchterndes Fazit: „Man redet weniger miteinander, es herrscht mehr Misstrauen, Angst und Depressivität. Alle stöhnen, dass sie keine Zeit mehr haben, und alle verbringen ihre Zeit vor dem kleinen Bildschirmchen des Smartphones, nach dem viele schon süchtig sind – Eltern wie Kinder.“ Doch es gibt auch jene, die einen maßvollen Gebrauch durchaus befürworten – wenn er eben in Maßen stattfindet und von den Eltern begleitet wird.

Die bisherigen Ergebnisse aus der Medienwirkungsforschung zeigen, dass ein übermäßiger digitaler Medienkonsum negative Auswirkungen auf die körperliche und psychosoziale Entwicklung von Kindern hat.

Risiken von zu hoher Bildschirmnutzung:

• Störungen der Bewegungsentwicklung
• Haltungsschäden
• Schlafstörungen
• Übergewicht
• Konzentrationsstörungen
• Kurzsichtigkeit
• verzögerte sprachliche Entwicklung
• Lernschwierigkeiten
• Empathieverlust
• Einsamkeit und Depression
• Bildschirmsucht

Dass einzelne oder mehrere dieser Risiken tatsächlich auftreten, ist umso wahrscheinlicher, je jünger das Kind ist, je mehr Zeit es vor dem Bildschirm verbringt und je seltener es dabei von Erwachsenen begleitet wird.

Eine 2023 veröffentlichte Studie macht auf ein weiteres Problem aufmerksam, das eine Folge sozialer Medien ist: Das Versenden und Ansehen von Fotos und Videos führt zu ständigen Vergleichen und zu Unzufriedenheit. Wer immer wieder die tollen Fotos aus seinem Umfeld oder auch von Promis sieht, der fühlt sich selbst weniger hübsch und erfolgreich: „Wir haben herausgearbeitet, dass Kinder und Jugendliche durch den Gebrauch von sozialen Medien ständig Vergleichen mit Personen ausgesetzt sind, die sie für sozial besser gestellt halten – die sie zum Beispiel hübscher finden oder die ihnen wohlhabender, beliebter und glücklicher vorkommen“, erläutert Dr. Andrea Irmer, die für die Studie federführend verantwortliche Forscherin des Leibniz-Institut für Bildungsforschung und Bildungsinformation. Sie ergänzt: „Je mehr sie also mit dem scheinbar besseren Leben von anderen Personen in den sozialen Medien konfrontiert waren, desto schlechter fühlten sie sich.“

Mit Blick auf Chatbots wir GPT warnt der Hirnforscher Prof. Dr. Peter Gertjets vom Leibniz-Institut für Wissensmedien: „Es darf nicht passieren im Bildungsprozess, dass der aktive Lernprozess an ChatGPT ausgelagert und das Gehirn nicht gefordert wird.“ Anlässlich des Internationalen Tages der Bildung Ende Januar verwies er in einem dpa-Interview auf die möglichen Folgen von KI für das menschliche Gehirn: Sobald wir kognitive Aufgaben auslagern, die eine Denkleistung erfordern, wird der entsprechende Bereich im Gehirn nicht mehr beansprucht und bildet sich zurück. Ein einfaches Beispiel ist der Taschenrechner: Wenn ich nur noch mit seiner Hilfe addiere und multipliziere, werde ich im Kopfrechnen mit der Zeit immer schwächer. Das Risiko bestehe auch beim Lernen mit ChatGPT: Wenn sich Kinder die Gedichtinterpretation oder Textzusammenfassung von der Technik schreiben lassen, dann mögen sie gute Noten bekommen, aber sie lernen nichts, ganz im Gegenteil: Wenn sie die Antworten nur abschreiben oder per Tastendruck und Mausklick in ein Dokument einfügen, bleibt kein Wissen hängen. Ein Lerneffekt setze aber dann ein, wenn das Kind die Antworten von ChatGPT auswertet, bewertet und mit Quellen vergleicht. Auch im Dialog – indem man sich beispielsweise für eine bevorstehende Klassenarbeit abfragen lässt – kann die KI einen Mehrwert haben. Ob sich Hirnstrukturen durch die Nutzung von KI langfristig ändern werden, sei noch nicht abzusehen, so der Forscher.

Tipps zum Umgang mit Sprachassistenten

Datenschutz: Eltern sollten sich bewusst sein, dass Sprachassistenten möglicherweise Daten sammeln und speichern können – und das in der Regel auch tun, denn nur so werden sie mit der Zeit immer besser. Kommunizieren Sie das altersgerecht Ihrem Kind, damit es keine persönlichen Sachen preisgibt.

Privatsphäre: Nutzen Sie das Gerät nicht, um Ihr Kind heimlich auszuspionieren und kommunizieren Sie Ihrem Kind offen, dass Sie theoretisch Zugriff auf alle Gespräche im Kinderzimmer haben.

Hackerangriff: In der Praxis spielen Hackerangriffe auf privat genutzte Sprachassistenten bisher so gut wie keine Rolle. Theoretisch aber bietet man mit einem solchen System Kriminellen ein weiteres Einfallstor für all jene Geräte, Konten und Systeme, die damit verknüpft sind.

Vermenschlichung: Damit die Kinder den Sprachassistent nicht zu sehr vermenschlichen und als Freundin oder gar Diener wahrnehmen, kann ein kleiner Trick helfen: Nennen Sie das Gerät nicht „Alexa“ oder „Siri“, sondern Sprachcomputer. Damit machen Sie sich und Ihren Kindern immer wieder bewusst, dass sie es mit einer Maschine zu tun haben.

Altersbegrenzung: Sprachassistenten ermöglichen den Zugang zu einer Vielzahl von Inhalten. Eltern sollten sicherstellen, dass die Inhalte altersgerecht sind und ihren eigenen Werten und Erziehungszielen entsprechen. Mittlerweile ermöglichen die meisten Hersteller bestimmte Kinderschutzeinstellungen. Entweder lernt der Sprachassistent die Stimme des Kindes und ermöglicht ihm nur den Zugriff auf bestimmte Inhalte und Dienste. Oder die Eltern können über Einstellungen bestimmte Profile bearbeiten.

Kosten: Durch Sprachassistenten, die direkt mit einem Kundenkonto beispielsweise bei Amazon verbunden sind, können Kinder via Sprachbefehle Spielzeuge oder andere Dinge kaufen und damit ungewollt Kosten verursachen. Um das zu verhindern, können Sie Spracheinkäufe deaktivieren oder diese mit einem Pin bzw. Code absichern.

Unter www.medien-kindersicher.de finden sich Schritt-für-Schritt-Anleitungen, wie die meisten technischen Geräte – darunter auch smart speaker – kindersicher eingerichtet werden können.

Die Gesetzeslage: Lässt sich KI regulieren?

Schaut man auf die rechtlichen Rahmenbedingungen, gibt es gleich mehrere spannende Fragen, die teils noch auf Antworten warten. Denn auch hier läuft die Gesetzgebung der technologischen Entwicklung hinterher. Ein Aspekt ist das Urheberrecht: Text-generierende KI und Übersetzungsprogramme können nur deswegen so gute Ergebnisse erzeugen, weil sie sich Texte aus dem Internet ziehen – ohne das Urheberrecht zu beachten oder diejenigen zu entlohnen, die diese Texte verfasst bzw. übersetzt haben. Aktuell aber kann das Urheberrecht nicht angewendet werden, weil es nur dann greift, wenn eine menschlich-gestaltende Tätigkeit vorliegt. KI-generierte Bilder und Texte basieren zwar auf menschlichen Leistungen, sind aber keine. Das stellt unter anderem Schulen und Universitäten vor Herausforderungen. Plagiatsjäger werden arbeitslos, weil sich KI-generierte Texte kaum als solche nachweisen lassen. Im März 2024 haben sich drei große deutschsprachige Übersetzerverbände an die EU gewandt, weil sie nicht nur ihre Jobs gefährdet sehen, sondern auch den Umgang mit Sprache und die Wahrung des Urheberrechts.

Zu diesem Zeitpunkt befand sich bereits ein Gesetz zur Regulierung von Künstlicher Intelligenz (EU AI Act) in der Verabschiedung durch das Europäische Parlament. Es richtet sich an die Entwickler, Anbieter und Nutzer von KI und versucht sich – übrigens weltweit als Vorreiter – in der Regulierung derselben. Dabei versucht die EU einerseits die Technik in ihre Schranken zu weisen, aber gleichzeitig weitere Innovationen nicht auszubremsen. Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie, Rechtsstaat und Umwelt vor Hochrisiko-KI-Systemen zu schützen. So werden bestimmte KI-Anwendungen verboten, von denen eine Gefahr für die aufgezählten Bereiche ausgeht. So wird beispielsweise die Gesichtserkennung im öffentlichen Raum verboten – nur in wenigen, klar festgelegten Fällen darf die Polizei diese nutzen. An Schulen und Arbeitsplatz ist die Anwendung von Anwendungen verboten, die Emotionen erkennen. Verboten ist KI ebenfalls dann, wenn es darum geht, mögliche Verbrechen vorherzusagen oder Menschen anhand ihres Verhaltens zu bewerten. Dieses Social Scoring wird in China bereits praktiziert. Außerdem verlangt das neue Gesetz, dass KI von Menschen überwacht wird und nicht von anderer Technologie. Besondere Anforderungen stellt das neue Gesetz an die Nutzung von KI in Bereichen der kritischen Infrastruktur wie Gesundheit, Bildung, Justiz und Versorgung. Zudem ist es mit Inkrafttreten des Gesetzes notwendig, von KI erzeugte Bilder, Filme oder Texte als solche zu kennzeichnen. Auch die Einhaltung des EU-Urheberrechts wird in dem Gesetzt verlangt, hier soll u.a. mehr Transparenz helfen. So müssen die Anbieter regelmäßig veröffentlichen, mit welchen Inhalten sie ihre KI trainieren. Auf einen weiteren Aspekt gehen wir im folgenden Abschnitt ein: Was wiegt schwerer: Das Recht auf Privatsphäre, das auch Kindern zusteht, oder die Aufsichtspflicht von Eltern?

Big Mother is watching you

Der Fortschritt der Technik ermöglicht es uns Eltern, unsere Kinder 24/7 zu überwachen. Das beginnt bereits im Säuglingsalter, wo das klassische Babyphone durch Sensoren, Kameras und Lautsprecher abgelöst wird. Sie informieren, wenn das Kind im Bett ungewöhnliche Geräusche macht, zu lange auf dem Bauch liegt oder sich die Decke über den Kopf zieht. Später bekommen die Kinder eine Smartwatch mit integriertem GPS-Tracker, damit wir Eltern jederzeit wissen, wo das Kind ist. Über Apps können wir das Smartphone unseres Kindes jederzeit orten und bestimmen, wie viel Zeit es damit verbringt und welche Apps es nutzen darf. Wir können im Zweifel sogar mitlesen, mit wem es worüber chattet. Wir können die Alexa im Kinderzimmer aufstellen und nachhören, was das Kind mit ihr bespricht.

Eltern wandeln dabei auf einem sehr schmalen Grat zwischen ihrer Aufsichtspflicht und dem Recht auf Privatsphäre, das auch für Kinder gilt. Fast alle Fachleute raten dazu, dem Recht auf Privatsphäre mehr Gewicht einzuräumen. Es mag verlockend klingen, jederzeit zu wissen, wo das Kind ist und es so vor vermeintlichen Gefahren zu schützen. Doch Eltern sollten zwei Dinge bedenken, bevor sie ihr Kind nur noch mit Tracker nach draußen lassen: 1.) Wie hätten Sie sich mit ständiger Überwachung als Kind gefühlt? Hat nicht gerade auch das Alleinsein ohne Erwachsene die Unbeschwertheit der Kindheit und Jugend ausgemacht? 2.) Wer Tracker aus Angst vor einem Gewaltverbrechen nutzt, sollte bedenken, dass ein Entführer dem Kind vermutlich als erstes die Smartwatch und das Handy abnimmt. Nicht zuletzt mögen Gewaltverbrechen und Vermisstenfälle durch die Berichterstattung sehr präsent sein, tatsächlich kommen sie nur sehr selten vor.

Die permanente Überwachung kann auch das Eltern-Kind-Verhältnis belasten. Vielleicht lässt das Kind die Smartwatch in einem Versteck und bei einer Freundin liegen, um sich trotzdem ungestört bewegen zu können. Zudem könnten Kinder sich in falscher Sicherheit wiegen, weil sie glauben, dass ihnen mit Smartwatch nichts passieren kann. Oder aber das Gegenteil passiert: Die Kinder trauen sich nicht mehr aus dem Haus, weil die Eltern mit dem Wunsch nach Überwachung das Gefühl vermitteln, draußen lauerten viele Gefahren. Fachleute empfehlen stattdessen ein gutes Vertrauensverhältnis und konkrete Absprachen, wie zum Beispiel: Mit wem darf ich draußen reden, wie weit darf ich mich von zu Hause entfernen, wann muss ich wieder zu Hause sein?

Rein rechtlich ist es Eltern durchaus erlaubt, ihre (minderjährigen) Kinder über einen GPS-Tracker zu orten. Sollte das Gerät aber auch in der Lage sein, die Umgebung abzuhören, ist es verboten und darf nicht genutzt werden.

Alexa im Kinderzimmer?

Damit sind wir auch schon bei der Frage, ob Sprachassistenten ins Kinderzimmer gehören, denn auch sie können theoretisch zur Überwachung der Kinder genutzt werden. In vielen Kinderzimmern sind Alexa oder Siri längst eingezogen und eine Art beste Freundin geworden. Laut der regelmäßig erhobenen Jugend-Medien-Studie (JIM) haben 23 Prozent der Jugendlichen ab zwölf Jahren einen smart speaker in ihrem Zimmer. Die Daten stammen von 2023. Für die Kinder-Medien-Studie (KIM) wurden nur die Eltern nach einem smart speaker gefragt. Jede vierte Familie hat ein solches Gerät im Haushalt, wobei nicht erhoben wurde, ob sie auch im Kinderzimmer stehen. Andere Studien zeigen ebenfalls, dass Sprachassistenten besonders bei Familien sehr beliebt sind. Für immer mehr Kinder also gehört die freundliche Sprachassistentin zum Alltag. Dabei rät die Wissenschaft zur Zurückhaltung – vor allem bei jüngeren Kindern. 2019 verglich Cornelia Holsten, Direktorin der Landesmedienanstalt in Bremen, Sprachassistenten mit einem scharfen Küchenmesser: „Es ist so, als ließen Eltern einen Messerblock auf dem Tisch stehen und vertrauten einfach darauf, dass die Kinder schon nicht drangehen werden“, sagte sie in einem Interview mit dem Evangelischen Pressedienst epd. Kleinkinder, so ihre Argumentation, sollten diese Geräte noch nicht nutzen. Erst, wenn Kinder die möglichen Risiken verstehen, solle man sie an die Technologie heranführen. Zuvor hatte der Wissenschaftliche Dienst des Bundestages in einem Gutachten vor Alexa als potenziell gefährlich für Minderjährige gewarnt. Kinder und Jugendliche hätten der Speicherung ihrer Daten nicht eingewilligt, so die Autoren. Zudem könnten sie Zugang zu Angeboten im Netz bekommen, die sie sonst nicht aufrufen dürften – beispielsweise rassistische oder pornografische Inhalte. Zudem nehmen vor allem jüngere Kinder die Sprachassistentin als Freundin wahr und würden ihr daher auch persönliche Dinge anvertrauen – was mit Blick auf die unklare Datenverarbeitung und -nutzung der dahinterstehenden Tech-Konzerne problematisch sein kann. Zugleich wies das Bundesinnenministerium die Verantwortlichkeit dafür zurück: „Die Nutzung der Sprachassistenten betrifft Datenverarbeitungen durch nichtöffentliche Stellen.“ Für diese lasse die Datenschutz-Grundverordnung der EU den nationalen Gesetzgebern kaum Regelungsspielraum.

Dr. Astrid Carolus, die an der Universität Würzburg zum Miteinander von Mensch-Medien-Maschine forscht, sieht es etwas pragmatischer: „Im Unterschied zu ihren Eltern wachsen Kinder heute ganz selbstverständlich mit dieser Form der Mensch-Computer-Interaktion auf. Die Bedienung über Sprachbefehle ermöglicht Kindern die Nutzung technischer Geräte, auch wenn sie noch nicht lesen und schreiben können. Mit drei bis vier Jahren können sie bereits einfache Sprachbefehle formulieren – das eröffnet ihnen natürlich viele Möglichkeiten.“ Zugleich nimmt sie Eltern in die Pflicht: „Allein die Fähigkeit, etwas zu tun, bedeutet jedoch nicht, dass Kinder die digitalen Geräte kompetent nutzen. Wenn schon die Jüngsten Zugang zu Sprachassistenten haben, ist es Aufgabe der Eltern, bei der Anwendung auf Sicherheit, aber auch auf Sinnhaftigkeit zu achten.“

Eine Studie aus Cambridge von 2022 sieht mögliche Risiken für die sprachliche und soziale Entwicklung von Kindern. Demnach ahmen Kinder die Geräte nach und übernehmen dabei auch deren Unzulänglichkeiten in der Sprache wie den monotonen Tonfall. Kritisch sehen die Forschenden ebenfalls, dass Alexa & Co. meist auf einfache Befehle reagieren – ein höfliches Bitte und Danke sei nicht erforderlich. Soziale Umgangsformen, wie sie sie Kinder im Gespräch mit Menschen automatisch erlernen, spielten hier keine Rolle. Die Gefahr: Die Kinder übernehmen den Befehlston auch im Alltag. Zudem lernten Kinder nicht mehr, komplexe Fragen zu stellen, da Sprachassistenten meist nur einfache Fragen und Bitten verstünden. Bei der Entscheidung, ob das Kind einen eigenen smart speaker ins Zimmer bekommt, spielen also verschiedene Faktoren eine Rolle. Eltern sollten Vorteile und Risiken abwägen.

Nach den vielen Warnungen wollen wir auch noch auf die Vorteile von Sprachassistenten verweisen: Kinder können sie zum Lernen, Spielen, Musikhören nutzen. Sie können gerade Familien vieles im Alltag erleichtern, beispielsweise über die Timer- oder Kalender-Funktion. Oder man lässt sich beim Wochenendfrühstück ein paar Rezepte für ein Mittagessen oder ein Ausflugsziel vorschlagen und entscheidet dann gemeinsam. Kinder können selbständig Musik und (Hör-)Bücher entdecken, ihr Wissen unkompliziert erweitern, sich Witze erzählen lassen oder Spiele spielen. Das wiederum kann Eltern entlasten.
Dennoch – und das ist uns als Zwischenfazit wirklich wichtig: Alexa sollte nicht die Rolle der Eltern ersetzen. Auch ältere Kinder lieben es, wenn ihnen Mama oder Papa ein Buch vorlesen oder wenn sie sich gegenseitig ihre Lieblingswitze erzählen können. Alexa kann eine gute Ergänzung sein – mehr nicht.

Spielzeug: Smart Toys

Smartes Spielzeug, das tatsächlich mit dem Internet verbunden ist und mittels künstlicher Intelligenz lernt, hat es auf dem deutschen Markt bisher schwer. Einige Produkte sind recht schnell wieder verschwunden. So wurde die Puppe Cayla im Jahr 2017 von der Bundesnetzagentur verboten. Familien, die sie bereits gekauft hatten, wurden aufgefordert sie zu vernichten. Die Agentur hatte die Puppe als verdeckte Spionin verurteilt, da in ihr eine Kamera und ein Mikrofon versteckt waren. Durch die zusätzliche Verbindung zum Internet war es so theoretisch möglich, die Umgebung der Puppe auszuspionieren. „Hello Barbie“ aus dem Hause Mattel geriet kurz nach dem US-amerikanischen Verkaufsstart vor etwa zehn Jahren ebenfalls sofort ins Kreuzfeuer der Datenschützer. Auch sie konnte im Kinderzimmer mithören. In Deutschland kam sie erst gar nicht auf den Markt. Furby, eine sprechende Plüschfigur, wurde ebenfalls aufgrund von Sicherheitsbedenken in den Räumlichkeiten der US-amerikanischen Sicherheitsbehörde NSA verboten – bereits 1999. Das Spielzeug gibt es immer noch, es kann reden und reagiert auf Streicheleinheiten. Aber es ist nicht mit dem Internet verbunden und nutzt KI daher höchstens in einer sehr einfachen Form.

Vor etwa fünf Jahren brachte der Roboter Cozmo KI in viele Kinderzimmer. Mit ihm können Kinder nicht nur spielen oder programmieren lernen, sie müssen ihn wie ein Haustier versorgen. Er kann sich sogar Gesichter einprägen und seine Besitzer so wiedererkennen. Allerdings ging das dahinterstehende Start-up Anki 2019 pleite, der Roboter wird nicht mehr hergestellt.

Es gibt eine ganze Reihe smarter Roboter, die teils erst zusammengebaut werden müssen und programmiert werden können. Ihre Fähigkeit des maschinellen Lernens ist jedoch begrenzt. Allerdings dürfte das Angebot an KI-Spielzeug in Zukunft wachsen. So überlegt der Hersteller von Tonies, seine beliebten Hörwürfel mit der Software von ChatGPT zu verknüpfen. Die Geschäftsidee: Die Kinder nennen ihrer Tonie-Box ein paar Stichworte und daraus entwickelt diese eigenständig eine Gute-Nacht-Geschichte. Im April 2023 ging ein Video viral, das einen mit ChatGPT verknüpften Furby zeigt, der die Weltherrschaft an sich reißen will. Es ist also vermutlich nur eine Frage der zeigt, bis neben Robotern, Sprachassistenten und Smartphones eine weitere KI in den Kinderzimmern Einzug hält.

Gaming: KI in Videospielen

In PC-, Video- und Konsolenspielen wird längst mit KI gearbeitet. Zum einen lassen sich Bilder sowie zwei- und dreidimensionale Spielewelten durch KI generieren, die bisher aufwändig durch Grafiker „gezeichnet“ werden mussten. Dieser technische Fortschritt ist weniger für die Gamer relevant, aber für jene, die ihr Geld in der Gaming-Branche verdienen. Denn durch die KI könnten auch hier ganze Berufsfelder verschwinden. Für Spieler durchaus relevant ist dagegen der Einsatz von KI im Spiel selbst. Zum einen könnten die einzelnen Level und Welten noch im Spiel durch KI fortgeschrieben werden, was das Spiel unvorhersehbarer und spannender macht. Zudem – und das passiert in einzelnen Spielen bereits – könnten die sogenannten NPC (Non-Playing-Characters) dank KI ganz anders mit den Spielern vor dem Bildschirm agieren. Wenn generative KI in Videospielen zum Einsatz kommt, kann diese aus dem Spielverhalten lernen, künftiges Spielverhalten vorhersagen und die NPCs entsprechend reagieren lassen. Eines der bekanntesten Computerspiele, bei denen KI bereits erfolgreich eingesetzt wird, ist Schach. Schon Mitte der 1990er Jahre setzte der Schach-Computer DeepBlue den damaligen Weltmeister Schachmatt. Aktuelle Spiele, bei denen KI auf diese Weise bereits genutzt wird, sind Mittelerde: Mordors Schatten und das Formel-1-Spiel Forza Horizon. Ein Risiko dabei ist, dass die KI und damit der Gegner so gut wird, dass man keine Chancen mehr hat, zu gewinnen und der Spielspaß verloren geht.

Social Media: TikTok & Co.

Immer mehr Kinder besitzen ein Smartphone, manche schon, bevor sie überhaupt schreiben und lesen können. Mit dem Smartphone beginnt zugleich die Nutzung von Social Media-Apps. Bei Kindern und Jugendlichen sind die beliebtesten Kanäle WhatsApp, Instagram, TikTok und SnapChat. Wir stellen sie vor.

WhatsApp ist der derzeit am weitesten verbreitete Messenger-Dienst und ermöglicht den schnellen und bei verfügbarem W-Lan kostenfreien Austausch mit Familienmitgliedern, Freunden und Mitschülern. Offiziell erlaubt ist die Nutzung ab 13 Jahren, das wird aber nicht wirklich kontrolliert. Es liegt also an den Eltern, zu entscheiden, ob der Nachwuchs WhatsApp auch schon vorher nutzen darf. Hier spielt oft der Gruppendruck eine Rolle: Wenn alle Freunde bereits Whats-App nutzen, will man sein Kind nur ungern ausschließen. Über die App können Text- und Sprachnachrichten, Bilder, Videos, Links und der eigene Standort geteilt werden. Reden Sie mit Ihren Kindern frühzeitig darüber, welche Inhalte es bedenkenlos versenden und weiterleiten kann und wo es besser zurückhaltend sein sollte. Was einmal im Internet ist, lässt sich kaum wieder einfangen. Das kann beispielsweise bei freizügigen Fotos, wie sie Jugendliche gern verschicken, problematisch werden. Kinder sollten auch früh das Recht am eigenen Bild kennen. Am besten vermitteln Sie das, indem Sie Ihr Kind fragen, ob Sie ein Foto von ihm versenden oder in den Status stellen dürfen. Denn auch ein grenzwertiges Foto in Mamas Status kann für Kinder zum Problem werden. Mittlerweile hat WhatsApp eine Funktion eingeführt, mit der Fotos nach dem Versenden nur einmal vom Empfänger angesehen werden können. Screenshots sind dabei nicht möglich. Zeigen Sie Ihren Kindern die Datenschutzeinstellungen und raten Sie zu einer sparsamen Datenpreisgabe. WhatsApp hat bereits angekündigt, künftig stärker auf KI zu setzen – mit einem integrierten Chatbot, der beispielsweise Fragen beantwortet, für die man sonst die App verlassen und eine Suchmaschine befragen würde.

TikTok ist eine der beliebtesten Apps bei Jugendlichen. Die vielen kurzen Videos und die konsequente Nutzung von KI, um die Interessen der Nutzenden ermitteln, hat die App sehr erfolgreich gemacht. Offiziell genutzt werden darf sie erst ab 13 Jahren. Viele Kinder umgehen das, indem sie ein falsches Geburtsdatum angeben. In der Kritik steht TikTok vor allem, weil dahinter ein chinesischer Konzern steht und die Daten somit in einem Land landen, dessen Datenschutzregularien westeuropäischen Ansprüchen nicht genügen. Wer sich an die Altersfreigabe hält, für den hat die App mehrere Schutzmechanismen vorgesehen, um Jugendliche vor Cybergrooming und Hasskommentaren zu schützen. So werden Konten von Nutzern zwischen 13 und 15 Jahren automatisch auf privat gestellt und die Kommentarfunktion unter Videos deaktiviert bzw. auf Freunde beschränkt. Die Funktionen „Duett“, „Stitch“ und „Schlag anderen dein Konto vor“ sind für diese Altersgruppe ebenfalls deaktiviert. Außerdem können ihre Videos nicht von anderen heruntergeladen werden, wobei sich das technisch mit etwas Geschick umgehen lässt. Außerdem bietet TikTok einen begleiteten Modus an, bei dem das Konto des Jugendlichen mit dem eines Elternteils verknüpft werden kann. Darüber können die Eltern dann beispielsweise auch die Nutzungszeit der App begrenzen. Ein Risiko sind unerwartete Kosten, wenn der Nachwuchs seinen Idolen Geldgeschenke in Form von Coins machen möchte. Das lässt sich durch das Sperren von In-App-Käufen vermeiden. Weitere Risiken sind Probleme mit dem Urheberrecht, wenn beispielsweise TikTok-Videos auf anderen Plattformen geteilt werden, und problematische Inhalte. Vor allem rechtsradikale Akteure nutzen die Plattform intensiv und leider erfolgreich, um junge Menschen anzusprechen.

SnapChat ist bei jungen Menschen ebenfalls sehr beliebt. Über die App lassen sich Bilder, Videos und Texte versenden und vorher mit Filtern, Effekten und Emojis bearbeiten. Die Nutzenden können selbst bestimmen, wie lange der versendete Inhalt für die Adressaten sichtbar ist. Das allerdings kann durch screenshots umgangen werden. Daher ist es wichtig, dass die Kinder bzw. Jugendlichen auch über SnapChat keine freizügigen oder auf andere Weise problematischen Fotos und Videos versenden. Darüber hinaus bietet die App viele Zusatzfunktionen wie die Standortanzeige der Freundinnen, Spiele und den Chatbot My AI, der auf KI basiert und mit dem sich das Kind über die Chatfunktion unterhalten kann. Die App ist ebenfalls erst ab 13 Jahren freigegeben, aber auch bei jüngeren Kindern sehr beliebt.

Instagram gehört ebenfalls zu den Top 5 der beliebtesten Apps bei Kindern und Jugendlichen. Sie wird vor allem genutzt, um Fotos und Videos zu teilen. Auch Reels – Videos aus vielen kurzen Clips – und kurze Livestreams sowie Stories können hier gepostet werden. Man kann anderen Konten folgen, hier tummeln sich viele Prominente. Auch bei Instagram liegt die Altersgrenze bei 13 und kann ebenfalls umgangen werden. Immerhin hat Instagram angekündigt, mittels KI überprüfen zu wollen, ob das angegebene Alter realistisch ist und Konten gegebenenfalls zu sperren. Wie gut das funktioniert, muss sich noch zeigen. Auch hier ist eine Elternaufsicht möglich, der aber das Kind zustimmen muss. In jedem Fall ist es hilfreich, die Privatsphäre-Einstellungen zu überprüfen und Kontaktanbahnung durch Fremde möglichst zu unterbinden.

Fazit zu Social-Media-Apps

Für alle Apps, die Ihr Nachwuchs nutzen möchte, gilt: Laden Sie sich die App zuvor selbst herunter, zumindest zeitweise, und probieren Sie sie aus. So merken Sie am besten: Was kann sie? Wie schnell zieht sie einen in den Bann? Was macht ihren Reiz aus? Wo sind ihre Risiken?

Durch die Möglichkeit, Kommentare, Likes und Emojis zu hinterlassen – oder auch nicht – können die Apps hohen sozialen Druck erzeugen, für den vor allem junge Menschen anfällig sind. Sie können frustriert sein, wenn ihr Foto oder Video zu wenig Likes oder unfreundliche Kommentare bekommt. Sie können sich unter Druck gesetzt fühlen, Beiträge ihrer Freunde sofort zu beantworten und zu bewerten. Ein weiteres Risiko, vor dem auch wir Erwachsene nicht gefeit sind: In den sozialen Medien werden vor allem schöne, vielleicht noch gefilterte Fotos und Erlebnisse geteilt, was zu Neid führen kann und zu dem Gefühl, dass man selbst ein langweiliges Leben führt. Wie oben bereits erwähnt, belegt eine kürzlich veröffentlichte Studie genau diese Entwicklung.

Da das jetzt ziemlich viele Risiken und Probleme waren, wollen wir an dieser Stelle noch das Positive hervorheben: Diese sozialen Netzwerke ermöglichen unseren Kindern Inhalte, Kulturen, Menschen und Wissen aus der ganzen Welt kennenzulernen, was so vor 20 Jahren überhaupt nicht möglich war. Wer in einer Kleinstadt oder auf dem Dorf aufwächst und sich der LGBTQ-Gemeinschaft zugehörig fühlt, der findet über das Internet Gleichgesinnte und merkt: Ich bin nicht allein, es gibt viele andere Menschen, die ähnlich fühlen und denken wie ich. Wer Fan von Mangas ist oder sich für Astrophysik interessiert, kann sich dank der Online-Kanäle mit anderen austauschen, die dieses special interest teilen. Bedenken Sie das bei aller Skepsis.

Wichtig ist, dass Ihr Kind sich bei Problemen und Fragen jederzeit an Sie wenden kann, ohne Angst vor Strafe haben zu müssen. Machen Sie Ihrem Kind von Anfang an klar: Wenn es etwas nicht versteht, etwas Blödes verschickt hat, von Fremden kontaktiert wird, beängstigende Videos gesehen hat, Kettenbriefe bekommt oder gemobbt wird, sind Sie als Eltern da und versuchen gemeinsam eine Lösung zu finden. Drohen Sie nicht mit Handyentzug und App-Sperre. Denn dann könnte es sein, dass Ihr Kind solche Dinge verheimlicht.

KI und frühkindliche Bildung

Wenn man die öffentliche Debatte über Künstliche Intelligenz verfolgt, dann sticht ein Aspekt hervor, der positiv konnotiert ist: die Bildung. Schule, Lernen, teils sogar die Kita, sind jene Bereiche, in denen der KI viel Potenzial zugestanden wird. Sie ist – anders als die Lehrerin, die vor 25 Kindern steht – in der Lage, individuelle und personalisierte Aufgaben zu erstellen und Lernfortschritte jedes Kindes individuell zu begleiten – mit entsprechend angepassten Aufgaben. Wenn man schaut, mit welch unterschiedlichen Voraussetzungen und Kenntnissen Kinder heute eingeschult werden, kann das ein sehr hilfreiches Tool sein. Für die Lehrerin erleichtert es die Arbeit, die Kinder sind so weder überfordert noch gelangweilt. Durch interaktive und spielerische Elemente fällt es leichter, Kinder für das Lernen zu begeistern. Wenn das gelingt, kann KI im Idealfall die in Deutschland mangelhafte Bildungsgerechtigkeit verbessern.

Für den privaten Hausgebrauch macht die KI Informationen schneller und leichter verfügbar – sowohl für Eltern als auch für Kinder. Wenn das Kind eine Frage stellt und die Eltern die Antwort nicht kennen oder gerade keine Zeit für ein längeres Gespräch haben, dann können Google, Alexa oder ChatGPT vielleicht weiterhelfen. Allerdings gilt auch hier das, worauf wir oben bereits hingewiesen haben: Kinder werden nur dann von den neuen Technologien profitieren, wenn sie dabei von den Eltern begleitet werden, wenn die Eltern die Zeit und das Wissen haben, die Technik sinnvoll und gemeinsam mit den Kindern zu nutzen. Das sind meist Kinder aus bildungsstarken Familien.

Exkurs: ChatGPT als Hausaufgaben-Hilfe?

Während die meisten Mütter und Väter der heutigen Eltern-Generation in ihrer Schulzeit und für Ausbildung oder Studium noch Bücher wälzen und in Lexika nachschlagen mussten, um Hausaufgaben zu erledigen, Hausarbeiten zu schreiben oder für Prüfungen zu lernen, ist das wichtigste Arbeitsmittel für die Schulkinder von heute der Bildschirm. Suchmaschinen wie Google und Internetlexika wie Wikipedia haben das Geschäftsmodell der mehrbändigen Brockhaus-Reihe obsolet gemacht. Ganz gleich ob Gedichtinterpretation, Ethik-Aufsatz oder Physik-Quiz – ChatGPT spuckt innerhalb weniger Sekunden die fertige Hausaufgabe aus. Hausarbeiten oder zu Hause verfasste Ausätze sind keine Option mehr, um den Wissensstand der Kinder zu testen.

An den meisten Schulen wird noch diskutiert, ob und in welcher Form Künstliche Intelligenz im Unterricht zugelassen wird. Derweil nutzen viele Kinder Chatbots und Suchmaschinen längst, um sich bei den Hausaufgaben unterstützen zu lassen. Eltern tun gut daran, die digitalen Werkzeuge nicht zu verteufeln oder gar zu verbieten, sondern die Kinder bei der Nutzung zu begleiten. Schon heute zeigen Studien, dass Kinder besser mit modernen digitalen Technologien umgehen können, wenn sie von ihrem Elternhaus unterstützt werden. Kinder, die unbemerkt und unbegleitet von den Eltern durch das weltweite Netz surfen, sind weniger kompetent in diesem Bereich. Hier setzt sich also das fort, was bereits für andere Bildungsbereiche wie das Lesen gilt: Bildungschancen hängen in Deutschland stark vom Elternhaus ab.

Reden Sie mit Ihrem Kind über die Vor- und Nachteile von Chatbots. Testen Sie gemeinsam verschiedene Fragen und Aufgaben aus und vergleichen Sie diese mit den Ergebnissen einer klassischen Suchmaschinen-Suche. Nutzen Sie dafür nicht nur Aufgaben aus der Schule, sondern die privaten Interessen. Wenn sich das Kind für Fußball begeistert, stellen Sie Fragen zur bevorstehenden EM. Hier ein paar Anregungen:

• Wer wird Fußball-Europameister?
• Welches Land hat die besten Chancen auf den EM-Titel?
• Warum ist Fußball in Deutschland so beliebt?
• Wer ist der erfolgreichste Fußballspieler aller Zeiten?

Das gleiche können Sie mit anderen Themen durchspielen, oder mit der Lieblingsserie oder dem Lieblingsbuch Ihres Kindes. Werten Sie anschließend die Antworten gemeinsam aus. Das zeigt die Grenzen der KI auf: Die Antworten können subjektiv gefärbt oder falsch bzw. fehlerhaft sein. Sie gibt keine Quellen an. Ihr gelingt zwar eine Wettervorsage, aber sie kann nicht in die Zukunft sehen.

Fazit

Als Fazit und um die Frage im Titel dieses Themas aufzulösen: Im Idealfall wird die KI bei Ihnen in der Familie weder zum Spion noch zum besten Kumpel. Sie darf und wird bei Ihnen einziehen. Wie intensiv sie auch ins Kinderzimmer einzieht, sollten Sie gut abwägen und immer wieder dem Alter und der Entwicklung Ihres Kindes anpassen. Besprechen Sie mit ihm altersgerecht die Risiken von KI und nutzen Sie die Kinderschutzeinstellungen. Verwenden Sie KI-basierte Tools gern, um Ihren Familienalltag zu erleichtern, aber nehmen Sie sich auch in Zukunft die Zeit, mit Ihren Kindern ganz real und analog schöne Erlebnisse zu teilen.

Weiterführende Informationen

Wir haben eine paar Internetseiten zusammengestellt, auf denen Sie Empfehlungen für kindgerechte Apps mit Lerneffekt finden. Über die QR-Codes gelangen Sie zur jeweiligen Empfehlungsseite.

Stiftung Lesen
Sammlung von Apps, die beim Schreiben- und Lesenlernen unterstützen.

Klick-Tipps
Kindgerechte Apps, darunter viele mit Lerneffekt (letzte Aktualisierung 2023)

Geolino
Die Zeitschrift, die unterhaltsam Wissen für Kinder vermittelt, hat Apps für Kinder getestet.

Eltern
Die Ratgeberseite für Eltern hat 30 Apps für Kleinkinder gesammelt, teils mit Bildungsabsicht, teils einfach zum Zeitvertreib.

BesteKinderApps
Die Website testet regelmäßig Apps für Kinder, in eigenen Menüpunkten kann man sich Lernapps anzeigen lassen.

TOMMI Kindersoftwarepreis
Einmal jährlich zeichnet der TOMMI Kindersoftwarepreis Apps, Spiele und elektronisches Spielzeug aus.