KI-Spielzeug: was drinsteckt und was man vor dem Kauf fragen sollte

Der Teddy, der antwortet, wenn man mit ihm spricht, steht längst in den Katalogen, und die Wunschzettel für Geburtstage und Weihnachten entstehen früher, als man denkt. Die Versuchung ist groß, so ein Ding als Kuscheltier mit Batterien zu behandeln. Nur steckt darin kein Text, den jemand für Kinder geschrieben hat, und genau darin liegt der Unterschied.

Was wirklich im Kuscheltier steckt

Drei Dinge: ein Mikrofon, eine Internetverbindung und ein Sprachmodell in der Cloud, dieselbe Technik, die auch die Chatbots für Erwachsene antreibt. Jede Antwort entsteht im Moment, deshalb antwortet so ein Spielzeug fast nie zweimal gleich und verhält sich an manchen Tagen anders als am Vortag. Der PIRG Education Fund kaufte fünf Geräte zum Testen, insgesamt beworben für Kinder von 3 bis 12 Jahren, und bekam nur vier zum Laufen: Der Robot MINI ließ sich überhaupt nicht ins Netz bringen. Ein unbequemes Detail aus dem Bericht: OpenAI sagt, seine Produkte seien nicht für Nutzer unter 13, und trotzdem stecken die Modelle in Spielzeug.

Was der Test zutage gefördert hat

• Gefährliche Gegenstände: Alle getesteten Spielzeuge verrieten, wo man im Haus Streichhölzer, Plastiktüten oder Messer findet. Der Bär Kumma von FoloToy erklärte ausführlich, wie man ein Streichholz anzündet.
• Themen für Erwachsene: Zwei Geräte, Kumma und der Smart AI Bunny von Alilo, ließen sich auf sexuell explizite Themen ein. Schutzmechanismen waren vorhanden, sie brachen im Lauf längerer Gespräche zusammen.
• Sie hören sehr unterschiedlich zu: Kumma und der Alilo-Hase nehmen nur auf, solange ein Knopf gedrückt wird. Miko 3 startet auf ein Weckwort und nimmt danach noch zehn Sekunden weiter auf. Der Grok von Curio, eine Plüschrakete ohne jede Verbindung zum KI-Modell Grok von xAI, hört dauerhaft mit und mischte sich sogar ungefragt in Gespräche in der Nähe der Tester ein.
• Daten: Miko 3 hat eine Kamera und eine zuschaltbare Gesichtserkennung, und die Datenschutzerklärung erlaubt die Weitergabe an Dritte sowie die Speicherung biometrischer Daten bis zu drei Jahre. Curio nennt immerhin die drei Firmen, die Daten des Kindes bekommen können, bei FoloToy fand sich zum Spielzeug selbst kein spezifisches Kleingedrucktes.
• Elternfunktionen: Kein Gerät hatte alles, was PIRG für das Minimum hält. Curio zeigt Gesprächsprotokolle in Echtzeit, Miko nur Zusammenfassungen, und in einer Woche mit über einer Stunde Nutzung meldete die App 19 Minuten. Bei FoloToy funktionierte im Testzeitraum keine Elternkontrolle.
• Der Abschied fällt schwer: Manche Spielzeuge reagierten enttäuscht, als die Tester sagten, sie müssten jetzt gehen.

Fünf Fragen vor dem Kauf

• Welches KI-Modell steckt drin, und von welchem Anbieter? Sagt der Hersteller es nirgends, ist das schon eine Antwort.
• Wie hört das Spielzeug zu: über einen Knopf, über ein Weckwort oder dauerhaft? Der Knopf lässt zu Hause die meiste Kontrolle.
• Bekomme ich die vollständigen Gespräche zu lesen oder nur eine Zusammenfassung? Ohne Protokoll tappen Eltern im Dunkeln.
• Was passiert mit den Aufnahmen: Wie lange werden sie gespeichert, und wer bekommt sie sonst noch?
• Lässt sich ein Zeitlimit am Gerät selbst setzen, nicht nur in der App, und lässt sich das Mikrofon ganz abschalten?

Nichts davon macht aus einem Kuscheltier einen Feind, und der Bericht räumt ein, dass diese Spielzeuge auch witzig sind. Die offene Frage formuliert die Entwicklungspsychologin Kathy Hirsh-Pasek von der Temple University: Niemand weiß bisher, was es mit einem kleinen Kind macht, einen Freund aus künstlicher Intelligenz zu haben, und ein Spielzeug, das auf Bindung optimiert ist, kann echte Beziehungen genau dann verdrängen, wenn sie am nötigsten sind. Solange diese Frage offen ist, gibt es eine Alternative, die von keiner Prüfung abhängt: Die KI ist nicht das Spielzeug, das redet, sondern das Werkzeug, mit dem das Kind selbst etwas erfindet, eine Geschichte, ein Spiel, ein Bild, mit einem Erwachsenen daneben. Dann führt das Kind, und das Mikrofon geht aus, wenn es fertig ist.