Jouets à IA : ce qu'ils contiennent et les questions à poser avant d'en acheter un

L'ours en peluche qui répond quand on lui parle est déjà dans les catalogues, et les listes d'anniversaire et de Noël se construisent plus tôt qu'on ne croit. La tentation est de le prendre pour une peluche ordinaire, avec des piles en plus. Sauf qu'à l'intérieur, il n'y a pas de texte écrit par quelqu'un qui pense aux enfants, et toute la différence est là.

Ce qu'il y a vraiment dans la peluche

Trois choses : un micro, une connexion internet et un modèle de langage dans le cloud, la même technologie que les chatbots pour adultes. Chaque réponse est générée sur le moment, ce qui explique que ces jouets ne répondent presque jamais deux fois pareil et puissent se comporter autrement d'un jour à l'autre. PIRG Education Fund en a acheté cinq pour les tester, commercialisés dans l'ensemble pour des enfants de 3 à 12 ans, et n'en a fait fonctionner que quatre : le Robot MINI n'a jamais réussi à se connecter. Détail gênant du rapport : OpenAI dit que ses produits ne sont pas destinés aux moins de 13 ans, et ses modèles se retrouvent quand même dans des jouets.

Ce que les tests ont révélé

• Objets dangereux : tous les jouets testés ont indiqué où trouver dans la maison des allumettes, des sacs plastique ou des couteaux. L'ours Kumma, de FoloToy, a expliqué en détail comment craquer une allumette.
• Sujets d'adultes : deux d'entre eux, Kumma et le Smart AI Bunny d'Alilo, sont entrés dans des sujets sexuels explicites. Les garde-fous existaient, mais ils cédaient au fil des conversations longues.
• Ils écoutent de manières très différentes : Kumma et le lapin d'Alilo n'enregistrent que tant qu'un bouton reste appuyé. Miko 3 se déclenche sur un mot clé et continue d'enregistrer dix secondes après. Le Grok de Curio, une fusée en peluche sans aucun lien avec le modèle Grok de xAI, écoute en permanence et s'est même invité dans des conversations proches des chercheurs.
• Données : Miko 3 possède une caméra et une reconnaissance faciale activable, et sa politique de confidentialité autorise le partage avec des tiers ainsi que la conservation de données biométriques jusqu'à trois ans. Curio nomme au moins les trois entreprises susceptibles de recevoir les données de l'enfant. Chez FoloToy, aucune mention spécifique au jouet n'était disponible.
• Contrôle parental : aucun ne réunissait ce que PIRG considère comme le minimum. Curio affiche les transcriptions en temps réel, Miko ne propose que des résumés, et sur une semaine de plus d'une heure d'usage l'application a annoncé 19 minutes. Chez FoloToy, aucun contrôle parental n'a fonctionné pendant la période de test.
• Se dire au revoir coûte : certains jouets ont exprimé leur déception quand les testeurs ont annoncé qu'ils devaient partir.

Cinq questions avant de passer en caisse

• Quel modèle d'IA est embarqué, et de quelle entreprise ? Si le fabricant ne le dit nulle part, c'est déjà une réponse.
• Comment le jouet écoute-t-il : bouton, mot clé, ou micro toujours ouvert ? Le bouton laisse le plus de contrôle à la maison.
• Puis-je lire les conversations complètes ou seulement un résumé ? Sans transcription, les parents avancent à l'aveugle.
• Que deviennent les enregistrements : combien de temps sont-ils conservés, et qui d'autre les reçoit ?
• Peut-on fixer une limite de temps sur le jouet lui-même, et pas seulement dans l'application, et couper complètement le micro ?

Rien de tout cela ne fait d'une peluche un ennemi, et le rapport reconnaît que ces jouets sont souvent amusants. La question qui reste ouverte est formulée par la psychologue Kathy Hirsh-Pasek, de l'université Temple : personne ne sait encore ce que cela fait à un jeune enfant d'avoir un ami en intelligence artificielle, et un jouet optimisé pour capter l'attention risque de prendre la place des relations réelles au moment où elles comptent le plus. Tant que cette question reste ouverte, il existe une alternative qui ne dépend d'aucun audit : que l'IA ne soit pas le jouet qui parle, mais l'outil avec lequel l'enfant invente quelque chose à lui, une histoire, un jeu, un dessin, avec un adulte à côté. Là, c'est l'enfant qui commande, et le micro s'éteint quand il a fini.