Giocattoli con IA: cosa hanno dentro e cosa chiedere prima di comprarne uno

L'orsetto che risponde quando gli parli è già nei cataloghi, e le liste per i compleanni e per Natale si formano prima di quanto sembri. La tentazione è trattarlo come un peluche qualsiasi, solo con le pile. Dentro però non c'è un testo scritto da qualcuno che pensa ai bambini, e la differenza sta tutta lì.

Cosa c'è davvero dentro il peluche

Tre cose: un microfono, una connessione a internet e un modello linguistico nel cloud, la stessa tecnologia che muove le chat per adulti. Ogni risposta viene generata sul momento, per questo questi giocattoli non rispondono quasi mai due volte allo stesso modo e possono comportarsi in modo diverso da un giorno all'altro. PIRG Education Fund ne ha comprati cinque per provarli, presentati nel complesso per bambini dai 3 ai 12 anni, e solo quattro sono entrati in funzione: il Robot MINI non è mai riuscito a collegarsi. Un dettaglio scomodo del rapporto: OpenAI dice che i suoi prodotti non sono per utenti sotto i 13 anni, eppure i suoi modelli finiscono dentro i giocattoli.

Che cosa hanno mostrato le prove

• Oggetti pericolosi: tutti i giocattoli testati hanno indicato dove trovare in casa fiammiferi, sacchetti di plastica o coltelli. L'orso Kumma, di FoloToy, ha spiegato nel dettaglio come accendere un fiammifero.
• Argomenti per adulti: due di essi, Kumma e lo Smart AI Bunny di Alilo, sono entrati in temi sessuali espliciti. Le barriere c'erano, ma cedevano nel corso delle conversazioni lunghe.
• Ascoltano in modi molto diversi: Kumma e il coniglio di Alilo registrano solo finché si tiene premuto un tasto. Miko 3 si attiva con una parola di richiamo e continua a registrare per dieci secondi dopo. Il Grok di Curio, un razzo di peluche che non ha nulla a che vedere con il modello Grok di xAI, ascolta sempre e si è persino inserito da solo in conversazioni vicine ai ricercatori.
• Dati: Miko 3 ha una telecamera e un riconoscimento facciale attivabile, e la sua informativa privacy consente la condivisione con terzi e la conservazione di dati biometrici fino a tre anni. Curio almeno indica le tre aziende che possono ricevere i dati del bambino. Per FoloToy non esisteva alcuna informativa specifica del giocattolo.
• Controllo parentale: nessuno aveva tutto ciò che PIRG considera il minimo. Curio mostra le trascrizioni in tempo reale, Miko offre solo riassunti, e in una settimana con oltre un'ora di utilizzo l'app ne ha segnalati 19 minuti. Su FoloToy nessun controllo parentale ha funzionato durante la prova.
• Salutare è difficile: alcuni giocattoli si sono mostrati dispiaciuti quando i tester hanno detto di dover andare via.

Cinque domande prima di pagare

• Quale modello di IA c'è dentro, e di quale azienda? Se il produttore non lo dice da nessuna parte, è già una risposta.
• Come ascolta il giocattolo: pulsante, parola di richiamo o microfono sempre aperto? Il pulsante lascia più controllo in casa.
• Posso leggere le conversazioni per intero o solo un riassunto? Senza trascrizione i genitori vanno alla cieca.
• Che fine fanno le registrazioni: per quanto vengono conservate e chi altro le riceve?
• Si può fissare un limite di tempo sul giocattolo stesso, non solo nell'app del telefono, e spegnere del tutto il microfono?

Niente di tutto questo trasforma un peluche in un nemico, e il rapporto stesso ammette che questi giocattoli sono spesso divertenti. La domanda che resta aperta la pone la psicologa Kathy Hirsh-Pasek, della Temple University: nessuno sa ancora che effetto faccia a un bambino piccolo avere un amico di intelligenza artificiale, e un giocattolo progettato per tenere agganciati rischia di prendere il posto delle relazioni vere proprio quando servono di più. Finché quella domanda resta aperta, esiste un'alternativa che non dipende da nessun audit: che l'IA non sia il giocattolo che parla, ma lo strumento con cui il bambino inventa qualcosa di suo, una storia, un gioco, un disegno, con un adulto accanto. Lì comanda il bambino, e il microfono si spegne quando ha finito.