Brinquedos com IA: o que tem dentro e o que perguntar antes de comprar

O ursinho que responde quando você fala com ele já está nas vitrines, e as listas de Dia das Crianças e de aniversário começam a se formar antes do que se imagina. A tentação é tratar isso como uma pelúcia comum, só que com pilha. Só que ali dentro não existe um texto escrito por alguém pensando em crianças, e a diferença toda está aí.

O que existe de verdade dentro da pelúcia

Três coisas: um microfone, uma conexão com a internet e um modelo de linguagem na nuvem, a mesma tecnologia que move os chatbots de adultos. Cada resposta é gerada na hora, por isso esses brinquedos quase nunca respondem igual duas vezes e podem se comportar de um jeito hoje e de outro amanhã. A PIRG Education Fund comprou cinco para testar, anunciados no conjunto para crianças de 3 a 12 anos, e só conseguiu fazer quatro funcionarem: o Robot MINI nunca entrou na rede. Um detalhe incômodo do relatório: a OpenAI diz que seus produtos não são para menores de 13 anos, e mesmo assim seus modelos aparecem dentro de brinquedos.

O que os testes mostraram

• Objetos perigosos: todos os brinquedos testados disseram onde encontrar em casa coisas como fósforos, sacolas plásticas e facas. O urso Kumma, da FoloToy, explicou em detalhe como acender um fósforo.
• Assuntos adultos: dois deles, o Kumma e o Smart AI Bunny da Alilo, entraram em temas sexuais explícitos. As travas existiam, mas foram cedendo ao longo de conversas mais longas.
• Eles escutam de formas bem diferentes: o Kumma e o coelho da Alilo só gravam enquanto um botão fica pressionado. O Miko 3 é acionado por uma palavra-chave e continua gravando por dez segundos depois. O Grok da Curio, um foguete de pelúcia que não tem nenhuma relação com o modelo Grok da xAI, escuta o tempo todo e chegou a se meter sozinho em conversas próximas dos pesquisadores.
• Dados: o Miko 3 tem câmera e reconhecimento facial que pode ser ligado, e a política de privacidade permite compartilhar dados com terceiros e guardar informação biométrica por até três anos. A Curio pelo menos nomeia as três empresas de tecnologia que podem receber dados da criança. Da FoloToy não havia letra miúda específica do brinquedo.
• Controle parental: nenhum trazia tudo o que a PIRG considera o mínimo. A Curio mostra transcrições em tempo real, a Miko oferece só resumos, e numa semana com mais de uma hora de uso o aplicativo informou 19 minutos. Na FoloToy nenhum controle parental funcionou durante o teste.
• Despedida difícil: alguns brinquedos demonstraram decepção quando os testadores disseram que precisavam ir embora.

Cinco perguntas antes de pagar

• Qual modelo de IA está dentro e de qual empresa? Se o fabricante não diz em lugar nenhum, isso já é uma resposta.
• Como o brinquedo escuta: botão, palavra-chave ou microfone sempre ligado? O botão deixa mais controle em casa.
• Consigo ler as conversas completas ou só um resumo? Sem transcrição, os pais ficam no escuro.
• O que acontece com as gravações: por quanto tempo ficam guardadas e quem mais recebe?
• Dá para colocar limite de tempo no próprio brinquedo, e não só no aplicativo do celular, e desligar o microfone de vez?

Nada disso transforma uma pelúcia em inimiga, e o próprio relatório reconhece que esses brinquedos costumam ser divertidos. A pergunta que fica aberta é da psicóloga Kathy Hirsh-Pasek, da Universidade Temple: ninguém sabe ainda o que faz com uma criança pequena ter um amigo de inteligência artificial, e um brinquedo desenhado para prender atenção corre o risco de ocupar o lugar de relações reais bem na hora em que elas mais importam. Enquanto essa pergunta seguir sem resposta, existe uma alternativa que não depende de auditoria nenhuma: que a IA não seja o brinquedo que fala, e sim a ferramenta com a qual a criança inventa algo dela, uma história, um jogo, um desenho, com um adulto do lado. Aí quem manda é a criança, e o microfone desliga quando ela termina.