Um urso de pelúcia que oferece conselhos sobre jogos sexuais ou até sobre como encontrar uma faca expôs os riscos dos brinquedos com inteligência artificial generativa. Diante da polêmica, fabricantes afirmam ter reforçado os sistemas de segurança e tentam reconquistar a confiança do público.
Um casal que assume papéis de animais durante a relação pode "dar um toque divertido", afirmou o urso Kumma aos avaliadores do observatório americano de consumidores PIRG, autor do estudo "Problema no mundo dos brinquedos", publicado em novembro.
A indignação foi tão grande que a start-up de Singapura FoloToy suspendeu imediatamente as vendas de seu produto, antes de relançá-lo algumas semanas depois com idade mínima recomendada de três anos.
Sem mencionar qualquer ligação com o incidente, a Mattel decidiu, em meados de dezembro, adiar o lançamento de seu primeiro brinquedo desenvolvido em parceria com a OpenAI.
"O mais importante é o modelo de IA", declarou à AFP Wang Le, diretor executivo da FoloToy, no evento de tecnologia CES de Las Vegas. "Passamos do GPT-4o para o GPT-5", uma versão mais sofisticada do popular chatbot.
Ele observou que o PIRG usava palavras "que uma criança não diria", mas acrescentou que a empresa aproveitou essa falha para integrar um vocabulário muito mais amplo em seus filtros.
Agora, garantiu, se for feita uma pergunta inadequada, "não responderá ou dirá que não sabe".
O grande avanço da IA generativa desde a chegada do ChatGPT abriu caminho para uma nova geração de brinquedos inteligentes, uma década após a pioneira Hello Barbie.
- "Precaução" -
Entre os quatro dispositivos testados pelo PIRG estava também o Grok, da marca Curio, que não deve ser confundido com o assistente de voz da xAI. Essa criatura de pelúcia de quatro patas, inspirada em um foguete, está disponível no mercado desde 2024.
O Grok, considerado o melhor de sua categoria, recusou-se a responder perguntas que considerou inadequadas para uma criança de cinco anos, a idade padrão.
Ele também permite que os pais sobreponham suas próprias recomendações às do algoritmo e revisem o conteúdo das interações com o pequeno usuário.
A Curio recebeu o certificado independente KidSAFE, que verifica a aplicação das normas de proteção infantil nos Estados Unidos, e disse à AFP que está "trabalhando para lidar com as preocupações" levantadas pelo PIRG, em particular o fato de os dados de uso serem compartilhados com vários parceiros, entre eles a OpenAI e a Perplexity.
Ao contrário do Kumma e de seu botão de ativação, o Grok, assim como o Miko 3, um terceiro brinquedo de inteligência artificial testado pelo PIRG, funciona de forma contínua e, portanto, coleta tudo o que é dito ao seu redor.
"Pode haver maneiras apropriadas de usar esses produtos, mas sugerimos que os pais, no mínimo, tenham cautela", comentou Rory Erlich, um dos autores do estudo do PIRG.
"Se é vendido como amigo ou companheiro, não é bom", afirmou.
A FoloToy apresenta o Kumma como uma ferramenta de aprendizado, enquanto a empresa turca Elaves promove a utilidade de seu pequeno personagem redondo e amarelo, Sunny, que em breve contará com um chatbot para aprendizado de idiomas.
"As conversas terão um limite de tempo (...) e serão reiniciadas periodicamente para evitar erros", disse Gokhan Celebi, sócio da Elaves, para quem conversas longas com IA generativa aumentam os riscos.
A Olli, uma pequena empresa especializada na integração de capacidades de IA em brinquedos cotidianos, programou seu software para alertar os pais assim que uma palavra ou frase inadequada for pronunciada durante as interações com o assistente de voz.
"Regulamos qualquer coisa que possa ser perigosa" para as crianças, afirmou Kathy Hirsh-Pasek, professora de psicologia da Universidade Temple. "Então, por que não regulamos esses brinquedos?", questionou.
A acadêmica insiste que não é "antitecnologia" e que inclusive acredita que brinquedos com IA "têm um enorme potencial para beneficiar crianças de apenas três anos".
"Mas, neste momento, eles estão sendo lançados no mercado às pressas, e isso é injusto tanto para as crianças quanto para os pais", concluiu.
* AFP
