A OpenAI apresentou, nesta terça-feira (18), uma nova versão de seu principal produto, o ChatGPT, desenvolvida exclusivamente para adolescentes, com mecanismos de proteção e supervisão mais rigorosos, após enfrentar críticas e processos judiciais relacionados à segurança de usuários menores de idade.
Batizadas de "ChatGPT for Teens" (ChatGPT para adolescentes), as configurações modificadas são aplicadas automaticamente a usuários identificados na faixa entre 13 e 17 anos.
A maioria das medidas de proteção utilizadas no ChatGPT para adolescentes já existia para contas de menores de idade, incluindo restrições a conteúdos relacionados à automutilação, violência, transtornos alimentares e sexualidade explícita.
O programa também oferece lembretes mais frequentes para fazer pausas, períodos de "horário de silêncio" e um Modo Estudo, que utiliza perguntas orientadoras em vez de simplesmente fornecer respostas, com o objetivo de "ajudar os adolescentes a compreender o conteúdo", segundo a OpenAI.
Outras restrições do ChatGPT para adolescentes buscam impedir que o chatbot sugira que tem sentimentos pessoais em relação ao usuário ou que possui consciência própria, e algumas funcionalidades, como o modo voz, estão desabilitadas.
Os pais têm a opção de vincular suas contas às dos filhos adolescentes e receber alertas caso sejam detectadas determinadas situações de alto risco. Esses alertas parentais são revisados por moderadores humanos, e detalhes específicos são removidos dos registros da conversa para proteger a privacidade.
O novo modo para adolescentes chega em meio a uma crescente pressão judicial e regulatória.
A OpenAI enfrenta processos relacionados à segurança de menores e ao impacto das interações com chatbots.
A Comissão Federal de Comércio dos Estados Unidos também aumentou o escrutínio sobre chatbots de inteligência artificial que funcionam como companheiros digitais e seus possíveis riscos para crianças e adolescentes.
Assim como as empresas de redes sociais, as grandes companhias de IA enfrentam uma pressão regulatória cada vez maior, com propostas para estabelecer regras específicas para chatbots e mecanismos adicionais de proteção a menores.
Outras empresas de inteligência artificial também receberam críticas por problemas relacionados ao uso de seus produtos por menores de idade. Algumas, como a Anthropic, optaram por restringir o uso de seu modelo a adultos.
* AFP
