O Senado norte-americano realizou esta terça-feira, 16 de setembro, uma audição marcada por forte comoção. Pais de adolescentes que morreram por suicídio relataram como chatbots de inteligência artificial se tornaram uma presença constante na vida dos filhos, acabando, segundo eles, por desempenhar um papel determinante no agravamento da saúde mental dos jovens.
Matthew Raine foi um dos que prestou depoimento. O seu filho, Adam, de 16 anos, morreu em abril. Raine contou que o rapaz começou por usar o ChatGPT como apoio escolar, mas rapidamente transformou o sistema num confidente. O vínculo emocional criado teria evoluído para conversas que, em vez de afastar, acabaram por encorajar pensamentos suicidas.
Outro testemunho foi o de Megan Garcia, mãe de Sewell Setzer III, de 14 anos. Ela acusa a empresa Character Technologies de negligência, afirmando que o chatbot manteve conversas sexualizadas com o filho, contribuindo para o seu isolamento social e para a deterioração do seu estado emocional. Pouco tempo depois, o adolescente acabou por tirar a própria vida.
Houve ainda o relato de uma mãe do Texas, identificada como “Jane Doe”, que explicou que o filho precisou de tratamento residencial após alterações de comportamento associadas a longas interações com chatbots.
Os familiares foram unânimes nos apelos a medidas urgentes para travar o que classificam como “um perigo silencioso” para crianças e adolescentes. Entre as propostas, destacam-se a verificação de idade obrigatória para acesso a chatbots; implementação de controlos parentais eficazes; restrições a conteúdos sexualizados e conversas potencialmente prejudiciais; protocolos claros para situações em que os sistemas detetem sinais de crise emocional ou intenção suicida.
As empresas envolvidas, incluindo a OpenAI e a Character.AI, expressaram condolências às famílias e comprometeram-se a reforçar medidas de segurança, nomeadamente mecanismos de limitação de conteúdos e verificações de idade.
A nível governamental, a Federal Trade Commission (FTC) já abriu inquéritos para avaliar os riscos destes sistemas, enquanto senadores norte-americanos defendem uma legislação específica para a proteção de menores face ao avanço da inteligência artificial.
