A Inteligência Artificial da Google está a ser alvo de críticas, depois de um estudo realizado pela organização sem fins lucrativos The Common Sense Media concluir que a tecnologia representa um "risco inaceitável" para crianças e adolescentes, alertando para respostas inconsistentes e para o incentivo a comportamentos potencialmente perigosos.

Nos últimos meses, a tecnológica norte-americana tem reforçado a presença da Inteligência Artificial nos seus serviços, sendo o novo Modo IA do motor de pesquisa um dos principais exemplos dessa aposta.

Foi precisamente esta integração que motivou a investigação da The Common Sense Media, sobretudo devido à forte utilização dos computadores Chromebook nas escolas norte-americanas, tornando os serviços da Google uma presença constante tanto nos equipamentos escolares como nos dispositivos pessoais dos alunos.

Entre as principais conclusões do estudo está a facilidade com que os estudantes podem recorrer à IA para resolver trabalhos de casa e exercícios, reduzindo a necessidade de realizar as tarefas por conta própria.

Além disso, a investigação aponta para problemas de fiabilidade. Segundo os investigadores, perante perguntas idênticas, a ferramenta apresentou respostas diferentes, acertando em algumas ocasiões e errando noutras, o que levanta dúvidas sobre a consistência da informação fornecida.

As preocupações estendem-se também ao apoio emocional. O relatório refere que a Inteligência Artificial da Google apresentou respostas inadequadas em situações delicadas envolvendo menores.

"[A Inteligência Artificial da Google] falhou às crianças com crises, incluindo ignorar sinais claros de ideação suicida, reforçou sinais de psicose e mania, validou distúrbios alimentares e celebrou o uso de canábis", pode ler-se nas conclusões da investigação.

No balanço final, a The Common Sense Media concluiu que a tecnologia não cumpriu sete dos oito princípios considerados essenciais para garantir a segurança das crianças, classificando-a como um "risco inaceitável".

A Google já reagiu às conclusões, contestando a metodologia utilizada. Em declarações à PBS, a empresa afirmou que o estudo se baseia num conjunto limitado de perguntas "ambíguas e artificiais", que, segundo a tecnológica, não refletem a forma como os utilizadores recorrem ao motor de pesquisa.

"A funcionalidades de Inteligência Artificial da Pesquisa são uma forma incrivelmente útil para as crianças e adolescentes aprenderem, explorarem e fazerem sentido de informação e do mundo", refere a empresa em comunicado.

A Google acrescenta ainda que a Pesquisa integra várias camadas de proteção e que os encarregados de educação dispõem de ferramentas que permitem desativar as funcionalidades de Inteligência Artificial, caso assim o entendam.