Uma investigação internacional veio levantar preocupações sobre a fiabilidade dos sistemas de Inteligência Artificial, depois de revelar que chatbots como o ChatGPT, Gemini e os resumos automáticos da Google estão a ser manipulados para divulgar informação falsa ou enganadora.

Segundo a análise divulgada pela BBC, basta a publicação de um artigo online para influenciar as respostas dadas pelas ferramentas de IA sobre temas sensíveis como saúde, finanças ou consumo.

O estudo alerta que empresas e utilizadores mal-intencionados estão a explorar falhas destes sistemas para promover conteúdos falsos, melhorar reputações ou obter vantagens económicas, transformando os chatbots em veículos de desinformação à escala global.

A vulnerabilidade surge porque muitas plataformas de Inteligência Artificial recolhem informação diretamente de páginas na internet e publicações nas redes sociais, sem conseguirem distinguir totalmente conteúdos credíveis de informação manipulada.

Perante o problema, a Google atualizou recentemente as suas regras antisspam e passou a considerar a manipulação de respostas de IA uma violação das políticas da empresa. A gigante tecnológica admite agora penalizar ou remover sites que tentem influenciar artificialmente os resultados apresentados pelos sistemas de Inteligência Artificial.

Apesar disso, a BBC refere que os abusos continuam a acontecer e que os mecanismos de proteção ainda estão longe de ser totalmente eficazes.

Os especialistas avisam que o impacto vai muito além da internet, já que informação errada fornecida por sistemas de IA pode influenciar decisões financeiras, legais ou até relacionadas com a saúde pública.