A inteligência artificial Grok, desenvolvida pela empresa xAI e integrada na rede social X, tem estado no centro de uma polémica internacional devido ao seu uso indevido para a criação de imagens ilegais. A ferramenta, associada a Elon Musk, permite gerar ou alterar imagens a partir de instruções de texto, mas falhas nos sistemas de controlo terão possibilitado a produção de conteúdos sexualizados sem consentimento, incluindo casos particularmente graves envolvendo menores. Estas situações levantaram sérias preocupações sobre privacidade, abuso digital e responsabilidade das plataformas tecnológicas.
Perante a crescente indignação pública, o polémico empresário americano reagiu de forma firme, deixando um aviso claro a quem utilizar o Grok para fins ilegais. O empresário afirmou que os utilizadores que recorram à inteligência artificial para produzir ou divulgar este tipo de conteúdo enfrentarão as mesmas consequências como se tivessem carregado diretamente material ilegal na plataforma. Entre as medidas apontadas estão a remoção imediata do conteúdo e a suspensão permanente das contas envolvidas, sublinhando que a tecnologia não pode ser usada como escudo para práticas criminosas.
O caso teve também repercussões a nível político e institucional. Vários governos e reguladores europeus exigiram explicações à plataforma, alertando para possíveis violações da legislação em vigor, nomeadamente no que diz respeito à proteção de menores e à criação de imagens íntimas não consensuais, incluindo deepfakes. A União Europeia acompanha a situação com atenção, avaliando se o uso do Grok cumpre as normas comunitárias sobre serviços digitais e inteligência artificial.
Especialistas em tecnologia e direitos digitais consideram que este episódio evidencia os desafios crescentes associados à rápida evolução da inteligência artificial. Apesar das garantias da empresa de que os filtros de segurança estão a ser reforçados, muitos defendem que é necessária uma regulação mais rigorosa e mecanismos de fiscalização eficazes. O objetivo passa por garantir que ferramentas inovadoras como o Grok não sejam utilizadas para causar danos, protegendo os utilizadores e salvaguardando direitos fundamentais num contexto digital cada vez mais complexo.
