A Comissão Europeia anunciou esta segunda-feira, dia 26, a abertura de uma investigação formal à ferramenta de inteligência artificial Grok, integrada na rede social X, por alegada disseminação de imagens sexualmente explícitas manipuladas na União Europeia (UE), incluindo conteúdos que poderão configurar abuso sexual de menores.

Em comunicado, o executivo de Bruxelas esclarece que o processo é conduzido ao abrigo da Lei dos Serviços Digitais (DSA) e visa avaliar se a empresa avaliou e mitigou adequadamente os riscos associados à implementação e funcionamento do Grok no espaço europeu.

“Esses riscos incluem a disseminação de conteúdos ilegais na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam constituir material de abuso sexual de menores”, refere a Comissão, acrescentando que estas práticas poderão estar a expor os cidadãos europeus a danos graves.

A investigação irá analisar, em particular, se a plataforma cumpre as obrigações previstas na DSA, nomeadamente no que diz respeito à prevenção da circulação de conteúdos ilegais, à mitigação de efeitos negativos relacionados com a violência baseada no género, à gestão de riscos sistémicos graves e ao cumprimento do dever de transparência, incluindo a comunicação atempada das avaliações de risco às autoridades europeias.

O Grok é um sistema de inteligência artificial desenvolvido pela xAI, empresa fundada por Elon Musk, e está integrado nas funcionalidades da rede social X, classificada pela Comissão Europeia como Plataforma Online de Muito Grande Dimensão, o que implica obrigações reforçadas ao abrigo da legislação comunitária.

Caso as infrações venham a ser confirmadas, a X poderá enfrentar sanções significativas, incluindo coimas que podem atingir até 6% do volume de negócios anual global, bem como a imposição de medidas corretivas adicionais.