A União Europeia está a preparar uma mudança que poderá alterar profundamente a forma como identificamos conteúdos produzidos por inteligência artificial. As empresas responsáveis pelos principais modelos de IA terão de criar mecanismos que permitam perceber quando determinado texto, imagem ou ficheiro foi gerado artificialmente.

De acordo com O Globo, a nova obrigação decorre do AI Act europeu e envolve gigantes como OpenAI, Anthropic, Google, Microsoft, Meta e Mistral. A xAI, de Elon Musk, responsável pelo Grok, não surge entre as signatárias do código de transparência referido pelo jornal.

A Anthropic anunciou que os textos produzidos pelos novos modelos Claude passarão a incluir marcas de água incorporadas, enquanto os ficheiros poderão transportar metadados de proveniência assinados digitalmente — uma espécie de “ADN” capaz de indicar origem, formato e data de criação. A OpenAI refere igualmente uma abordagem que combina padrões, marcas de água e instrumentos de verificação.

Embora nascida da legislação europeia, a mudança deverá ter efeitos mundiais. O grande desafio será garantir que essas “impressões digitais” sobrevivem à cópia, edição ou transformação dos conteúdos, num momento em que distinguir o humano do artificial se tornou cada vez mais difícil.