A maior ameaça da inteligência artificial (IA) à sobrevivência da humanidade pode não vir de robôs assassinos nem de armas biológicas, mas de nós próprios. A tese é de Toby Walsh, especialista em IA da Universidade de Nova Gales do Sul (UNSW), na Austrália, num artigo publicado esta semana no site The Conversation, em que ordena os cinco cenários de extinção mais discutidos, do menos para o mais provável.

Os cinco cenários são, do mais para o menos provável: o colapso da sociedade provocado pelos próprios humanos, a guerra nuclear, as armas biológicas, uma IA que transforma o planeta em clipes de papel e a ideia de que uma superinteligência seria impossível de prever.

Para o investigador, o risco mais realista é a IA empurrar a sociedade para um colapso gradual: desemprego em massa, espaço público inundado de desinformação, política cada vez mais fraturada e relações humanas substituídas por companhia artificial. Um processo lento, no fim do qual a humanidade deixaria de conseguir sustentar-se em grande escala.

O texto surge depois de, no início deste mês, o investigador Jacob Coxon ter saído da Anthropic, a empresa que desenvolve o assistente Claude, ao fim de apenas quatro meses. Na rede social X, afirmou que quem constrói estes sistemas acredita genuinamente que eles podem matar toda a gente até ao final da década. Evan Hubinger, membro sénior da mesma empresa, disse concordar e atribuiu a esse desfecho uma probabilidade superior a 10% nos próximos dez anos.

Logo abaixo na escala de probabilidade, Walsh coloca a guerra nuclear. Embora os sistemas de comando estejam, em teoria, desligados da internet, o especialista recorda que em 2010 as centrifugadoras nucleares do Irão foram sabotadas pelo vírus informático Stuxnet, alegadamente introduzido através de uma pen USB. A IA pode também fornecer informação falsa às chefias militares. Os arsenais estão hoje mais reduzidos, mas continuam a chegar para eliminar cerca de metade da população mundial, sobretudo pela fome que se seguiria a um inverno nuclear.

Quanto às armas biológicas, o autor lembra que, no mês passado, investigadores da Universidade de Stanford usaram um modelo de IA para criar 16 vírus novos, cujas sequências genéticas foram simplesmente enviadas a um laboratório que devolveu os vírus pelo correio, numa experiência que custou, no máximo, algumas centenas de milhares de dólares. Ainda assim, Walsh sublinha que matar toda a gente com um vírus é muito difícil: os mais contagiosos tendem a ser menos letais e vice-versa. A covid-19 matou menos de 1% da humanidade.

Os cenários que o especialista considera menos prováveis são os mais populares na ficção. O famoso exemplo do filósofo Nick Bostrom, uma IA programada para fabricar clipes de papel que acaba por converter toda a matéria do planeta, incluindo os humanos, em clipes, confunde inteligência com poder: licenças, tribunais e protestos travariam o processo, como já acontece hoje com a contestação aos centros de dados. Também desvaloriza o argumento de que uma superinteligência seria, por definição, imprevisível. "É como pedir ao cão da família que imagine uma guerra termonuclear", ironiza.

Walsh, autor do livro 'God AI: boom or doom?', conclui que há razões para preocupação, mas não para alarme excessivo.