Durante décadas, o fim da humanidade às mãos das máquinas pertenceu ao território da ficção científica. Hoje, porém, o debate instalou-se dentro dos próprios laboratórios que desenvolvem os sistemas mais avançados. Como relata o jornal espanhol El Mundo, investigadores ligados à Anthropic admitem que uma inteligência artificial suficientemente poderosa poderá representar um risco existencial para a humanidade.
O cenário não pressupõe exércitos de robôs a perseguirem seres humanos. O perigo poderá surgir de forma muito menos cinematográfica: uma IA com grande autonomia, acesso a redes informáticas e capacidade para planear ações complexas poderia ajudar a desenvolver agentes biológicos, lançar ciberataques contra infraestruturas críticas, manipular mercados, interferir em sistemas militares ou produzir campanhas de desinformação praticamente impossíveis de detetar.
O alerta ganhou força depois de Jacob Coxon, antigo investigador da OpenAI e da Anthropic, abandonar esta última empresa, acusando os grandes laboratórios de avançarem demasiado depressa sem saberem como controlar as tecnologias que estão a criar. Evan Hubinger, responsável pela área de alinhamento da Anthropic, foi ainda mais longe: estima em mais de 10% a possibilidade de uma IA provocar a extinção humana durante a próxima década.
No centro do problema está o chamado “alinhamento”: como garantir que uma máquina extremamente inteligente interpreta e cumpre os objetivos humanos sem encontrar atalhos inesperados ou perigosos? Uma IA não precisaria de odiar a humanidade. Bastaria que perseguisse uma determinada missão com uma eficácia absoluta, considerando as pessoas um obstáculo secundário.
Existe ainda o receio de uma “explosão de inteligência”. Se um sistema aprender a melhorar o seu próprio código, poderá criar sucessivas versões de si mesmo, cada vez mais capazes, a uma velocidade que ultrapasse a supervisão humana. Quando os responsáveis percebessem que tinham perdido o controlo, talvez já não dispusessem dos meios necessários para desligá-lo.
Os críticos destas previsões consideram-nas especulativas e acusam a indústria de alimentar cenários apocalípticos enquanto desvia atenções de problemas presentes: destruição de empregos, discriminação algorítmica, vigilância, concentração de poder e desinformação. Mas esta objeção não elimina a questão central.
A verdadeira ameaça talvez não seja uma máquina subitamente consciente e assassina. Poderá ser uma tecnologia extraordinariamente competente, colocada ao serviço de interesses económicos, militares ou políticos antes de existirem regras capazes de a conter. O apocalipse da inteligência artificial, se algum dia chegar, poderá não resultar de uma rebelião das máquinas, mas da imprudência dos homens que disputam o direito de construí-las primeiro.
