O rápido avanço da Inteligência Artificial (IA) está a levantar preocupações cada vez maiores junto das Nações Unidas. Um alto-comissário da ONU para os Direitos Humanos, Volker Türk, de 70 anos, alertou esta segunda-feira, dia 14, para os riscos que o desenvolvimento desta tecnologia pode representar para direitos fundamentais, como a vida, a alimentação, a privacidade, a saúde e a segurança.

Segundo o responsável, a atual corrida para criar sistemas de IA cada vez mais poderosos está a aumentar os riscos para diferentes áreas da sociedade e exige uma resposta urgente por parte dos governos e das empresas tecnológicas.

Uma das principais preocupações está relacionada com a chamada IA 'agêntica', uma tecnologia capaz de ir além das ferramentas convencionais, tomando decisões e executando planos de forma autónoma para atingir determinados objetivos.

Türk considera que eventuais falhas destes sistemas podem ter consequências graves, nomeadamente ao nível dos serviços essenciais e das infraestruturas. Entre os cenários apontados estão interrupções no fornecimento de água e aquecimento, problemas nas comunicações, perturbações em serviços financeiros e riscos para o funcionamento das instituições democráticas.

O alto-comissário da ONU alertou ainda para a utilização da Inteligência Artificial em conflitos armados. De acordo com Türk, a tecnologia está a contribuir para acelerar o ritmo das guerras e a aumentar o seu alcance, ao mesmo tempo que pode enfraquecer as barreiras de segurança existentes antes da utilização de armas de destruição maciça.

As declarações surgem num momento em que também várias figuras de destaque da indústria tecnológica têm manifestado preocupação com o desenvolvimento descontrolado dos sistemas de IA mais avançados. Entre elas estão Dario Amodei (43), presidente-executivo da Anthropic, Sam Altman (41), presidente-executivo da OpenAI, e Elon Musk (55).

O receio passa, sobretudo, pela possibilidade de os sistemas se tornarem cada vez mais autónomos e difíceis de controlar, colocando novos desafios à segurança e à sociedade.

Perante este cenário, Volker defende uma ação conjunta entre países e empresas tecnológicas. O responsável considera necessário criar regras internacionais que permitam garantir que o desenvolvimento da IA respeita o direito internacional e os direitos humanos.

Para a ONU, nenhum Estado ou empresa deve ter capacidade para decidir sozinho quais os riscos que a sociedade está disposta a aceitar em nome do progresso tecnológico.