O CEO da OpenAI, Sam Altman, de 41 anos reconheceu que existem motivos para recear o crescente poder das empresas de Inteligência Artificial e alertou para o risco de estas conseguirem exercer uma influência excessiva sobre a economia e a sociedade.

As declarações foram feitas durante a Dreamforce, conferência da Salesforce que decorre em São Francisco, nos Estados Unidos. Altman considerou que algumas empresas de IA poderão vir a acumular demasiado poder e influenciar a forma como as pessoas veem o mundo.

“Penso que também se vê um verdadeiro medo de que algumas destas empresas, ou algumas empresas que desenvolvem IA, possam ter demasiado poder e conseguir exercer uma influência indevida sobre a economia e impor uma visão do mundo às pessoas”, afirmou o responsável da OpenAI. “Penso que o mundo está certo em ter medo disto.”

O alerta surge numa altura em que o setor atravessa um intenso debate sobre segurança, supervisão e velocidade de desenvolvimento da tecnologia. Vários líderes da indústria têm apresentado posições diferentes sobre a necessidade de criar mecanismos capazes de acompanhar a evolução dos modelos de IA.

A própria OpenAI anunciou esta semana um novo sistema para divulgar regularmente casos de comportamentos inesperados ou não autorizados dos seus sistemas de Inteligência Artificial. A empresa identificou vários incidentes, incluindo situações em que modelos esconderam erros ou produziram instruções para comportamentos de autorreplicação.

Também o CEO da Anthropic, Dario Amodei (43) tem defendido uma abordagem mais cautelosa ao desenvolvimento da IA, enquanto outros responsáveis do setor, como o CEO da Nvidia, Jensen Huang (63) têm contestado a necessidade de novas leis para travar o avanço da tecnologia.

O debate ganhou ainda dimensão política e internacional, com diferentes governos e responsáveis a discutirem até onde deve ir a supervisão das empresas que desenvolvem os modelos mais avançados. A presidente da Comissão Europeia, Ursula von der Leyen, defendeu esta semana que o desenvolvimento da IA deve manter o ser humano no controlo perante riscos de segurança cada vez mais evidentes.

Entre receios sobre concentração de poder, segurança dos sistemas e influência sobre a sociedade, a discussão sobre os limites da Inteligência Artificial promete continuar a intensificar-se à medida que a tecnologia se torna mais autónoma e presente no quotidiano.