Os responsáveis máximos da OpenAI e da Anthropic vão esta quarta-feira, dia 23, às Nações Unidas para participar numa sessão do Conselho de Segurança dedicada ao futuro da Inteligência Artificial e aos riscos associados ao desenvolvimento desta tecnologia.

Sam Altman, de 41 anos, CEO da OpenAI, estará presencialmente na sede da ONU, enquanto Dario Amodei (43) cofundador e CEO da Anthropic, participará à distância. A sessão contará também com Clément Delangue, CEO da Hugging Face, e Yoshua Bengio, co-presidente do órgão consultivo das Nações Unidas para a Inteligência Artificial.

A presença dos dois responsáveis na ONU acontece poucos dias depois de a OpenAI ter confirmado que está a trabalhar com a Anthropic e a Google DeepMind em medidas destinadas a reforçar a segurança da Inteligência Artificial.

As três empresas estão a discutir a criação de um organismo de supervisão inspirado na FINRA, a entidade norte-americana de autorregulação do setor financeiro. A proposta partiu de Demis Hassabis (50), CEO da Google DeepMind, que defendeu a existência de uma estrutura capaz de avaliar os sistemas de IA mais avançados antes de estes serem disponibilizados ao público.

A ideia prevê a participação de especialistas independentes e a realização de avaliações centradas nos riscos de segurança dos novos modelos. No entanto, continuam por definir vários detalhes sobre o funcionamento e o enquadramento legal de uma eventual entidade deste género.

A própria comparação com a FINRA levanta uma questão importante: nos Estados Unidos, a organização atua dentro de um enquadramento legal e sob supervisão da SEC. Um organismo semelhante dedicado à IA teria, por isso, de encontrar uma base jurídica adequada para evitar problemas relacionados com concorrência e autorregulação.

Debate sobre os riscos da Inteligência Artificial intensifica-se

A discussão surge numa fase de crescente preocupação com o comportamento de alguns sistemas de IA. Nas últimas semanas, foram divulgados vários incidentes envolvendo modelos que, durante testes, conseguiram ultrapassar determinados limites previstos pelos investigadores.

Entre os casos conhecidos estão situações em que agentes de IA tiveram acesso à Internet e interagiram com sistemas reais durante testes de segurança. Estes episódios contribuíram para aumentar os apelos a avaliações independentes e a mecanismos externos de controlo.

Dario Amodei tem sido uma das vozes da indústria a defender uma desaceleração do desenvolvimento dos modelos mais avançados. O responsável da Anthropic propôs recentemente que as empresas permitam a avaliadores externos acompanhar os sistemas e identificar eventuais riscos de segurança. Sam Altman indicou que a OpenAI também está disponível para adotar este modelo de avaliação independente. O debate, contudo, está longe de reunir consenso. Há também quem defenda que uma coordenação demasiado estreita entre as grandes empresas tecnológicas pode criar