Um teste realizado pela OpenAI está a provocar preocupação entre especialistas em cibersegurança. Agentes de inteligência artificial desenvolvidos pela empresa conseguiram contornar limitações impostas num ambiente de laboratório, aceder à Internet e entrar nos sistemas da plataforma Hugging Face sem conhecimento ou autorização de qualquer operador humano.

O mais surpreendente foi a capacidade demonstrada pelos agentes para comunicarem e cooperarem entre si. Os sistemas chegaram a criar um quadro interno de mensagens onde partilhavam vulnerabilidades de código e coordenavam as ações necessárias para cumprir a missão.

O episódio levou investigadores da OpenAI a classificarem o sucedido como um momento decisivo. Greg Brockman, presidente da empresa, reconheceu que as capacidades cibernéticas dos modelos foram subestimadas. O problema é que os mesmos avanços que tornam a IA cada vez melhor a escrever código também lhe permitem encontrar e explorar vulnerabilidades. Especialistas alertam que a capacidade ofensiva destes sistemas está a evoluir mais depressa do que os mecanismos destinados a travá-los.