A presidente da Anthropic, Daniela Amodei, de 39 anos, considera que recorrer à Inteligência Artificial (IA) para substituir uma relação amorosa é uma utilização preocupante desta tecnologia. Na sua opinião, esta tendência pode contribuir para um maior afastamento entre as pessoas, agravando problemas já associados às redes sociais.

Numa entrevista a Arianna Huffington, citada pelo Business Insider, a responsável defendeu que as relações românticas com assistentes de IA representam mais um passo na perda de ligação entre seres humanos: “Penso que [usar como parceiro romântico] é um uso terrível da Inteligência Artificial e que as pessoas não o devem fazer.”

A presidente da Anthropic deixou também um aviso a quem recorre ao Claude para obter apoio psicológico ou emocional. Segundo a responsável, um sistema de IA não pode substituir o papel de um terapeuta, de um parceiro ou de outras pessoas próximas.

“O Claude nunca poderá ser o teu gestor, o teu terapeuta ou parceiro”, afirmou, defendendo que estas relações humanas vão continuar a ter uma importância crescente.

As declarações surgem, no entanto, numa altura em que a própria Anthropic está a rever a forma como os utilizadores interagem com os seus modelos, incluindo a possibilidade de limitar comportamentos considerados abusivos.

A empresa atualizou recentemente as regras de utilização dos seus sistemas de Inteligência Artificial, passando a prever restrições para interações repetidamente abusivas ou cruéis dirigidas aos modelos que sustentam o Claude e o Claude Code.

De acordo com a política publicada pela Anthropic, a medida será aplicada apenas em situações extremas, quando os utilizadores mantêm esse comportamento sem um objetivo identificável. A empresa esclarece que a regra não abrange situações comuns de frustração, experiências criativas com conteúdos sombrios ou testes de segurança e investigação.

A atualização deverá entrar em vigor a 12 de novembro e prolonga uma medida já existente, que permite ao Claude interromper conversas com utilizadores que apresentem comportamentos abusivos.

Segundo a Anthropic, a possibilidade de o assistente terminar esse tipo de interação continuará a ser o principal mecanismo para aplicar a regra.