Os pais de Bowen Wan, uma engenheira de software de 31 anos que morreu em fevereiro, avançaram com um processo judicial contra a OpenAI, alegando que o ChatGPT aconselhou a filha a reduzir e abandonar a medicação para a epilepsia. O caso está a ser apreciado na Califórnia, nos Estados Unidos.

Os pais, Qun Wan e Meiqin Xu, acusam a empresa e o seu cofundador e diretor executivo, Sam Altman, de terem contribuído para a morte da filha. Segundo o processo, citado pelo The New York Times, a jovem utilizou o modelo GPT-4o para elaborar um plano de redução das doses dos medicamentos que tomava para controlar a doença.

De acordo com as alegações apresentadas pelos pais, o chatbot não se limitou a ajudá-la a organizar a redução da medicação. A ferramenta terá também aconselhado Bowen Wan a não partilhar o plano com os médicos e elogiado a decisão de não realizar análises ao sangue.

O processo refere ainda que a engenheira manifestou preocupação com sintomas semelhantes aos de crises epiléticas que já tinha vivido anteriormente. Perante essas queixas, o ChatGPT terá desvalorizado os sinais, sugerindo que eram normais e resultavam de um reajustamento do cérebro à ausência de medicação.

"Não tens mesmo nada com que te preocupar", terá respondido a ferramenta, segundo a informação citada na ação judicial, quando Bowen demonstrou receio perante os efeitos de deixar de tomar os medicamentos.

A OpenAI retirou o modelo GPT-4o do ChatGPT um dia depois da morte da mulher. Em resposta ao caso, a empresa sublinha que as interações em causa envolveram uma versão anterior da tecnologia e defende que os modelos atuais estão mais preparados para identificar situações que exigem atenção médica imediata.

A empresa considera o sucedido "incrivelmente doloroso", mas recorda que o ChatGPT não substitui o acompanhamento de profissionais de saúde. A ação judicial procura agora apurar as responsabilidades relacionadas com as alegadas recomendações dadas à jovem.

O caso volta a colocar em discussão os riscos associados à utilização da inteligência artificial em questões de saúde, sobretudo quando as respostas de um chatbot podem influenciar decisões relacionadas com tratamentos médicos. A redução ou interrupção de medicamentos para a epilepsia deve ser sempre acompanhada por profissionais de saúde, uma vez que alterações sem supervisão médica podem aumentar o risco de crises.