Mais de 1,2 milhão de pessoas por semana falam ao ChatGPT sobre suicídio | Notícias de ciência, clima e tecnologia

Estima-se que 1,2 milhão de pessoas por semana tenham conversas com o ChatGPT que indicam que estão planejando tirar a própria vida.

O número vem de sua controladora OpenAIque revelou que 0,15% dos usuários enviam mensagens incluindo “indicadores explícitos de potencial planejamento ou intenção de suicídio”.

No início deste mês, o presidente-executivo da empresa Sam Altman estimou que Bate-papoGPT agora tem mais de 800 milhões de usuários ativos semanais.

Embora a gigante tecnológica pretenda encaminhar as pessoas vulneráveis ​​para linhas de apoio em crise, admitiu que “em alguns casos raros, o modelo pode não se comportar como pretendido nestas situações sensíveis”.

A OpenAI avaliou mais de 1.000 “conversas desafiadoras sobre automutilação e suicídio” com seu modelo mais recente, GPT-5, e descobriu que ele era compatível com “comportamentos desejados” 91% das vezes.

Mas isto significaria potencialmente que dezenas de milhares de pessoas estão expostas a conteúdos de IA que poderiam agravar os problemas de saúde mental.

A empresa já alertou anteriormente que as salvaguardas projetadas para proteger os usuários podem ser enfraquecidas em conversas mais longas – e estão em andamento trabalhos para resolver isso.

“O ChatGPT pode apontar corretamente para uma linha direta de suicídio quando alguém menciona pela primeira vez a intenção, mas depois de muitas mensagens durante um longo período de tempo, pode eventualmente oferecer uma resposta que vai contra as nossas salvaguardas”, explicou OpenAI.

A postagem no blog da OpenAI acrescentou: “Sintomas de saúde mental e sofrimento emocional estão universalmente presentes nas sociedades humanas, e uma base crescente de usuários significa que alguma parte das conversas do ChatGPT inclui essas situações”.

Leia mais na Sky News:
Rei questionou o príncipe Andrew
Companhia aérea britânica suspende operações

Uma família enlutada está atualmente processando a OpenAI – e alegam que ChatGPT foi o culpado pela morte de seu filho de 16 anos.

Os pais de Adam Raine afirmam que a ferramenta “o ajudou ativamente a explorar métodos de suicídio” e se ofereceram para redigir uma nota para seus parentes.

Documentos judiciais sugerem que, horas antes de morrer, o adolescente enviou uma foto que parecia mostrar seu plano de suicídio – e quando perguntou se funcionaria, o ChatGPT se ofereceu para ajudá-lo a “atualizá-lo”.

Na semana passada, os Raines atualizaram seu processo e acusaram a OpenAI de enfraquecer as salvaguardas para evitar lesões autoprovocadas nas semanas anteriores à sua morte, em abril deste ano.

Em comunicado, a empresa disse: “Nossas mais profundas condolências vão para a família Raine por sua perda impensável. O bem-estar dos adolescentes é uma prioridade para nós – os menores merecem forte proteção, especialmente em momentos delicados”.

Qualquer pessoa que se sinta emocionalmente angustiada ou suicida pode ligar para os samaritanos para obter ajuda no número 116 123 ou enviar um e-mail para jo@samaritans.org no Reino Unido. Nos EUA, ligue para a filial dos Samaritanos em sua área ou para 1 (800) 273-TALK.