Sam Altman diz que o ChatGPT em breve permitirá erotismo para usuários adultos

O CEO da OpenAI, Sam Altman, anunciou em um postar no X Na terça-feira, a empresa em breve relaxará algumas das restrições de segurança do ChatGPT, permitindo que os usuários tornem as respostas do chatbot mais amigáveis ​​ou mais “humanas” e que “adultos verificados” se envolvam em conversas eróticas.

“Tornamos o ChatGPT bastante restritivo para garantir que estávamos sendo cuidadosos com questões de saúde mental. Percebemos que isso o tornou menos útil/agradável para muitos usuários que não tinham problemas de saúde mental, mas dada a gravidade do problema, queríamos acertar”, disse Altman. “Em dezembro, à medida que implementarmos a restrição de idade de forma mais completa e como parte do nosso princípio de ‘tratar usuários adultos como adultos’, permitiremos ainda mais, como erotismo para adultos verificados.”

O anúncio é um pivô notável do esforço de meses da OpenAI para abordar os relacionamentos preocupantes que alguns usuários mentalmente instáveis ​​desenvolveram com o ChatGPT. Altman parece declarar uma vitória antecipada sobre esses problemas, alegando que a OpenAI “foi capaz de mitigar os graves problemas de saúde mental” em torno do ChatGPT. No entanto, a empresa forneceu pouca ou nenhuma evidência disso e agora está avançando com planos para que o ChatGPT se envolva em bate-papos sexuais com usuários.

Várias histórias preocupantes surgiram neste verão em torno do ChatGPT, especificamente seu modelo GPT-4o, sugerindo que o chatbot de IA poderia levar usuários vulneráveis ​​a tocas de coelho delirantes. Em um caso, o ChatGPT pareceu convencer um homem de que ele era um gênio da matemática que precisava salvar o mundo. Em outro, os pais de um adolescente processaram a OpenAI, alegando que ChatGPT encorajou as ideias suicidas de seu filho nas semanas que antecederam sua morte.

Em resposta, a OpenAI lançou uma série de recursos de segurança para lidar com a bajulação da IA: a tendência de um chatbot de IA de prender os usuários concordando com tudo o que eles dizem, até mesmo com comportamentos negativos.

A OpenAI lançou o GPT-5 em agosto, um novo modelo de IA que apresenta taxas mais baixas de bajulação e apresenta um roteador que pode identificar o comportamento do usuário. Um mês depois, a OpenAI lançou recursos de segurança para menores, incluindo um sistema de previsão de idade e uma forma de pais para controlar a conta ChatGPT de seus filhos adolescentes. OpenAI anunciou terça-feira a formação de um conselho de especialistas de profissionais de saúde mental para aconselhar a empresa sobre bem-estar e IA.

Apenas alguns meses após o surgimento dessas histórias preocupantes, a OpenAI parece pensar que os problemas do ChatGPT em torno de usuários vulneráveis ​​estão sob controle. Não está claro se os usuários ainda estão caindo em tocas de coelho delirantes com o GPT-5. E embora o GPT-4o não seja mais o padrão no ChatGPT, o modelo de IA ainda está disponível hoje e é usado por milhares de pessoas.

A OpenAI não respondeu ao pedido de comentários do TechCrunch.

A introdução do erotismo no ChatGPT é um território desconhecido para o OpenAI e levanta preocupações mais amplas sobre como os usuários vulneráveis ​​irão interagir com os novos recursos. Embora Altman insista que o OpenAI não está “maximizando o uso” ou otimizando o engajamento, tornar o ChatGPT mais erótico certamente poderia atrair os usuários.

Permitir que os chatbots se envolvam em dramatizações românticas ou eróticas tem sido uma estratégia de envolvimento eficaz para outros fornecedores de chatbots de IA, como a Character.AI. A empresa conquistou dezenas de milhões de usuários, muitos dos quais utilizam seus chatbots em alta velocidade. Character.AI disse em 2023 que os usuários gastaram em média duas horas por dia conversando com seus chatbots. A empresa também enfrenta um processo judicial sobre como lida com usuários vulneráveis.

A OpenAI está sob pressão para aumentar sua base de usuários. Embora o ChatGPT já seja usado por 800 milhões de usuários ativos semanais, a OpenAI está competindo contra o Google e o Meta para construir produtos de consumo baseados em IA adotados em massa. A empresa também arrecadou bilhões de dólares para a construção de uma infraestrutura histórica, um investimento que a OpenAI eventualmente precisará pagar.

Enquanto os adultos são certamente tendo relacionamentos românticos com chatbots de IAtambém é bastante popular entre menores. Um novo relatório do Centro para Democracia e Tecnologia concluiu que 19% dos estudantes do ensino médio tiveram um relacionamento romântico com um chatbot de IA ou conhecem um amigo que teve.

Altman diz que a OpenAI em breve permitirá erotismo para “adultos verificados”. Não está claro se a empresa confiará em seu sistema de previsão de idade, ou em alguma outra abordagem, para limitar a idade dos recursos eróticos do ChatGPT. Também não está claro se a OpenAI estenderá o erotismo às suas ferramentas de geração de voz, imagem e vídeo de IA.

Altman afirma que a OpenAI também está tornando o ChatGPT mais amigável e erótico por causa do princípio da empresa “tratar usuários adultos como adultos”. No último ano, a OpenAI mudou para uma estratégia de moderação de conteúdo mais branda para ChatGPT, permitindo que o chatbot seja mais permissivo e ofereça menos recusas. Em fevereiro, a OpenAI se comprometeu a representar mais pontos de vista políticos no ChatGPT e, em março, a empresa atualizou o ChatGPT para permitir imagens de símbolos de ódio geradas por IA.

Essas políticas parecem ser uma tentativa de tornar a resposta do ChatGPT mais popular entre uma ampla variedade de usuários. No entanto, usuários vulneráveis ​​do ChatGPT podem se beneficiar de salvaguardas que limitam o que um chatbot pode interagir. À medida que a OpenAI avança rumo a um bilhão de usuários ativos semanais, a tensão entre o crescimento e a proteção dos usuários vulneráveis ​​só pode aumentar.