Em um esforço para proteger os usuários jovens, o ChatGPT irá agora prever quantos anos você tem

À medida que a preocupação com o impacto da IA ​​sobre os jovens continua a aumentar, a OpenAI introduziu um recurso de “previsão de idade” no ChatGPT que foi projetado para ajudar a identificar menores e colocar restrições de conteúdo sensatas em suas conversas.

A OpenAI tem sido fortemente criticada nos últimos anos pelos impactos que o ChatGPT pode ter nas crianças. Uma série de suicídios de adolescentes foram vinculados ao chatbot e, como outros fornecedores de IA, o OpenAI também foi criticado por permitir que o ChatGPT discutisse temas sexuais com usuários jovens. Em abril passado, a empresa foi forçada a resolver um bug que permitia ao seu chatbot gerar conteúdo erótico para usuários menores de 18 anos.

A empresa já vem trabalhando no problema do usuário menor de idade há algum tempo, e seu novo recurso de “previsão de idade” apenas aumenta as proteções já em vigor. O novo recurso aproveita um algoritmo de IA que avalia as contas dos usuários em busca de “sinais comportamentais e de nível de conta” específicos, em um esforço para identificar usuários jovens, disse a OpenAI. em uma postagem de blog Terça-feira.

Esses “sinais” incluem coisas como a idade declarada do usuário, há quanto tempo uma conta existe e os horários do dia em que a conta normalmente está ativa, disse a empresa. A empresa já possui filtros de conteúdo projetados para eliminar discussões sobre sexo, violência e outros tópicos potencialmente problemáticos para usuários menores de 18 anos. Se o mecanismo de previsão de idade identificar uma conta como menor de 18 anos, esses filtros serão aplicados automaticamente.

Se um usuário for erroneamente designado como menor de idade, existe uma maneira de ele restabelecer sua conta “adulta”. Eles podem enviar uma selfie para o parceiro de verificação de identidade da OpenAI, Persona, diz a OpenAI.