Meta apresenta novos controles parentais para suas experiências de IA

Meta na sexta-feira apresentou uma prévia de seus próximos recursos de controle parental para conversas de adolescentes com personagens de IA em suas plataformas. Os recursos, que serão lançados no próximo ano, incluem a capacidade de bloquear determinados personagens e monitorar tópicos de conversa.

A partir dos próximos meses, os pais poderão desativar totalmente os bate-papos com personagens de IA para adolescentes. Esta ação não bloqueará o acesso ao chatbot Meta AI – o chatbot de IA de uso geral da empresa – que discutirá apenas conteúdo apropriado para a idade.

Os pais também poderão desligar os bate-papos com personagens individuais se preferirem um controle mais seletivo. Além disso, eles receberão informações sobre os tópicos que os adolescentes estão discutindo com personagens de IA e Meta AI.

A empresa disse que planeja implementar esses controles no Instagram no início do próximo ano. Eles estarão disponíveis em inglês nos EUA, Reino Unido, Canadá e Austrália.

“Reconhecemos que os pais já têm muito que fazer quando se trata de navegar na Internet com segurança com seus filhos adolescentes e estamos empenhados em fornecer-lhes ferramentas e recursos úteis que tornam as coisas mais simples para eles, especialmente quando pensam em novas tecnologias como IA”, disse a empresa em um post escrito pelo chefe do Instagram, Adam Mosseri, e pelo recém-nomeado chefe da Meta AI, Alexandr Wang.

No início desta semana, Meta disse que seu conteúdo e experiências de IA para adolescentes seguirão um padrão de classificação de filmes PG-13 e evitarão tópicos delicados, como violência extrema, nudez e uso explícito de drogas.

A empresa acrescentou que, atualmente, os adolescentes só podem interagir com um número limitado de personagens que seguem as diretrizes de conteúdo adequadas à idade. Os pais também podem definir limites de tempo para as interações dos adolescentes com personagens de IA. No início deste ano, o Instagram anunciou que está usando IA para identificar tentativas de contornar os limites de idade falsificando sua idade no aplicativo.

Nas últimas semanas, várias plataformas, incluindo OpenAI, Meta e YouTube, lançaram ferramentas e controles focados na segurança dos adolescentes. Essas mudanças ocorrem em meio a preocupações crescentes sobre o impacto das redes sociais sobre a saúde mental dos adolescentes e ações judiciais contra empresas de IA que alegam ter desempenhado um papel nos suicídios de adolescentes.