Os governos lutam contra a enxurrada de nudez não consensual no X

Nas últimas duas semanas, X foi inundado com imagens de nudez manipuladas por IA, criadas pelo chatbot Grok AI. Um número alarmante de mulheres foi afectado pelos nus não consensuais, incluindo modelos e actrizes proeminentes, bem como números de notícias, vítimas de crimese até mesmo líderes mundiais.

Um artigo de pesquisa de 31 de dezembro da Copyleaks estimou que aproximadamente uma imagem estava sendo postada a cada minuto, mas testes posteriores descobriram muito mais. Uma amostra coletada de 5 a 6 de janeiro foi encontrada 6.700 por hora durante o período de 24 horas.

Mas embora figuras públicas de todo o mundo tenham criticado a escolha de divulgar o modelo sem salvaguardas, existem poucos mecanismos claros para os reguladores que esperam controlar o novo sistema de manipulação de imagens de Elon Musk. O resultado tornou-se uma lição dolorosa sobre os limites da regulamentação tecnológica – e um desafio prospectivo para os reguladores que esperam deixar a sua marca.

Não é de surpreender que a ação mais agressiva tenha vindo da Comissão Europeia, que na quinta-feira ordenou que xAI retenha todos os documentos relacionado ao seu chatbot Grok. A medida não significa necessariamente que a comissão abriu uma nova investigação, mas é um precursor comum de tal ação. É particularmente ameaçador dado reportagem recente da CNN isso sugere que Elon Musk pode ter intervindo pessoalmente para evitar que fossem colocadas salvaguardas nas imagens que poderiam ser geradas por Grok.

Não está claro se X fez alguma alteração técnica no modelo Grok, embora a guia de mídia pública da conta X de Grok tenha sido removida. Em comunicado, a empresa denunciou especificamente o uso de ferramentas de IA para produzir imagens sexuais infantis. “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”, conta a X Safety postado em 3 de janeiroecoando um tweet anterior de Elon Musk.

Entretanto, os reguladores de todo o mundo emitiram avisos severos. Ofcom do Reino Unido emitiu um comunicado na segunda-feiradizendo que entrou em contato com a xAI e “realizará uma avaliação rápida para determinar se há possíveis problemas de conformidade que justifiquem investigação”. Em uma entrevista de rádio na quinta-feirao primeiro-ministro do Reino Unido, Keir Starmer, chamou o fenômeno de “vergonhoso” e “nojento”, dizendo que “o Ofcom tem todo o nosso apoio para tomar medidas em relação a isso”.

Em uma postagem no LinkedIna comissária australiana de eSafety, Julie Inman-Grant, disse que seu escritório recebeu o dobro de reclamações relacionadas a Grok desde o final de 2025. Mas Inman-Grant não chegou a tomar medidas contra xAI, dizendo apenas: “Usaremos a gama de ferramentas regulatórias à nossa disposição para investigar e tomar as medidas apropriadas”.

De longe, o maior mercado a ameaçar acção é a Índia, onde Grok foi objecto de uma queixa formal de um membro do Parlamento. Em janeiro, o regulador de comunicações da Índia, MeitY, ordenou que X abordasse a questão e apresentasse um relatório de “medidas tomadas” dentro de 72 horas – um prazo que foi posteriormente prorrogado por 48 horas. Enquanto um relatório era apresentado ao regulador em 7 de janeironão está claro se MeitY ficará satisfeito com a resposta. Caso contrário, X poderá perder o seu estatuto de porto seguro na Índia, uma limitação potencialmente grave à sua capacidade de operar dentro do país.