California AG envia ao xAI de Musk uma ordem de cessar e desistir de deepfakes sexuais

No início desta semana, o gabinete do procurador-geral da Califórnia anunciou que estava investigando a xAI por relatos de que o chatbot da startup, Grok, estava sendo usado para criar imagens sexuais não consensuais de mulheres. e menores. Na sexta-feira, o governo enviou uma carta de cessação e desistência à empresa, exigindo que ela tomasse medidas imediatas para impedir a produção de imagens íntimas não consensuais e CSAM – material de abuso sexual infantil.

“Hoje, enviei à xAI uma carta de cessação e desistência, exigindo que a empresa interrompa imediatamente a criação e distribuição de imagens profundas, não consensuais e íntimas e material de abuso sexual infantil”, disse o AG da Califórnia, Rob Bonta. em um comunicado de imprensa. “A criação deste material é ilegal. Espero que a xAI cumpra imediatamente. A Califórnia tem tolerância zero para (CSAM).”

O gabinete do procurador-geral alegou ainda que a xAI parecia estar a “facilitar a produção em grande escala” de nus não consensuais, do género dos quais estão a ser “usados ​​para assediar mulheres e raparigas na Internet”. A agência disse que espera que a xAI prove que está tomando medidas para resolver esses problemas nos próximos cinco dias.

No centro da reação está o recurso de modo “picante” de Grok, que xAI criou para gerar conteúdo explícito. A questão se espalhou para além da Califórnia; Japão, Canadá e Grã-Bretanha abriram investigações sobre Grok, e Malásia e Indonésia bloquearam temporariamente a plataforma. Apesar do xAI instituir algumas restrições em seus recursos de edição de imagens tarde de quarta-feirao escritório do AG da Califórnia avançou com sua carta de cessação e desistência.

A conta de segurança de X já foi denunciado esse tipo de atividade do usuário, dizendo: “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”. O TechCrunch entrou em contato com a xAI para comentar e recebeu um e-mail automático que dizia “Legacy Media Lies”. TC também entrou em contato com o escritório do AG da Califórnia para obter mais contexto.

O advento de ferramentas generativas gratuitas de IA levou a uma onda perturbadora de material sexual não consensual. Muitas plataformas têm lutado com este problema, não apenas X. A actividade sórdida atraiu a atenção não apenas dos líderes estaduais, mas também do Congresso. Na verdade, na quinta-feira, os legisladores enviaram uma carta aos executivos de várias empresas – incluindo X, Reddit, Snap, TikTok, Alphabet e Meta – perguntando como planeavam conter a proliferação de deepfakes sexualizados.