Quando tudo é falso, qual é o sentido das mídias sociais?

No início desta semana, um postagem emocionante sobre uma menina, um cachorrinho e um policial se tornou viral nas plataformas de mídia social. A postagem consistia em duas imagens de uma câmera de painel de uma menina de 12 anos perturbada que, desesperada para curar seu cachorrinho doente, sentou-se ao volante pela primeira vez e tentou dirigir até o veterinário. Ela foi parada, mas elogiada por um policial por ser “incrível, forte, compassiva e inteligente”, e o cachorrinho foi salvo. Os comentários inundaram a celebração do vínculo entre uma garota e seu melhor amigo peludo.

Mas quando os usuários das redes sociais olharam mais de perto, notaram algumas coisas estranhas: o volante ficava do lado direito do carro, que também não tinha painel. E a imagem não teve origem em nenhuma plataforma de notícias ou página oficial da polícia, mas simplesmente apareceu por conta própria no Facebook.

A imagem, talvez previsivelmente, foi outro exemplo de desperdício de IA: imagens criadas por meio de IA, projetadas para máximo envolvimento nas redes sociais, entrando nos feeds dos usuários sem nenhum sinal de serem reais ou falsas. No que diz respeito à IA, esta instância foi relativamente inofensiva. Mas cada vez mais resíduos de IA foram agitados nas redes sociais esta semana, graças à chegada do Sora 2, o novo modelo avançado de texto para vídeo da OpenAI.

Alguns vídeos foram claramente fabricados, como Papa João Paulo II lutando contra Tupac no ringue. Outros eram mais difíceis de discernir, como um menino sendo varrido por um tornado, ou homens sem-teto sendo inseridos nas casas das pessoas. Sora se tornou o aplicativo gratuito mais baixado na App Store da Apple na primeira semana.

Sam Altman, CEO da OpenAI, diz que esperanças esses vídeos do Sora 2 vão “parecer divertidos e novos”, ao mesmo tempo que ajudam a treinar suas IAs sobre como o mundo 3D funciona. Os críticos, por outro lado, os veem como uma sentença de morte em potencial para as mídias sociais. O que deveria ser um meio revolucionário para manter amizades e relacionamentos tornou-se agora uma máquina de geração de conteúdo falso – onde é impossível dizer o que é real e o que não é.

“Durante anos, a Internet tem sido um lugar onde as pessoas vão para se sentirem ligadas. Mas se tudo online começar a parecer falso, e as nossas páginas For You forem todas vídeos gerados por Sora, as pessoas começarão a recuar para o que é fisicamente comprovável”, diz Kashyap Rajesh, vice-presidente da organização liderada por jovens Encode. “A ironia é que a IA pode acabar salvando a conexão e os relacionamentos humanos porque está nos deixando desesperados por algo real.”

Crescimento a curto prazo

Imagens e vídeos realistas gerados por IA têm sido uma meta importante para todos os principais laboratórios de IA nos últimos anos. Os líderes de IA esperam que os usuários possam criar vídeos musicais, filmes e anúncios de forma rápida e barata, estimulando uma nova era de criatividade. Alguns também acreditam que os modelos de vídeo são a chave para inaugurar a inteligência artificial geral, ou AGI – IA ultrainteligente que compreende perfeitamente a física e, portanto, pode mover-se perfeitamente pelo mundo.

Para aprimorar seus modelos, essas empresas precisam que os usuários criem grandes quantidades de conteúdo que possam ser usados ​​para treinamento de dados. Só neste ano, a Meta lançou um feed de vídeo de IA dedicado chamado Vibes; O Google lançou o Veo 3; e a Bytedance lançou o Seedance, para citar algumas ofertas de vídeo de IA. Esses aplicativos podem ser vistos como parte de um volante maior: obter uso convencional que melhore simultaneamente seus produtos.

No curto prazo, esses produtos estão sendo muito utilizados e gerando criadores de tráfego significativos que adotaram o meio. Por exemplo, Gnomo Pombouma série de vídeos em espanhol sobre um gnomo usando uma GoPro embarcando em aventuras mágicas, conquistou centenas de milhares de curtidas e seguidores somente nos últimos quatro meses. E os spinoffs de videogame do universo cinematográfico italiano Brainrot quebrou todos os tipos de recordes em Roblox e Fortnite.

Mas Ben Colman, CEO e cofundador da plataforma de detecção de deepfake Reality Defender, diz que embora esses vídeos possam estar gerando saltos nas receitas para as plataformas, seu sucesso pode durar pouco. “Acho que a história provou que esse tipo de corrida para o fundo do poço em termos de qualidade de conteúdo tende a ser negativo para as próprias plataformas”, diz ele.

Colman aponta o MySpace como um exemplo de plataforma que sofreu quando não priorizou seus usuários, em vez disso enchendo suas páginas com anúncios e experiências tediosas. “Se você apenas vê muito barulho, a conexão se torna menos pessoal”, diz ele.

Altman, em um postagem no blogescreveu que o Sora 2 seria otimizado para “satisfação do usuário a longo prazo” e que a OpenAI encerraria o produto se sentisse que isso estava fazendo os usuários se sentirem pior.

Perigos sociais

O declínio das redes sociais, se acontecer, será inevitavelmente lento. Até então, os críticos preocupam-se com o impacto que o aumento dos resíduos da IA ​​terá na sociedade. Rajesh, da Encode, argumenta que vídeos realistas de IA ameaçarão nossa compreensão compartilhada da realidade. Os vídeos nas redes sociais costumavam ser entendidos como prova de que os acontecimentos realmente aconteceram – e poderiam mudar o curso da história, como no caso de George Floyd. Agora, os acontecimentos reais serão descartados como falsos, e os acontecimentos falsos serão considerados reais; as campanhas de desinformação e desinformação poderão desenvolver-se desenfreadamente.

“Isso está transformando muitos de nossos feeds em espaços de alto ruído e baixa confiança, onde cada momento emocional se torna suspeito”, diz Rajesh. “Isso meio que cria uma paranóia de baixo nível nas pessoas que, para começar, mata a espontaneidade e a magia das mídias sociais.”

Os vídeos Sora vêm com uma marca d’água, indicando suas origens de IA. Mas já foram criadas ferramentas para adicionar ou remova marcas d’água de vídeos. Isto significa que agora é fácil criarpor exemplo, imagens falsas de câmeras de painel para fraude de seguros.

Colman conduziu um experimento de segurança com sua equipe no Reality Defender e encontrado que ele foi capaz de usar Sora para criar personificações de pessoas proeminentes com IA – e então “autenticá-las” como se fossem originárias das próprias celebridades. “Quando você tem uma empresa multibilionária alegando que já fez a verificação de identidade, isso torna todo esse perigo um milhão de vezes mais perigoso”, diz ele.

Não é nenhum segredo que os algoritmos de mídia social recompensam conteúdo que causa divisão. Colman teme que a IA apenas exacerbe esta dinâmica. “As plataformas são efetivamente mercados de atenção. É um melhor retorno do investimento se você estiver tentando chamar a atenção para pontos de vista extremos”, diz ele. “Isso cria esta câmara de eco infinitamente mais polarizadora, dando aos consumidores do mercado de massa o que eles precisam para se tornarem mais radicais em todas as coisas.”

Enquanto isso, Rajesh diz que o aumento generalizado de deepfakes pode aumentar o uso de sistemas de “prova de identidade”, nos quais as pessoas precisam provar que são humanas para interagir online. (Sam Altman, na verdade, tem uma dessas soluções, a Worldcoin, que verifica os usuários examinando seus olhos.)

Leia mais: O orbe verá você agora

Ficar off-line

Em resposta a estas mudanças, um número crescente de pessoas desencantadas está a dar o salto e a renunciar completamente aos seus telefones. No início deste ano, Grant Besner co-organizou um programa educacional em DC chamado Month Offline, no qual os participantes são encorajados a desligar os seus smartphones durante um mês e interrogar as suas relações com os seus dispositivos.

Para anunciar o programa neste verão, Besner colocou panfletos em torno de DC com os dizeres: “imagens falsas de pessoas reais, imagens reais de pessoas falsas, descontentamento com o conteúdo… Abandone o rolo do apocalipse. Ligue para 1-844-OFFLINE”.

Besner diz que a linha direta recebeu centenas de ligações em resposta. “Já conversei com muitas pessoas que têm uma relação muito tensa com suas telas sensíveis ao toque, e grande parte disso é sua relação com o conteúdo em si: percorrer inconscientemente coisas que não acrescentam nada às suas vidas”, diz Besner.

Outras organizações estão testando abordagens semelhantes. O Instituto Aspen, por exemplo, organizado um encontro “Modo Avião” este ano. André Yango ex-candidato presidencial, vem organizando festas sem telefone em Nova York e promovendo um novo plano telefônico, o Noble Mobile, que reembolsa os usuários pelos dados restantes.