O antigo princípio que pode nos ajudar a detectar falsificações de IA

Você não precisa de tecnologia avançada para enganar as pessoas online. Nós mostrou mais de 3.000 estudantes do ensino médio um vídeo granulado de funcionários eleitorais jogando cédulas para fraudar uma eleição. Uma legenda colada, em fonte vermelha e em maiúsculas, foi suficiente para enganar os estudantes e fazê-los acreditar em fraude eleitoral nos EUA – mesmo que a filmagem fosse da Rússia. Apenas três alunos perceberam isso.

Já faz muito tempo avisado que falsificações baratas eram mais perigosas que deepfakes: quase tão eficazes, mas muito mais fáceis de fazer. Nas últimas eleições, mesmo com ferramentas de IA disponíveis para as massas, foi vídeos da velha escola emendado com fita adesiva digital que alimentou debates sobre a aptidão do presidente Joe Biden para servir.

Agora, a era das falsificações baratas está terminando. Viral deep fakes feitas com novas ferramentas de vídeo marcam um terreno informativo ainda mais traiçoeiro. Graças a produtos como o Veo 3 do Google, o Sora 2 da OpenAI e o Vibes da Meta, o desperdício de IA agora é tão fácil de produzir que está se espalhando por nossas telas, auxiliado pelo atacado das plataformas. retiro da verificação de fatos. Para navegar na Internet de hoje, precisamos de orientação da sabedoria antiga: a antiga ênfase muçulmana, judaica, budista e de outras religiões na centralidade da reputação.

Os muçulmanos devotos remontam as palavras de Maomé através de uma “cadeia de narração” ou “isnad”. Os judeus religiosos interpretam os ensinamentos talmúdicos no contexto do rabino que os entoou. Os budistas tibetanos transmitem oralmente princípios de uma linhagem que vai do Buda até o presente. Todas essas tradições nos encorajam a raciocinar sobre informações, mas apenas depois nós rastreamos sua origem e avaliamos a reputação dos sábios que estiveram por trás dele.

A reputação também é importante em contextos seculares: é o mecanismo que usamos para tomar decisões quando nos falta conhecimento e experiência. Confiamos na reputação ao escolher um terapeuta ou encanador, um restaurante para visitar ou um hotel para reservar. Pedimos avaliações a pessoas em quem confiamos e consultamos porque reconhecemos que ninguém provavelmente revelará suas falhas ou segundas intenções.

A reputação é crucial em muitas áreas de nossas vidas. Por que, então, na internet a maioria das pessoas ignora isso?

Nosso grupo de pesquisa testou a capacidade de milhares de jovens de avaliar informações online. Repetidas vezes, os vimos julgar o conteúdo sem levar em conta de onde ele vem. Um estudante da zona rural de Ohio confiável o vídeo de fraude eleitoral porque pensaram que seu olho nu era capaz de detectar “fraude em vários estados diferentes”. Um estudante da Pensilvânia escreveu que o vídeo “mostrava claramente pessoas inserindo votos falsos em caixas”.

O mesmo padrão é intensificado quando se trata de IA. Um professor que compartilhou sua experiência com 404 Mídia contou que perguntou a um aluno como ele sabia se as informações do ChatGPT eram precisas. O aluno enfiou o telefone na cara do professor: “Olha, está escrito aqui mesmo!” Nossos estudos piloto em salas de ensino médio e superior apontar para uma tendência semelhante: muitos estudantes confiam nos chatbots de IA, mesmo quando esses chatbots omitem o contexto sobre a origem das informações.

Muitos usuários da Internet não consideram a reputação ou o erro Google ou Bate-papoGPT para fontes verificadas em vez de falhas agregadores. Quando as pessoas tentam avaliar a reputação, são influenciadas por sinais facilmente manipulados fornecidos pela própria fonte: um ponto.org domínio, linguagem que soa oficial na página “sobre”, a quantidade de dados, independentemente de sua qualidade, ou sentimentos viscerais sobre como algo visual.

Essas características brilham como ouro de tolo. Qualquer um pode conseguir um domínio ponto-orgincluindo grupos de ódio. Sites de negação do Holocausto afirmam em suas páginas “fornecer informações factuais”. Postagens com gráficos sofisticados podem conter informações erradas nocivas. E os relatórios sugerem que a IA é tão realista que nos obriga a duvidar dos nossos próprios sentidos: desde clones isso soa como nossos pais hiper-realistas falsificações de um incêndio que engolfou o Space Needle de Seattle.

Este cenário de informação apresenta uma escolha sem saída entre a submissão e o solipsismo: não se importar com o que é verdade ou insistir que nada é. O primeiro nos deixa vulneráveis ​​a maus atores que usam clipes realistas como armas. Este último nos deixa desprovidos de boas informações. Ambas as opções corroem a cidadania informada numa altura em que esta é escassa.

Eis o que podemos fazer: em vez de nos concentrarmos no conteúdo em si, primeiro perguntemos quem está por trás dele, tal como as tradições religiosas consideram os ensinamentos no contexto de quem os disse.

E quando manejadas com habilidade, as mesmas ferramentas que nos enganam podem ajudar-nos a sair deste enigma. Não terceirizando nosso pensamento para a tecnologia, mas usando a tecnologia para estabelecer reputação e aprimorar nosso pensamento.

Os três estudantes que descobriram que o vídeo de fraude eleitoral era da Rússia não se envolveram em nenhum tipo de magia técnica. Eles simplesmente abriram uma nova guia, inseriram algumas palavras-chave escolhidas e encontraram artigos de fontes confiáveis, como o BBC e Snopes desmascarando isso. E com algumas dicas inteligentes sobre como os LLMs funcionam e como estruturar os prompts de maneira eficaz, a IA pode realmente ajude-nos na verificação de postagens nas redes sociais e na oferta de contexto ausente.