A preocupante ascensão das imagens de satélite deepfake

Você abre as redes sociais e vê uma imagem de satélite surpreendente: uma base militar em chamas. Mas é real?

A ascensão da IA ​​tornou mais fácil do que nunca a geração de falsificações. Desde o Guerra friaas imagens capturadas do espaço serviram como método de verificação para a mídia, os governos e o público. Agora, a tecnologia colocou sob ameaça esta fonte de verdade, antes aparentemente irrefutável.

É improvável que uma imagem de satélite gerada por IA e publicada nas redes sociais desencadeie uma guerra por si só ou engane os militares de um país com bons recursos como os EUA – que pode verificar novamente quaisquer reivindicações com a sua própria frota de satélites. Mas podem, ainda assim, ser ferramentas poderosas para influenciar a opinião pública de formas que prejudicam o nosso ecossistema de informação.

Existem muitos casos de imagens de satélite falsas apenas neste ano.

Em Junho, a Ucrânia Operação Teia de Aranha usou drones para atacar os premiados bombardeiros de longo alcance da Rússia. Fotos em alta resolução do resultado espalharam-se rapidamente pelas redes sociais: vários bombardeiros russos destruídos (e um avião de transporte) em ruínas arrasadas. Mas o ousado ataque militar ucraniano também foi acompanhado por imagens de satélite falsas que sugeria uma operação mais bem-sucedida do que os 10 aviões de guerra russos que Autoridades dos EUA estimam foram destruídos.

Outro caso surgiu no final daquele mês, após ataques dos EUA e de Israel a instalações ligadas ao programa nuclear do Irão. Um imagem falsa retratou uma multidão reunida em torno de um jato F-35 israelense destruído e outro vídeo enganoso falsamente reivindicado a ser obtido dos sensores a bordo de um míssil iraniano. Estas imagens sugeriam uma resposta militar iraniana mais potente à ataques devastadores do que Teerã foi realmente capaz de reunir.

Havia também falsifica após o conflito entre a Índia e o Paquistão, que durou quatro dias, em Maio. Tanto utilizadores indianos como paquistaneses partilharam nas redes sociais imagens falsas de satélite para sugerir que as forças armadas dos seus respectivos países tinham infligido mais danos do que aquilo que de outra forma teria acontecido.

Com mais de metade do mundo a utilizar as redes sociais, o alcançar O número de imagens de satélite manipuladas pode ser enorme e o seu impacto quase imediato. Já vimos prévias de como uma falsificação individual pode impactar o mundo real: quando uma imagem falsamente retratado um incêndio perto do Pentágono no ano passado, por exemplo, o mercado de ações mergulhado até que as autoridades locais esclarecido foi uma farsa.

E embora os profissionais da área tenham alertado sobre os riscos por anosas falsificações de hoje estão cada vez mais difíceis de distinguir da realidade e mais fáceis de fabricar.

Nos últimos anos, os modelos por trás simples ferramentas online ofereceram um caminho para criar imagens básicas de satélite geradas por IA. Mas eles eram limitados e os produtos finais eram fotos borradas e com zoom reduzido. Para fazer falsificações de alta qualidade hoje, tudo que você precisa é de software gratuito e a capacidade de digitar um prompt que orienta sua IA preferida.

É por isso que a luta contra as imagens falsas de satélite deve ser uma iniciativa de toda a sociedade. Os governos e os meios de comunicação social que utilizam imagens, juntamente com os fornecedores comerciais, devem ajudar os seus públicos a sintonizarem-se com os indicadores de fraude.

Na mídia, os meios de comunicação que dependem de imagens de satélite em sua cobertura deveriam incluir ou vincular uma explicação de como a verificaram, uma prática já empregado por alguns. Descrever como eles combinam imagens de satélite com detalhes locais pode ajudar a aumentar a confiança do leitor em relatórios confiáveis.

Por seu lado, os fornecedores comerciais devem disponibilizar, sempre que possível, ferramentas ou equipas que verifiquem se as imagens alegadamente provenientes deles são genuínas ou não. Existe software de terceiros para detectar imagens geradas por IA, mas é imperfeito e está em uma corrida armamentista contra modelos cada vez melhores que podem produzir fotos hiper-realistas.

Mensagens sobre como os agentes mal-intencionados usarão o engano também podem ser incluídas na literatura governamental. A brochura do governo sueco, “Em caso de crise ou guerra”, descreve como as potências estrangeiras podem usar a desinformação em tempos de conflito e oferece conselhos sobre como se proteger contra esses esforços. O governo da Finlândia tem um guia com mais detalhe sobre operações de influência e ferramentas para analisar fotos e vídeos que você vê em tempos de crise.