Fotos manipuladas por IA dos chamados produtos defeituosos alimentam fraude massiva de reembolso na China

Além da ameaça de que a IA tome os nossos empregos e um dia se torne o nosso senhor supremo, a inteligência artificial é geralmente vista como algo positivo que ajudará o avanço da civilização humana. Já estamos vendo grandes avanços em áreas como programação, pesquisa científica e saúde, mas a IA é uma ferramenta que também faz maravilhas nas mãos daqueles com intenções maliciosas. Por exemplo, na China, devido a uma política de devolução única, as lojas online estão atualmente a sofrer perdas enormes devido a reembolsos baseados em fotos editadas por IA.

Na China, você pode obter um reembolso sem precisar devolver o produto em si, desde que tenha provas fotográficas de que o produto está com defeito ou pelo menos não atende aos padrões gerais de qualidade. Este nunca foi um sistema infalível, mas com o advento da IA, as empresas têm cada vez mais dificuldade em saber o que é real e o que não é.

De frutas e vegetais mofados a porcelanas aparentemente rachadas e roupas puídas, os fraudadores de reembolsos estão supostamente ganhando dinheiro online, e as empresas não conseguem fazer muito a respeito. Parte do problema é a automação. Muitas plataformas de compras online exigem que os compradores carreguem fotos de seus produtos defeituosos e, se o algoritmo as considerar realistas o suficiente, o reembolso será processado automaticamente.

Mas a IA ficou tão boa na edição elegante de fotos e vídeos que nem mesmo o olho humano consegue distinguir entre uma imagem real e uma falsa. Chen, que administra uma loja de frutas e vegetais em Jiaxing, diz que, nos últimos três meses, sua loja teve nove devoluções. No início, ele confiou nos compradores e ofereceu reembolso, mas quando as devoluções se tornaram muito frequentes, ele ficou desconfiado. Ele encontrou sinais de edição digital, mas a plataforma onde ele estava vendendo lhe disse que não havia evidências claras o suficiente de que a foto tivesse sido adulterada por IA.

Alguns sites de compras online introduziram ferramentas para determinar se as imagens dos produtos são geradas por IA e exibem mensagens de aviso sob imagens suspeitas, mas afirmam que não podem garantir a precisão dessas ferramentas.

Em Setembro, as autoridades chinesas também promulgaram as “Medidas Provisórias para a Gestão de Conteúdos Sintéticos e Gerados por IA”, que exigem que as imagens e vídeos gerados por IA sejam rotulados com rótulos visíveis, como marcas de água, e rótulos incorporados nos dados. Embora a remoção destes rótulos seja proibida, é difícil detetá-los na prática, pelo que a ameaça de fraude permanece.