Você não pode difamar os mortos. Mas isso não significa que você deva falsificá-los.

Zelda Williams, filha do falecido ator Robin Williams, tem uma mensagem comovente para os fãs de seu pai.

“Por favor, pare de me enviar vídeos de IA do papai. Pare de acreditar que quero ver ou que vou entender. Não quero e não vou”, escreveu ela em um post em seu story no Instagram na segunda-feira. “Se você tiver alguma decência, pare de fazer isso com ele e comigo, até com todo mundo, ponto final. É idiota, é uma perda de tempo e energia, e acredite, NÃO é o que ele gostaria.”

Provavelmente não é uma coincidência que Williams tenha sido levado a postar isso poucos dias após o lançamento do modelo de vídeo Sora 2 da OpenAI e do aplicativo social Sora, que dá aos usuários o poder de gerar deepfakes altamente realistas de si mesmos, de seus amigos e de certos personagens de desenhos animados.

Isso também inclui pessoas mortas, que aparentemente são um alvo fácil porque é não é ilegal difamar o falecidode acordo com o Student Press Law Center.

Sora não permitirá que você gere vídeos de pessoas vivas – a menos que seja de você mesmo ou de um amigo que lhe deu permissão para usar sua imagem (ou “participação especial”, como a OpenAI chama). Mas esses limites não se aplicam aos mortos, que em sua maioria podem ser gerados sem obstáculos. O aplicativo, que ainda está disponível apenas por convite, foi inundado com vídeos de figuras históricas como Martin Luther King Jr., Franklin Delano Roosevelt e Richard Nixon, bem como celebridades falecidas como Bob Ross, John Lennon, Alex Trebek e, sim, Robin Williams.

Não está claro como a OpenAI estabelece os limites na geração de vídeos dos mortos. Sora 2 não gerará, por exemplo, o ex-presidente Jimmy Carter, falecido em 2024, ou Michael Jackson, falecido em 2009, embora tenha criado vídeos com a imagem de Robin Williams, falecido em 2014, segundo testes do TechCrunch. E embora o recurso especial da OpenAI permita que as pessoas definam instruções sobre como elas aparecem nos vídeos que outras pessoas geram delas – grades de proteção que surgiram em resposta às primeiras críticas a Sora – os falecidos não têm tal palavra a dizer. Aposto que Richard Nixon rolaria no túmulo se pudesse ver a falsificação que fiz dele defendendo a abolição da polícia.

A OpenAI não respondeu ao pedido do TechCrunch para comentar sobre a permissibilidade de falsificação profunda de pessoas mortas. No entanto, é possível que falsificar celebridades mortas como Williams esteja dentro das práticas aceitáveis ​​da empresa; precedente legal mostra que a empresa provavelmente não seria responsabilizada pela difamação do falecido.

“Assistir aos legados de pessoas reais serem condensados ​​em ‘isso se parece e soa vagamente com eles, então é o suficiente’, apenas para que outras pessoas possam produzir o horrível lixo do TikTok manipulando-as é enlouquecedor”, escreveu Williams.

Os críticos da OpenAI acusam a empresa de adotar uma abordagem rápida e livre em tais questões, e é por isso que Sora foi rapidamente inundado com clipes de IA de personagens protegidos por direitos autorais, como Peter Griffin e Pikachu, após seu lançamento. O CEO Sam Altman disse originalmente que os estúdios e agências de Hollywood precisariam cancelar explicitamente se não quisessem que seu IP fosse incluído nos vídeos gerados por Sora. A Motion Picture Association já apelou à OpenAI para tomar medidas sobre esta questão, declarando em uma declaração de que “a lei de direitos autorais bem estabelecida protege os direitos dos criadores e se aplica aqui”. Desde então, ele disse que a empresa reverterá essa posição.

Sora é, talvez, o modelo de IA com capacidade de deepfake mais perigoso acessível às pessoas até agora, dado o quão realistas são seus resultados. Outras plataformas como o xAI ficam para trás, mas têm ainda menos barreiras de proteção do que o Sora, tornando possível a geração de conteúdo pornográfico. deepfakes de pessoas reais. À medida que outras empresas alcançam a OpenAI, estabeleceremos um precedente terrível se tratarmos pessoas reais – vivas ou mortas – como nossos próprios brinquedos pessoais.