OpenAI pausa gerações de vídeo Sora de Martin Luther King Jr.

A OpenAI anunciou na quinta-feira que interrompeu a capacidade dos usuários de gerar vídeos semelhantes ao falecido ativista dos direitos civis Martin Luther King Jr. usando seu modelo de vídeo de IA, Sora. A empresa diz que está adicionando esta salvaguarda a pedido do espólio do Dr. King, depois que alguns usuários de Sora geraram “representações desrespeitosas” de sua imagem.

“Embora existam fortes interesses de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que as figuras públicas e suas famílias deveriam, em última análise, ter controle sobre como sua imagem é usada”, disse a OpenAI em um comunicado. postar no X de sua conta oficial da redação. “Representantes autorizados ou proprietários de imóveis podem solicitar que sua imagem não seja usada em participações especiais de Sora.”

A restrição ocorre apenas algumas semanas depois que a OpenAI lançou sua plataforma de vídeo social, Sora, que permite aos usuários criar vídeos realistas gerados por IA que lembram figuras históricas, seus amigos e usuários que optam por ter sua imagem recriada na plataforma. O lançamento gerou um debate público fervoroso em torno dos perigos dos vídeos gerados por IA e como as plataformas deveriam implementar proteções em torno da tecnologia.

Dra. Bernice King, filha do Dr. postado no Instagram na semana passada, pedindo às pessoas que parassem de enviar vídeos de IA parecidos com o pai dela. Ela se juntou à filha de Robin Williams, que também pediu aos usuários do Sora que parassem de gerar vídeos de IA de seu pai.

O Washington Post informou no início desta semana que os usuários do Sora criaram vídeos de Dr. King fazendo barulhos de macaco e lutando com outro ícone dos direitos civis, Malcolm X. Percorrendo o aplicativo Sora da OpenAI, é fácil encontrar vídeos grosseiros que lembram outras figuras históricas, incluindo o artista Bob Ross, a cantora Whitney Houston e o ex-presidente John F. Kennedy.

O licenciante do espólio do Dr. King não respondeu imediatamente ao pedido de comentários do TechCrunch.

Além de como Sora representa os humanos, o lançamento também levantou uma série de questões sobre como as plataformas de mídia social deveriam lidar com vídeos de IA de obras protegidas por direitos autorais. O aplicativo Sora também está repleto de vídeos de desenhos animados como Bob Esponja, South Park e Pokémon.

OpenAI adicionou outras restrições ao Sora semanas desde seu lançamento. No início de outubro, a empresa disse que planejava dar aos detentores de direitos autorais um controle mais granular sobre os tipos de vídeos de IA que podem ser gerados com sua semelhança. Isso pode ter sido uma resposta à reação inicial de Hollywood a Sora, que não foi ótimo.

À medida que a OpenAI adiciona restrições ao Sora, a empresa parece estar adotando uma abordagem mais direta para moderar o conteúdo no ChatGPT. A OpenAI anunciou esta semana que permitiria que usuários adultos tivessem bate-papos “eróticos” com o ChatGPT nos próximos meses.

Com Sora, parece que a OpenAI está enfrentando as preocupações que acompanham a geração de vídeo por IA. Alguns pesquisadores da OpenAI lutaram publicamente com questões sobre a primeira plataforma de mídia social alimentada por IA da empresa nos dias após seu lançamento, e como tal produto se encaixa na missão da organização sem fins lucrativos. O CEO da OpenAI, Sam Altman, disse que a empresa sentiu “trepidação” sobre Sora no dia do lançamento.

Nick Turley, chefe do ChatGPT, me disse no início deste mês que a melhor maneira de ensinar ao mundo sobre uma nova tecnologia é divulgá-la. Ele disse que foi isso que a empresa aprendeu com o ChatGPT e é isso que a OpenAI também está descobrindo com o Sora. Parece que a empresa também está aprendendo algo sobre como distribuir essa tecnologia.