Sora 2 proíbe deepfakes de celebridades após reclamações de SAG e Bryan Cranston

OpenAI’s Sora 2 proibiu o uso de imagens de celebridades e personagens protegidos por direitos autorais em seus vídeos gerados por IA após aumentar a reação de celebridades e líderes do entretenimento.

Sora 2 cria vídeos gerados por IA usando prompts de texto e imagens enviadas. Os usuários podem navegar por esses vídeos em uma plataforma de vídeo social inspirada no TikTok.

O lançamento inicial da plataforma permitiu que os usuários usassem imagens de atores que não haviam optado por participar ou carregado suas imagens. Um vídeo viral mostrou Michael Jackson tirando uma selfie com Bryan Cranston como seu personagem, Walter White.

Bem, isso aparentemente (e justificadamente) perturbou Cranston, que relatou o fato ao SAG.

E ele não é a única celebridade a reclamar. Zelda Williams, filha do falecido Robin Williams, postou online que as pessoas precisavam parar de enviar vídeos gerados de seu pai.

“Por favor, pare de me enviar vídeos de IA do papai”, postou Zelda Williams em suas histórias no Instagram (via BBC). “Pare de acreditar que quero ver ou que vou entender, não quero e não vou. Se você está apenas tentando me enganar, já vi coisas piores. Vou restringir e seguir em frente. Mas, por favor, se você tiver alguma decência, pare de fazer isso com ele e comigo, com todo mundo, até mesmo, ponto final. É idiota, é uma perda de tempo e energia, e acredite, NÃO é o que ele gostaria.

Recentemente, vimos declarações contra a ferramenta de IA de agências de talentos como a CAA e também de organizações como a Motion Picture Association.

OpenAI retrocede celebridades deepfakes

Em resposta, a OpenAI está trabalhando para limitar o uso de imagens de celebridades.

Na segunda-feira, Cranston deu um comunicado através do SAG-AFTRA. (O comunicado é uma declaração conjunta da SAG, OpenAI, Cranston, United Talent Agency, Creative Artists Agency e Association of Talent Agents.)

“Fiquei profundamente preocupado não apenas comigo, mas com todos os artistas cujo trabalho e identidade podem ser mal utilizados desta forma”, disse o ator. “Estou grato à OpenAI pela sua política e por melhorar as suas protecções, e espero que eles, e todas as empresas envolvidas neste trabalho, respeitem o nosso direito pessoal e profissional de gerir a replicação dos nossos voz e semelhança.”

O presidente da SAG-AFTRA, Sean Astin, disse: “Bryan Cranston é um dos inúmeros artistas cuja voz e imagem correm o risco de apropriação indébita maciça pela tecnologia de replicação. Bryan fez a coisa certa ao comunicar-se com seu sindicato e seus representantes profissionais para que o assunto fosse resolvido”.

Astin chamou a medida de “resolução positiva”.

“Estou feliz que a OpenAI tenha se comprometido a usar um protocolo opt-in, onde todos os artistas têm a capacidade de escolher se desejam participar da exploração de sua voz e imagem usando IA. Esta política deve ser durável, e agradeço a todas as partes interessadas, incluindo a OpenAI, por trabalharem juntas para ter as proteções apropriadas consagradas na lei.”

No entanto, há uma lacuna

Como Semana de notícias aponta, parece que os usuários do Sora ainda são capazes de gerar vídeos de celebridades falecidas. Já mencionamos Robin Williams, mas também há vídeos com Elvis, Tupac, a Rainha, Martin Luther King Jr. e muito mais.

A OpenAI teve que resolver o problema com o espólio de King, que protestou contra os vídeos contendo o líder dos direitos civis.

Em um postagem nas redes sociais em 16 de outubroa empresa disse: “Alguns usuários geraram representações desrespeitosas da imagem do Dr. King. Portanto, a pedido da King, Inc., a OpenAI pausou gerações retratando o Dr. King, pois fortalece as proteções para figuras históricas. Embora haja fortes interesses de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que figuras públicas e suas famílias devem, em última análise, ter controle sobre como sua imagem é usada. Representantes autorizados ou proprietários de imóveis podem solicitar que sua imagem não seja usada em Participações especiais de Sora.

Não está claro quais proteções existem para figuras públicas que não têm família remanescente ou patrimônio que supervisione sua imagem.

Ficaremos de olho na história.