Ilyasah Shabazz não queria ver os vídeos gerados por IA de seu pai, Malcolm X. Os clipes aparentemente realistas – feitos pelo novo videomaker da OpenAI, Sora 2 – mostram o lendário ativista dos direitos civis fazendo piadas grosseiras, lutando com o reverendo Martin Luther King Jr.
A velocidade e o realismo incrível de Sora ajudaram a levar o aplicativo ao topo das paradas de download, e vídeos reanimando os mortos estão entre seus clipes mais virais. Vídeos produzidos por Sora de Michael Jackson, Elvis Presley e Amy Winehouse inundaram as plataformas de mídia social, com muitos espectadores dizendo que têm dificuldade para dizer se os vídeos são reais ou falsos.
Alguns clipes foram reproduzidos para rir, como um vídeo do apresentador de “Mr. Rogers’ Neighbourhood”, Fred Rogers, escrevendo uma música rap com o artista de hip-hop Tupac Shakur. Outros se inclinaram para temas mais sombrios. Um vídeo mostrou imagens da câmera policial de Whitney Houston parecendo embriagada. Em alguns clipes, King faz barulho de macaco durante seu discurso “Eu tenho um sonho”, o jogador de basquete Kobe Bryant voa a bordo de um helicóptero que reflete o acidente que matou ele e sua filha em 2020, e John F. Kennedy faz uma piada sobre o recente assassinato do influenciador de direita Charlie Kirk.
A OpenAI disse que a ferramenta de texto para vídeo retrataria pessoas reais apenas com o seu consentimento. Mas isentou “figuras históricas” destes limites durante o seu lançamento na semana passada, permitindo que qualquer pessoa fizesse vídeos falsos ressuscitando figuras públicas, incluindo activistas, celebridades e líderes políticos – e deixando alguns dos seus familiares horrorizados.
“É profundamente desrespeitoso e doloroso ver a imagem do meu pai usada de maneira tão arrogante e insensível quando ele dedicou sua vida à verdade”, disse Shabazz, cujo pai foi assassinado na frente dela em 1965, quando ela tinha 2 anos, ao The Washington Post. Ela questionou por que os incorporadores não estavam agindo “com a mesma moralidade, consciência e cuidado… que desejariam para suas próprias famílias”.
Os vídeos de Sora provocaram agitação e repulsa em muitos dos entes queridos das celebridades retratadas, incluindo a filha do ator Robin Williams, Zelda Williams, que implorou recentemente em uma postagem no Instagram para que as pessoas “parassem de me enviar vídeos de IA do pai”.
“Ver os legados de pessoas reais serem condensados em… horrível, o trabalho de marionetes do TikTok é enlouquecedor”, disse ela.
À medida que o rápido desenvolvimento da IA dá às pessoas comuns o poder de criar imagens e chatbots realistas, também desafia noções antigas sobre quem controla as memórias, a identidade e o legado de uma pessoa após a sua morte. A maioria das empresas não pode usar a imagem de Robin Williams para ganhos comerciais sem a permissão de sua família. Mas em Sora, estranhos retrataram Williams, que morreu em 2014, como quiseram.
“Comercialmente, se você criar conteúdo memeável de pessoas famosas que sejam reconhecíveis, isso gerará mais cliques”, disse Henry Ajder, especialista em IA que estuda deepfakes e cunhou o termo “ressurreição sintética” para descrever a criação de cópias digitais dos mortos. “Com indivíduos falecidos, isso abre uma grande questão sobre a propriedade da imagem e realmente muda fundamentalmente o contrato social em torno do que significa ser você online.”
À medida que a tecnologia avança, a visão de Ajder torna-se uma realidade mais comum. A perspectiva de clonar digitalmente os mortos já está a suscitar questões incómodas sobre a incapacidade das famílias de controlar a forma como os seus entes queridos são retratados.
“A quantidade e o volume desse tipo de conteúdo sintético de ressurreição são enormes agora”, disse ele. “E isso não está sendo feito por agências criativas em parceria com o espólio… ou por um estúdio de Hollywood como uma homenagem a um ator ou atriz muito querido, com o consentimento de sua família. Está sendo feito por s-posters, memes, racistas e todo o resto.”
A OpenAI disse que sua política se baseava em “fortes interesses de liberdade de expressão na representação de figuras históricas”. Mas após a reação negativa, a empresa disse na quarta-feira que começaria a permitir que representantes de figuras públicas “falecidas recentemente” solicitassem que suas imagens fossem bloqueadas nos vídeos de Sora.
“Acreditamos que as figuras públicas e suas famílias deveriam, em última análise, ter controle sobre como sua imagem é usada”, disse uma porta-voz da OpenAI. Ela se recusou a definir “falecido recentemente”.
A OpenAI descreveu sua ferramenta de vídeo como uma fonte de criatividade – alimentada em parte por representações de pessoas reais. Um executivo, Varun Shetty, disse ao blog de tecnologia Newcomer que os funcionários da empresa foram permissivos na criação de vídeos para evitar uma “desvantagem competitiva” dos rivais do laissez-faire. E o executivo-chefe Sam Altman disse em um podcast que alguns detentores de direitos autorais – em vez de ficarem furiosos porque sua propriedade intelectual estava sendo roubada – disseram à empresa que temiam que “você não incluiria meu personagem o suficiente”.
Em declarações públicas, porém, algumas das maiores empresas de Hollywood têm sido muito menos caridosas. O chefe da Motion Picture Association disse que a OpenAI precisava “tomar medidas imediatas e decisivas” para proteger os direitos dos criadores. E a empresa de talentos Creative Artists Agency disse que Sora 2 expôs seus “clientes e sua propriedade intelectual a riscos significativos”.
Online, a ferramenta gerou críticas consideráveis. Bernice King, filha de Martin Luther King Jr., compartilhou novamente os comentários de Zelda Williams e pediu às pessoas que “por favor, parem”. Hank Green, um YouTuber e criador popular, compartilhou um vídeo de Sora de King e disse: “Isso deve ser ilegal de alguma forma… A OpenAI lançou um ímã de ação judicial para o mundo”.
Joan Kowalski, presidente da empresa proprietária do trabalho e da imagem do pintor Bob Ross, disse que lidar com reproduções não autorizadas do artista sempre foi um problema. Mas Sora trouxe um novo desafio, disse ela, já que vídeos de Ross, de fala mansa, que morreu em 1995, conquistaram milhões de visualizações ao retratar o artista tendo um colapso aos gritos em seu estúdio ou pintando o World Trade Center em chamas.
Os fãs de Ross não conseguem mais dizer o que é real e o que é falso, disse Kowalski, e alguns escreveram alarmados para a empresa. A reputação de bondade e incentivo de Ross, disse ele, parecia fazer do artista um ímã para representações irreverentes.
“As pessoas querem pegar a pessoa mais pura e saudável e bagunçar tudo”, disse Kowalski. “Há algum tipo de condição humana estranha em que eles querem pegar a coisa mais adorável e inocente e destruí-la.”
Ajder, que aconselhou empresas e governos sobre políticas de mídia sintética, disse que os deepfakes já fizeram barulho nos últimos anos, à medida que os anunciantes procuram usar clones de celebridades mortas em promoções. Isso inclui um vídeo de 2021 no qual um dublê de corpo e um software de mapeamento facial foram usados para fazer Ross pintar um retrato cênico de Mountain Dew com a permissão de Bob Ross Inc.
Mas o debate foi intensificado pela IA, que pode criar imagens mais realistas com mais rapidez e com menos considerações de estilo ou gosto. A lei oferece poucos recursos.
Reid Kress Weisbord, professor da Rutgers Law School que estuda testamentos e propriedades, disse que a lei da difamação está relacionada com lesões à reputação dos vivos, e a reclamação geralmente “morre com a pessoa que está sendo difamada”.
As famílias podem intentar uma acção judicial pelo direito post-mortem de publicidade da pessoa, o que impede a exploração comercial do nome ou imagem de alguém sem o seu consentimento. Muitos estados agora permitem que esses direitos sejam transferidos para o patrimônio da pessoa morta, inclusive na Califórnia, onde o prazo de prescrição dura 70 anos após a morte.
A OpenAI poderia argumentar que os vídeos representam um “uso transformador”, um conceito legal para proteger paródias, críticas e outras formas de expressão que se baseiam no valor do trabalho de outra pessoa. E alguns impulsionadores da tecnologia argumentam há muito tempo que as obras geradas pela IA deveriam ser protegidas pela Primeira Emenda.
Mas as questões jurídicas atingem um ponto da lei que a IA torna mais instável a cada ano, disse Weisbord. Concentrar-se na questão financeira pode deixar de lado a verdadeira questão: quem pode moldar a imagem ou a memória de uma pessoa após sua morte?
Quanto ao impacto emocional de uma criança ver uma imagem dos seus pais a fazer coisas que nunca fez, Weisbord disse: “Não tenho a certeza se o ângulo da exploração comercial realmente capta a natureza desse dano”.
Para as figuras políticas, existe o risco adicional de as pessoas usarem a sua imagem para espalhar informações erradas ou provocar indignação. Vídeos de Sora de Winston Churchill, por exemplo, mostravam o falecido primeiro-ministro britânico promovendo a companhia aérea JetBlue ou fazendo referência a memes grosseiros da Internet.
À medida que uma nova geração aprende sobre grandes figuras históricas, os seus primeiros encontros devem ser baseados na realidade e não em representações falsas de IA, disse Adam Howard, diretor executivo da International Churchill Society.
O “nome, semelhança e palavras de Churchill não são estoque livre para manipulação sintética”, acrescentou Randolph Churchill, presidente da Sociedade e grande representante de Winston Churchill.–neto. “Winston Churchill pertence à história e o seu legado merece precisão, dignidade e administração legal.”
Ao permitir conteúdo controverso, mas atraente, como celebridades da IA, a OpenAI está tomando emprestado um manual aperfeiçoado por empresas de mídia social como a Meta: faça o que for preciso para atrair os usuários ao aplicativo e peça perdão mais tarde, disse Thales Teixeira, professor de administração da Universidade da Califórnia em San Diego. “Primeiro você cresce e depois tenta resolver os problemas”, disse ele.
Enquanto isso, membros da família como Shabazz são deixados para lidar com as consequências emocionais. Por dias, Shabazz deixou as falsificações em seu telefone sem serem observadas. Só depois de voltar para casa de uma viagem de trabalho é que ela os abriu, pronta para processar o que quer que contivessem.
“Tenho pessoas que contam com meu apoio”, disse ela. “Não quero ser oprimido por… o ato irresponsável de outra pessoa.”
– – –
Razzan Nakhlawi e Monika Mathur contribuíram para este relatório.
Conteúdo relacionado
Melania Trump diz que tem ‘canal aberto’ com Putin sobre reagrupamento familiar
Ela deixou a medicina convencional e passou a ser a cirurgiã geral escolhida por RFK Jr.
Um combativo Bondi entra em conflito com senadores sobre Epstein, casos contra inimigos de Trump
‘O artigo anterior pode incluir informações divulgadas por terceiros’
‘Alguns detalhes deste artigo foram extraídos da seguinte fonte www.yahoo.com’
‘ O artigo anterior foi obtido e traduzido do site internacional da celebrity.land ’
