A lista generativa: à medida que as réplicas digitais melhoram, as questões jurídicas aumentam

Este artigo faz parte da série The Generative Slate da DWT. Explora o uso de IA generativa na produção e distribuição de conteúdo.

A vida pode imitar a arte, mas a IA faz um ótimo trabalho imitando ambas. Atingimos um ponto de inflexão na capacidade da IA ​​generativa de criar conteúdos audiovisuais (e sonoros e visuais) convincentes. Muitas dessas obras criadas por IA (ainda) não parecem ou soam completamente reais, mas parecem e soam real o suficiente ameaçar a premissa de que filmes ou concertos exigem desempenho humano real. Dois exemplos do mundo do entretenimento:

• Em um desenvolvimento que tanto atormentou quanto enervou a indústria do entretenimento, o cineasta irlandês Ruairi Robinson digitou um prompt de duas linhas no gerador de vídeo Seedance 2.0 AI da ByteDance e produziu um clipe de 15 segundos de Tom Cruise e Brad Pitt em uma briga hiper-realista no telhado.
• Na indústria musical, uma empresa de IA chamada Codible Ventures “clonou por voz” Arijit Singh – o artista mais seguido no Spotify (sim, mais do que Taylor Swift) – sem sua permissão. Também usou a imagem de Singh em sua publicidade, deturpando seu endosso ou desempenho em um evento virtual. Singh teve de apresentar uma petição ao Tribunal Superior de Bombaim para obter uma liminar que protegesse os seus direitos de personalidade.

O vídeo Pitt/Cruise despertou admiração e desconforto entre atores, estúdios e outras pessoas do mundo do cinema. Deepfakes parecem ter ultrapassado os limites de um risco teórico para uma ansiedade vivida e profissional para os criadores de entretenimento. Embora alguns tenham denunciado o clipe como “desleixado”, o roteirista Rhett Reese republicou o vídeo no X e disse que estava “abalado” com sua qualidade e alertou que carreiras em todo o setor estão em risco. A SAG-AFTRA emitiu um comunicado condenando a tecnologia como uma ameaça aos direitos dos artistas. O presidente da Motion Picture Association, Charles Rivkin, foi igualmente crítico.

A música gerada por IA que imita artistas reais causou repercussões semelhantes na indústria musical. Em junho de 2024, a Recording Industry Association of America processou os geradores de música AI Suno e Udio por suposta violação em massa de gravações sonoras protegidas por direitos autorais. E ainda no mês passado, uma coligação de grupos de artistas lançou uma campanha “Diga Não ao Suno”, acusando a plataforma de inundar serviços de streaming com faixas geradas por IA que diluem os recursos de royalties para os artistas humanos cujo trabalho treinou os modelos.[1]

Os deepfakes também estão causando ansiedade em outras frentes, fora do mundo do entretenimento – especialmente em contextos de exploração sexual e política:

• Em janeiro de 2024, imagens sexualmente explícitas de Taylor Swift geradas por IA se espalharam de forma viral pelas redes sociais, alcançando dezenas de milhões de espectadores antes de serem removidas. Os deepfakes provocou indignação e pede novas leis criminalizando pornografia deepfake.
• Naquele mesmo mês, uma chamada automática gerada por IA que imitava a voz do presidente Biden instou os democratas de New Hampshire a não votarem nas primárias do estado, dizendo-lhes para “guardarem o seu voto para as eleições de novembro”. “Os republicanos têm tentado pressionar os eleitores apartidários e democratas a participarem nas primárias. Que monte de bobagens”, dizia a mensagem falsa. A FCC finalmente avaliou um Multa de US$ 6 milhões contra o consultor político responsável.

Embora os exemplos de Pitt/Cruise e Singh levantem preocupações sobre substituição de mão de obra, danos económicos e violações de propriedade intelectual, estes outros casos de utilização levantam ameaças mais graves. Deepfakes sexuais implicam dignidade pessoal e autonomia corporal. Deepfakes políticos ameaçam a integridade das próprias eleições.

A lei pode permitir usos criativos, mas acompanhar esses riscos? Embora os tribunais já estejam a debater-se sobre a forma de aplicar quadros jurídicos legados à IA (particularmente na esfera dos direitos de autor), está a tornar-se evidente que os quadros antigos nem sempre se ajustam perfeitamente. Não importa de que lado se esteja, é indiscutível que a lei dos direitos de autor não foi concebida para julgar a legalidade da aprendizagem estatística a partir de corpora massivos, ou para abordar resultados que são “novos” num sentido formal, mas derivados num sentido económico. Da mesma forma, o direito à publicidade pressupõe tradicionalmente um acto de apropriação relativamente discreto – utilizando o nome ou a imagem de uma pessoa num contexto comercial – e não a síntese de traços de identidade através de um modelo generativo de IA. Estas doutrinas jurídicas podem e serão ampliadas para cobrir alguns destes danos, mas certamente não foram desenvolvidas com a IA em mente, e os tribunais são compreensivelmente cautelosos ao estendê-las demasiado.

Esse ajuste imperfeito levou a uma onda de novos estatutos visando deepfakes.[2] Os órgãos legislativos estão a preencher o que consideram ser lacunas corretivas nos regimes jurídicos atuais. Em vez de esperar que as leis de direitos de autor ou de publicidade evoluam gradualmente através de litígios, estão a criar causas de ação personalizadas e, em alguns casos, criminais. Até agora, esses estatutos abordaram principalmente casos de uso envolvendo conteúdo sexual, manipulação eleitoral e exploração de performances de celebridades. Estes desenvolvimentos reflectem julgamentos legislativos de que a IA generativa apresenta riscos qualitativamente diferentes, justificando uma regulamentação personalizada nestas áreas, embora possam por vezes estar em tensão com as protecções da Primeira Emenda para utilizações criativas deste tipo de conteúdo, bem como com as protecções de responsabilidade dos intermediários para plataformas que fornecem conteúdos gerados pelos utilizadores.

Para complicar ainda mais as coisas, os deepfakes criam problemas dentro do próprio sistema jurídico. O nosso sistema jurídico baseia-se no pressuposto de que as provas audiovisuais têm algum nível básico de fiabilidade. À medida que a mídia sintética se torna indistinguível das gravações reais, essa suposição se desgasta. A lei adaptar-se-á sempre – mas provavelmente exigirá novas normas de autenticação, regimes técnicos de marcas de água ou outras soluções técnicas, e talvez presunções refutáveis ​​sobre conteúdo sintético – embora qualquer marca de água obrigatória ou regime de divulgação tenha de resistir ao escrutínio da Primeira Emenda.

Os avanços em vídeo e áudio generativos de IA desafiam as evidências fundamentais e as suposições substantivas que fundamentam grandes áreas da lei. À medida que os tribunais aplicam leis antigas às novas tecnologias, os legisladores elaboram novas leis para novos riscos. Será um desafio, como sempre, para a lei e os tribunais acompanharem a tecnologia em rápida mudança, mas ainda mais neste caso, dada a velocidade relâmpago dos avanços e as formas como as novas tecnologias podem afectar o próprio processo judicial. As pessoas e empresas envolvidas na criação de entretenimento devem:

• Acompanhe e experimente esses desenvolvimentos tecnológicos. Esteja ciente das mudanças na tecnologia e explore maneiras de usar a IA generativa para complementar e melhorar trabalhos criativos feitos pelo homem, respeitando ao mesmo tempo os direitos dos outros.
• Proteja o IP. Registre direitos autorais e marcas registradas. Esteja atento à identificação e prevenção de infratores. Quer se utilizem leis antigas ou novas, poderá ser necessário perseguir maus actores. Perceba que a aplicação pode agora constituir uma parcela maior do orçamento legal.
• Abordar os direitos de IA nos contratos. Estúdios, gravadoras e criadores devem revisar os contratos para determinar quem controla o uso de vozes, imagens e performances em sistemas generativos de IA. Novos acordos podem necessitar de disposições explícitas que regulem a clonagem de voz, as réplicas digitais e os desempenhos assistidos por IA para evitar disputas sobre consentimento, compensação e propriedade.
• Acompanhe as mudanças na lei. Esteja ciente de como as disputas existentes, em direitos autorais e outras áreas, estão se desenrolando. Mantenha-se atualizado sobre o crescente corpo de legislação específica sobre deepfakes. Os grandes intervenientes podem querer envolver-se com os órgãos legislativos sobre os seus esforços contínuos para permitir utilizações criativas e, ao mesmo tempo, dissuadir as infrações.

Nenhum de nós pode prever com certeza como a tecnologia ou a legislação se desenvolverão nesta área, mas podemos tentar manter-nos atualizados sobre ambas – novas tecnologias e novas leis – para proteger os nossos interesses enquanto a paisagem muda.

+++

Jim Rosenfeld é parceiro e Bianca Chamusco é associado do grupo de mídia e entretenimento nos escritórios da DWT em Nova York e Seattle. Para obter mais informações, entre em contato com Jim, Bianca ou outro membro de nosso mídia e entretenimento equipe e inscreva-se em nossos alertas.