Três dias depois de Charlie Kirk ter sido assassinado publicamente, um vídeo apareceu no YouTube anunciando a estreia do último single da cantora e compositora Adele, um grande tributo ao legado do ativista conservador.
“Descanse em paz, Charlie Kirk!” uma voz que parecia um pouco com a de Adele cantou durante um vídeo mostrando Kirk com sua filha. “Os anjos cantam seu nome. Sua história está escrita nas estrelas, um fogo que não diminui.”
De acordo com postagens no YouTube, as homenagens às celebridades foram abundantes. Eles vieram de Ed Sheeran, Eminem, Taylor Swift, Celine Dion, Lady Gaga, Rihanna, Post Malone, Dax, Lil Wayne, Jelly Roll, Selena Gomez, Justin Bieber e Imagine Dragons.
Mas nenhum deles era real. Todos eles foram gerados usando inteligência artificial. E muitas vezes apresentavam imagens falsas em miniatura que mostravam os artistas em lágrimas ou com expressões tristes.
O PolitiFact analisou 24 vídeos do YouTube que alegavam mostrar canções de tributo dedicadas a Kirk. Combinados, esses vídeos obtiveram mais de 4,6 milhões de visualizações e alguns foram compartilhados em outras plataformas.
Duas canções de tributo a Charlie Kirk foram atribuídas a Ed Sheeran. Mas eles foram feitos com IA. (Captura de tela/YouTube)
Um foi carregado no dia do assassinato de Kirk, ilustrando a velocidade com que os criadores podem gerar músicas relacionadas a um grande evento.
Quase todos os vídeos continham isenções de responsabilidade dizendo que continham conteúdo alterado ou sintético, mas muitos espectadores deixaram comentários que mostram que acreditavam que essas músicas eram reais.
“Obrigado, Justin”, escreveu um comentarista que pensou que ela estava respondendo a Bieber.
“Não esperava isso de Bieber”, escreveu outro.
Comentários sobre um vídeo do YouTube intitulado “Justin Bieber – Sentiremos falta de Charlie Kirk (uma homenagem a Charlie Kirk)”. A música foi feita com IA. (Captura de tela/YouTube)
Os tributos musicais parecem ter levado uma banda completa por semana ao estúdio, disse Bryan Pardo, professor de ciência da computação da Northwestern University e chefe do Laboratório de Áudio Interativo. Essa é parte da razão pela qual as pessoas acreditam neles.
“A maioria das pessoas não percebe o quão longe chegou o conteúdo gerado por IA”, disse ele.
Especialistas dizem que as ferramentas de IA podem imitar razoavelmente as vozes dos artistas, especialmente quando o ouvinte não passa muito tempo ouvindo esses artistas. Mas existem maneiras de identificar anormalidades sonoras típicas do uso de IA.
As ferramentas podem gerar músicas rapidamente com base em instruções simples, mesmo aquelas semelhantes ao estilo de um artista
Geradores de música AI, como Suno e Udio, são treinados usando um vasto conjunto de músicas existentes. Com um breve prompt do usuário, eles criam novas músicas de forma rápida e econômica.
PolitiFact testou.
“Faça uma música sobre o luto pela morte repentina de uma figura inspiradora na política, no estilo de Taylor Swift”, escrevemos nas instruções para as contas gratuitas de Suno e Udio. As ferramentas rejeitaram as solicitações alegando que não têm permissão para gerar a imagem de um artista.
Tentamos novamente usar uma linguagem mais genérica: “Faça uma música sobre o luto pela morte repentina de uma figura inspiradora na política, no estilo de uma cantora pop de 35 anos com um público jovem, principalmente feminino”.
Ambas as ferramentas produziram músicas em poucos instantes – duas músicas diferentes por prompt.
(Captura de tela/Áudio)
Isso não deixa os músicos felizes. Grandes empresas musicais incluindo Sony Music Entertainment Universal Music Group e Warner Records através da Recording Industry Association of America processado ambas as plataformas de IA em junho de 2024, acusando-as de usar músicas protegidas por direitos autorais para treinar suas ferramentas de IA.
Suno disse em processo judicial que o modelo foi treinado usando “dezenas de milhões de gravações”, mas argumentou que o processo constitui uso justo.
Artistas como Imagine Dragons, Katy Perry, Nicki Minaj e Stevie Wonder argumentou em uma carta de 2024 que treinar bots de IA no trabalho dos artistas “degradará o valor do nosso trabalho e nos impedirá de sermos compensados de forma justa por ele”.
“Devemos nos proteger contra o uso predatório da IA para roubar vozes e imagens de artistas profissionais, violar os direitos dos criadores e destruir o ecossistema musical”, dizia a carta.
Essas ferramentas usam tecnologia semelhante à usada pelo ChatGPT, disse Tom Collins, professor associado de tecnologia de engenharia musical da Universidade de Miami. Esses modelos são treinados em grandes conjuntos de dados com o objetivo de produzir uma linguagem semelhante à humana.
Vocais, letras e instrumentação podem revelar pistas generativas de IA
Alguns IA artistas ganharam seguidores e pelo menos um artista de IA garantiu um contrato de gravação.
Através de comentários em vídeos como os das músicas de tributo, os fãs às vezes mostram que não percebem que estão ouvindo música criada por IA.
“Esses modelos estão definitivamente no estágio em que, se você não conhece as capacidades líricas de um artista, ou a qualidade de sua voz cantada, com base em, você sabe, várias horas de audição no início ou recentemente em sua vida, acho que você pode ser enganado com relativa facilidade”, disse Collins.
Então, quais são algumas dicas que as pessoas podem ouvir?
Siwei Lyu, professor de ciência da computação e engenharia da Universidade de Buffalo, disse que tocar a música em loop por algumas rodadas pode revelar algumas anormalidades. Os vocais, por exemplo, podem soar “excessivamente suaves ou robóticos”, conter padrões respiratórios incomuns, ter consoantes borradas ou vibrato irregularmente regular, disse ele. Lyu analisou as músicas sem isenções de responsabilidade de IA e encontrou elementos sintéticos no áudio, incluindo mudanças repentinas na qualidade e clareza vocal.
Por exemplo, um tributo a Kirk canção falsamente atribuído a Dax e Lil Wayne começa com uma qualidade vocal baixa, antes de mudar para um som mais alto e claro, disse Lyu. Ele também detectou mudanças na clareza da voz nos carimbos de data/hora 0:46 e 0:56.
Lyu e Collins disseram que a mixagem vocal e de instrumentação pode não ser tão nítida quanto na versão de estúdio de uma faixa real.
Collins comparou a criação de música por IA com a geração de imagens: “Se você gerou a imagem de uma pessoa, talvez essa pessoa tenha seis dedos, ou tenha, tipo, dois dedos que estão meio derretidos. Esse tipo de fusão, ou aquela turvação, o equivalente em áudio disso são como notas individuais que não parecem realmente ser uma nota de guitarra ou de piano, mas algo intermediário.”
As letras geradas por IA costumam ser genéricas e podem ter mudanças abruptas de qualidade, disse Lyu. Os esquemas de rima podem ser muito regulares, a linguagem pode ser clichê e a música também pode não ter a nuance emocional normalmente encontrada em apresentações reais.
Collins disse que as letras geradas por IA são tipicamente estereotipadas e simplistas, pois visam cumprir as instruções do prompt. Uma sugestão sobre luto pode produzir letras que contenham as palavras “velas” e “céu”.
A análise do GPTZero encontrou 98% de chance de que a letra de um dueto de tributo supostamente feito por Adele e Ed Sheeran tenha sido gerada por IA. (Captura de tela/GPTZero)
Collins disse que espera que essas ferramentas se tornem mais sofisticadas, produzindo música que seja menos facilmente identificável como IA. “Se avançarmos mais alguns anos, posso imaginar que a aproximação, que o mimetismo, seria muito melhor e seria mais difícil, até para mim, dizer”, disse Collins.
Política do YouTube a partir de 2023 exige que os criadores “divulguem quando criaram conteúdo alterado ou sintético que seja realista, inclusive usando ferramentas de IA”. Se os criadores não divulgarem essas informações, poderão ter o seu conteúdo removido, ser suspensos do Programa de Parcerias do YouTube ou enfrentar outras penalidades.
Em muitas das canções de tributo, essa divulgação não é exibida de forma destacada; ele está oculto na descrição do vídeo e não será visto no desktop, a menos que o espectador clique em “mais”.
“Há uma responsabilidade nas plataformas de streaming de que elas não estão realmente cumprindo com a verificação”, disse Collins.
A pesquisadora da equipe do PolitiFact, Caryn Baird, contribuiu para este relatório.
Esta verificação de fatos foi originalmente publicado por PolitiFactque faz parte do Instituto Poynter. Veja as fontes para esta verificação de fatos aqui.
‘O artigo anterior pode incluir informações divulgadas por terceiros’
‘Alguns detalhes deste artigo foram extraídos da seguinte fonte www.poynter.org’
‘O artigo anterior pode incluir informações divulgadas por terceiros’
‘ Alguns detalhes deste artigo foram extraídos da seguinte fonte celebrity.land ’
