97 por cento das pessoas lutam para identificar músicas com IA, mas não é tão ruim quanto parece

O serviço de streaming Deezer realizou um experimento recentemente, com a ajuda da empresa de pesquisa Ipsos. A descoberta – que 97 por cento das pessoas não consigo dizer a diferença entre música totalmente gerada por IA e música feita por humanos – foi alarmante. Mas também não é toda a história.

Na pesquisa, 9.000 participantes ouviram três faixas e foram solicitados a adivinhar quais, se houver, foram totalmente geradas por IA. Se o participante não acertasse todos os três, eles eram colocados na pilha de erros. Isso significa que se você acertasse dois dos três, Deezer e Ipsos ainda diriam que você não conseguiria dizer a diferença entre música totalmente gerada por IA e música real.

A Deezer me enviou as três faixas usadas no estudo e então decidi fazer meu próprio experimento (menos científico). Pedi a 10 pessoas que ouvissem as mesmas faixas e dei-lhes o mesmo aviso. As pessoas tiveram dificuldade em identificar quais músicas eram totalmente IA. Apenas uma pessoa acertou os três. Mas se eu não agrupasse as respostas, os resultados seriam muito menos terríveis. As pessoas conseguiram identificar com sucesso se uma trilha era gerada por IA ou por humanos em 43% das vezes.

Também vale a pena notar que várias pessoas me disseram que uma das músicas era tão terrível, tão obviamente IA, que pensaram que era uma armadilha e adivinharam que era real.

Não é de surpreender que os participantes do estudo de Deezer tenham sido pegos de surpresa pelo desempenho ruim. Setenta e um por cento ficaram surpresos com os resultados e 51 por cento disseram que se sentiam desconfortáveis ​​por não serem capazes de dizer a diferença entre arte criada por IA e arte criada por humanos.

As opiniões sobre o impacto foram divididas, com 51 por cento acreditando que a IA levará à criação de música com “som mais genérico e de baixa qualidade”. De forma um tanto chocante, apenas 40% disseram que pulariam a música da IA ​​sem ouvir se a encontrassem conscientemente.

Uma área em que a maioria concordou, no entanto, foi a necessidade de transparência. Oitenta por cento querem que as músicas geradas por IA sejam claramente rotuladas. No momento, essa tem sido a abordagem da Deezer. Criou um sistema que pode automaticamente detectar e rotular conteúdo 100% gerado por IA dos modelos mais populares como Suno e Udio. A Deezer também exclui músicas rotuladas como IA de suas recomendações algorítmicas.

Spotify recentemente anunciado passos para combater o desperdício de IA em sua plataforma, mas não disse que rotularia explicitamente o conteúdo de IA. Anunciou políticas relativas à representação de IA e um novo filtro de spam que deve manter muitos dos piores atores fora de sua plataforma. Mas, em vez de uma rotulagem geral, está a trabalhar no sentido de um sistema de créditos padronizado, dizendo: “A indústria precisa de uma abordagem diferenciada à transparência da IA, para não ser forçada a classificar cada música como ‘é IA’ ou ‘não é IA’”.

Manuel Moussallam, diretor de pesquisa da Deezer, conta A beira que existe uma certa área cinzenta em torno do conteúdo híbrido que pode usar elementos de IA. Mas ele diz que isso “não é um problema técnico. É uma questão de transparência e é uma questão ética” que exigirá que todas as partes envolvidas, desde os criadores até os serviços de distribuição de música como o DistroKid e as plataformas de streaming, atuem de forma responsável.

O que está claro é que a quantidade de música gerada por IA sendo carregada é impressionante e só aumenta. A Deezer afirma que recebe mais de 50.000 faixas geradas por IA por dia, o que representa mais de 34% das músicas adicionadas ao serviço.

Moussallam diz que, embora a empresa receba uma quantidade estonteante de conteúdo de IA, ele representa apenas 0,5% dos fluxos, e a grande maioria dessa pequena parcela é fraudulenta. Embora ele admita que isso representa alguns desafios para o Deezer simplesmente devido ao volume, ele não acredita que isso mude drasticamente a experiência dos usuários. “Os humanos continuam a criar música e continuarão a ouvir a música feita por artistas reais”, diz ele.

Holly Herndonque usou modelos de IA personalizados extensivamente em sua própria música, concorda, contando A beira que “só porque alguém pode criar coisas kitsch polidas não significa que alguém se importará com essas músicas. Uma prática artística é muito mais sofisticada do que isso.”

Setenta por cento dos entrevistados acreditam que essas músicas totalmente baseadas em IA representam uma ameaça à subsistência dos músicos, e 64% acreditam que a IA pode levar a uma redução na criatividade. Mas Moussallam é menos pessimista, dizendo: “Não estamos caminhando para um futuro onde os humanos serão removidos do processo criativo, apenas a IA será integrada nos processos criativos”.