A Celebrity AI Deepfakes está inundando a Internet. Hollywood está pressionando o Congresso a revidar

Atlanta
Celebrity.land

–

Steve Harvey é mais conhecido por conceder dinheiro aos concorrentes “Family Feud” ou com conselhos em seu programa de rádio.

Mas, nos últimos anos, ele também se tornou um alvo popular de memes gerados pela IA, muitos dos quais são engraçados e aparentemente inofensivos-como representações de Harvey como uma estrela de rock ou vistas fugindo de demônios.

Atores mais sinistros, no entanto, estão usando versões geradas pela IA da imagem, voz e semelhança de Harvey para golpes.

No ano passado, Harvey estava entre celebridades como Taylor Swift e Joe Rogan, cujas vozes foram imitadas pela IA e usadas para promover uma farsa que prometesse que o governo de pessoas forneceu fundos.

“Eu tenho dito a vocês há meses para reivindicar esse dólar gratuito de US $ 6.400”, uma voz que soa como Harvey’s diz em um vídeo.

Agora, Harvey está falando defendendo a legislação e as penalidades para as pessoas por trás desses golpes – e as plataformas que as hospedam. E o Congresso parece estar ouvindo; Está considerando várias partes da legislação que visam penalizar os usos nefastos da IA, incluindo uma versão atualizada da Lei No Fakes, que visa manter criadores e plataformas responsáveis ​​por imagens, vídeos e som não autorizados.

O grupo bipartidário de senadores por trás da lei, incluindo os democratas Chris Coons de Delaware e Amy Klobuchar de Minnesota e os republicanos Marsha Blackburn, do Tennessee e Thom Tillis, da Carolina do Norte, planejam reintroduzi -lo nas próximas semanas, disse uma fonte familiarizada com o assunto à celebridade. Ele se junta a outra legislação destinada a criminalizar a pornografia de Deepfake gerada pela IA, chamada Lei de Take It Down, que também está perante o Congresso e ganhou apoio da primeira -dama Melania Trump essa semana.

Em 2025, Harvey diz que os golpes usando sua semelhança estão em “um alto de todos os tempos”.

“Eu me orgulhei de minha marca ser de autenticidade, e as pessoas sabem disso e, portanto, assumem o fato de que sou conhecido e confiável como uma pessoa autêntica, muito sincera”, disse Harvey à celebridade. “Minha preocupação agora são as pessoas que isso afeta. Não quero que os meus fãs ou pessoas que não sejam fãs se machucam com alguma coisa. ”

Os principais artistas de gravação, atores e outras celebridades foram envolvidos em escândalos de IA nos últimos dois anos, à medida que a tecnologia evolui rapidamente. Uma mulher na França perdeu US $ 850.000 depois que os golpistas usaram imagens geradas pela IA de Brad Pitt para aconselhar-se a pensar que estava ajudando o ator.

A atriz Scarlett Johansson, que se agarrou abertamente com AI imitando sua semelhança, também deu apoio por trás da legislação.

“Há uma onda de 1.000 pés chegando em relação à IA que vários países progressistas, não incluindo os Estados Unidos, responderam de maneira responsável”, Johansson disse em um comunicado de fevereiro para celebridades.land Depois de um vídeo gerado pela IA, representando uma versão falsa de sua resposta às observações anti-semitas de Kanye West se tornaram virais. “É aterrorizante que o governo dos EUA fique paralisado quando se trata de aprovar legislação que proteja todos os seus cidadãos contra os perigos iminentes da IA”.

Harvey disse que também apóia a legislação, que recebeu apoio da Academia de Gravação, da Screen Actors Guild, da Motion Picture Association, das principais agências de talentos e alguns dos maiores nomes de Hollywood.

“É liberdade de expressão, não é a liberdade de ‘Faça -me falar da maneira que você quer que eu fale'”, disse Harvey. “Isso não é liberdade, é abuso. E o Congresso precisa se envolver nessa coisa, porque também vai machucá -los também. ”

Antes de reintroduzir a Lei No Fakes, os senadores também esperam obter apoio das plataformas on -line, que potencialmente seriam penalizadas por hospedar esse conteúdo de IA sob o projeto. A conta atual multada em plataformas US $ 5.000 por cada violação – o que significa que uma criação de IA viral pode rapidamente somar milhões de dólares em multas. Uma fonte familiarizada com o projeto disse que as plataformas não seriam trazidas à custa de penalidades mais baixas.

“Ficamos muito claros com as plataformas que retenderam seu endosso por enquanto, que não vamos fazer nenhuma alteração, a menos que as pessoas que estamos fazendo essa conta, o pessoal das indústrias criativas, estão bem com isso”, disse uma pessoa familiarizada com o projeto de lei. “Não vamos vendê -los para tentar colocar as plataformas a bordo”.

Mas os críticos do projeto de lei, que incluem organizações de defesa pública como conhecimento público, Centro de Democracia e Tecnologia, American Library Association e a Electronic Frontier Foundation, se preocupem que o projeto de lei, como escrito, apresenta muita regulamentação. Em uma carta aos senadores No ano passado, eles alertaram que poderia colocar em risco os direitos da Primeira Emenda e permitir a desinformação, resultando em uma “torrente” de ações judiciais.

“Entendemos e compartilhamos as preocupações sérias que muitos expressaram sobre as maneiras pelas quais a tecnologia de réplica digital pode ser mal utilizada, com danos que podem impactar pessoas comuns, bem como artistas e celebridades”, escreveram eles. “Esses danos merecem a atenção séria que estão recebendo, e evitá -los pode muito bem envolver legislação para preencher lacunas na lei existente. Infelizmente, a conta de No Fakes recentemente intoduzida vai longe demais na introdução de um IP federal totalmente novo. ”

Mas à medida que o Congresso passa pelos movimentos, a AI continua a evoluir. E as celebridades dizem que sentem que são limitadas na maneira como podem perseguir imitadores usando sua semelhança – especialmente contas on -line anônimas.

É aí que entradas empresas como a Vermillio AI. A empresa, que fez parceria com grandes agências de talentos e estúdios de cinema, usa uma plataforma chamada Traceid que rastreia instâncias de seus clientes e automatiza os pedidos normalmente complicados.

“Em 2018, havia talvez 19.000 peças de conteúdo de Deepfake”, disse o CEO da Vermillio, Dan Neely, Celebrity.land em uma entrevista. “Hoje, existem aproximadamente um milhão criados a cada minuto.”

Para as celebridades, o rastreamento de deepfakes pode ser especialmente desafiador, porque eles podem se espalhar tão rapidamente nas plataformas sociais. “Então, tentando encontrá -los, jogar este jogo de toupeira, é bastante complexo”, disse Neely.

Neely mostrou a conta Vermillio de Celebrity.Land Harvey, que incluiu chatbots gerados por voz da AI-I-I-I-I-I-I-I-ILATE destinados a parecer Harvey e vídeos falsos da personalidade da TV, incentivando o jogo.

Neely disse que a tecnologia da empresa usa um tipo de “impressão digital” para distinguir conteúdo autêntico e de material gerado pela IA. Isso envolve rastejar a web para imagens que foram adulteradas com o uso de grandes modelos de idiomas, mais conhecidos como LLMs, que são os blocos de construção de muitos serviços populares de IA generativos.

“Uma imagem sua é composta de milhões de dados”, disse Neely. “Como usamos esses dados para achar que existe na Internet?”

As celebridades podem pagar um serviço como o Vermillio. Mas para outros criadores, há menos recursos.

“Quanto mais cedo fizermos alguma coisa, acho que melhor seremos todos”, disse Harvey. “Porque, quero dizer, por que esperar? Quantas pessoas assistimos se machucar com isso antes de alguém fazer alguma coisa? ”