Meta que não conseguiu conter a disseminação de muitas imagens sexualizadas de celebridades da AI Deepfake no Facebook

Meta removeu mais de uma dúzia de imagens fraudulentas e sexualizadas de famosas atores e atletas depois que uma investigação da CBS News encontrou uma alta prevalência de Imagens de Deepfake de Ai-manipuladas na plataforma do Facebook da empresa.

Dezenas de imagens falsas e altamente sexualizadas dos atores Miranda Cosgrove, Jeanette McCurdy, Ariana Grande, Scarlett Johansson e a ex -estrela do tênis Maria Sharapova foram amplamente compartilhados por várias contas do Facebook, recebendo centenas de milhares de curtidas e muitos remetentes na plataforma.

“Removemos essas imagens para violar nossas políticas e continuaremos monitorando outras postagens violantes. Este é um desafio em todo o setor, e estamos trabalhando continuamente para melhorar nossa tecnologia de detecção e aplicação ”, disse o porta-voz da Meta Erin Logan à CBS News em comunicado enviado por e-mail na sexta-feira.

Uma análise de mais de uma dúzia dessas imagens pelo Reality Defender, uma plataforma que trabalha para detectar mídia gerada pela IA, mostrou que muitas das fotos eram imagens de Deepfake-com corpos de roupas íntimas geradas pela IA, substituindo os corpos de celebridades em de outra forma Fotografias reais. Provavelmente, algumas das imagens foram criadas usando ferramentas de costura de imagens que não envolvem IA, de acordo com a análise do Defender Reality.

“Quase toda a pornografia de Deepfake não tem o consentimento de que o assunto é profundo”, disse Ben Colman, co-fundador e CEO da Reality Defender ao CBS News no domingo. “Esse conteúdo está crescendo a uma taxa estonteante, especialmente porque as medidas existentes para interromper esse conteúdo raramente são implementadas”.

A CBS News procurou comentários de Miranda Cosgrove, Jeanette McCurdy, Ariana Grande e Maria Sharapova nessa história. Johansson se recusou a emitir qualquer comentário, de acordo com um representante do ator.

Sob a política de bullying e assédio da Meta, a empresa proíbe “Photoshop ou desenhos sexualizados depreciativos” em suas plataformas. A empresa também proíbe nudez adulta, atividade sexual e exploração sexual de adultos, e seus regulamentos pretendem impedir que os usuários compartilhem ou ameaçam compartilhar imagens íntimas não consensuais. A Meta também lançou o uso de etiquetas de “IA Info” para marcar claramente o conteúdo que é manipulado da IA.

Mas as perguntas permanecem sobre a eficácia do policiamento da empresa de tecnologia desse conteúdo. A CBS News descobriu que dezenas de imagens sexualizadas de Cosgrave e McCurdy, geradas pela IA, ainda estão disponíveis publicamente no Facebook, mesmo após o compartilhamento generalizado desse conteúdo, violando os termos da empresa, foi sinalizado para meta.

Uma dessas imagens Deepfake de Cosgrave que ainda estava no fim de semana foi compartilhada por uma conta com 2,8 milhões de seguidores.

Os dois atores – ambos ex -estrelas infantis do Nickelodeon Show Icarly, que pertence à empresa controladora da CBS News, Paramount Global – são os mais prolificamente direcionados para o conteúdo do DeepFake, com base nas imagens de figuras públicas que a CBS News analisou.

O Conselho de Supervisão da Meta, um órgão quase independente que consiste em especialistas no campo dos direitos humanos e liberdade de expressão, e faz recomendações para moderação de conteúdo nas plataformas da Meta, disse à CBS News em uma declaração por e-mail que os regulamentos atuais da empresa em torno do conteúdo de DeepFake sexualizado são insuficientes.

O Conselho de Supervisão citou recomendações que fez para meta no ano passado, inclusive instando a empresa a tornar suas regras mais claras, atualizando sua proibição contra o “Photoshop sexualizado depreciado” para incluir especificamente a palavra “não consensual” e para abranger outra manipulação de fotos Técnicas como a IA.

O Conselho também recomendou que a meta dobra sua proibição de “Photoshop sexualizados depreciativo” nos regulamentos de exploração sexual adulta da empresa, de modo que a moderação desse conteúdo seria mais rigorosamente imposta.

Perguntado na segunda -feira pela CBS News sobre as recomendações do conselho, meta apontou para o Diretrizes em seu site de transparênciaque mostram que a empresa até agora rejeitou as sugestões, embora a Meta observou em sua declaração que ainda estava considerando maneiras de sinalizar uma falta de consentimento nas imagens geradas pela IA. A Meta também disse que estava considerando reformas em suas políticas de exploração sexual adulta, para “capturar o espírito” das recomendações do conselho.

“O conselho de supervisão deixou claro que imagens íntimas não consensuais de DeepFake são uma violação séria de privacidade e dignidade pessoal, prejudicando desproporcionalmente mulheres e meninas. Essas imagens não são apenas um uso indevido de tecnologia-elas são uma forma de abuso que pode ter consequências duradouras ”, disse Michael McConnell, co-presidente do conselho de supervisão, à CBS News na sexta-feira.

“O conselho está monitorando ativamente a resposta da Meta e continuará pressionando por salvaguardas mais fortes, aplicação mais rápida e maior responsabilidade”, disse McConnell.

A Meta não é a única empresa de mídia social a enfrentar a questão do conteúdo generalizado e sexualizado do DeepFake.

No ano passado, a plataforma X de Elon Musk bloqueou temporariamente as pesquisas relacionadas a Taylor Swift depois que imagens pornográficas falsas geradas pela IA, à semelhança do cantor, circularam amplamente na plataforma e ganharam milhões de visualizações e impressões.

“Publicar imagens de nudez não consensual (NCN) é estritamente proibida em X e temos uma política de tolerância zero para esse conteúdo”, disse a equipe de segurança da plataforma em um post no momento.

Um estudo publicado no início deste mês pelo governo do Reino Unido descobriu o número de imagens de Deepfake nas plataformas de mídia social que se expandem rapidamente, com o governo projetando que 8 milhões de foscos deepfakes seriam compartilhados este ano, contra 500.000 em 2023.