Influenciador falso do MAGA AI exposto como conta ‘poderia levar a processo’

Uma falsa modelo MAGA do Instagram foi exposta por ser IA e alegar valor roubado para seu um milhão de fãs. A verdade por trás do relato está finalmente vindo à tona

Uma conta falsa no Instagram se passando por uma soldado loira do Exército chamada Jessica Foster acumulou mais de 1 milhão de seguidores antes que os investigadores a expuseram como um modelo gerado por IA.

O Instagram conta faz parte de uma tendência crescente de fabricação de inteligência artificial militares personas construídas para atrair público e gerar renda online.

O grupo de vigilância Military Phony, que rastreia falsas alegações militares, chama a prática de “valor digital roubado”, fabricando oficiais militares online para ganhar confiança e dinheiro. Os administradores fazem uma distinção entre violações da Lei Federal de Valor Roubado, que proíbe reivindicar falsamente honras militares específicas, como a Purple Heart, para ganho material, e a representação online que pode não atender a essa barreira legal, mas causa danos semelhantes. Esta notícia surge em meio a sinais de tensão entre Karoline Leavitt e Donald Trump após ela admitiu que não está mais no “time dele”.”

LEIA MAIS: Karoline Leavitt sugere arrependimento enquanto Donald Trump continua a se envergonharLEIA MAIS: Por dentro da lista de convidados do chá de bebê de Karoline Leavitt – incluindo três não comparecimentos inesperados

Os avanços na IA estão a tornar as identidades falsas mais rápidas de construir, mais difíceis de detetar e mais eficazes na exploração da confiança pública, dizem os investigadores.

Uma conta separada chamada Emily Hart misturava postagens políticas conservadoras com conteúdo de estilo de vida antes de direcionar os seguidores para serviços pagos de assinatura para adultos.

A revista Wired informou que a conta foi criada por um estudante de medicina de 22 anos que usava o pseudônimo “Sam”. Ele disse ao canal que recorreu à geração de imagens de IA para ganhar dinheiro extra enquanto estava na escola.

Sam usou a IA Gemini do Google para moldar a persona, que o chatbot direcionou para uma identidade conservadora. A ferramenta observou que os homens americanos mais velhos tendem a ser mais leais financeiramente aos criadores online, influenciando o direcionamento da conta.

O Pentágono recusou-se a abordar a tendência diretamente.

“Como se passar por membro das forças armadas é uma violação da lei federal, encaminhamos você ao FBI”, disse um funcionário do Departamento de Defesa ao Military.com.

Especialistas jurídicos dizem que a diferença entre discurso protegido e conduta criminosa se resume ao dinheiro.

“A simples afirmação de ser um membro do serviço militar, sem qualquer dimensão comercial, e simplesmente a procura de fama ou influência, é geralmente protegida constitucionalmente”, disse Eugene Volokh, membro sénior da Hoover Institution e professor emérito de direito na UCLA.

Essa protecção termina quando falsas alegações são utilizadas para obter dinheiro ou outros bens de valor.

“Assim, tentar obter dinheiro ou outros valores por meio de conhecimento e falsidades materiais, inclusive alegando ser militar, é punível”, disse Volokh. “Isso poderia levar a ações judiciais, execução civil e até responsabilidade criminal.”

O padrão se aplica igualmente a personas geradas por IA, disse Volokh.

A Meta, proprietária do Instagram, exige que os usuários divulguem conteúdo gerado por IA, mas não explicou publicamente como essa política é aplicada. A empresa não respondeu às perguntas.

Muitas contas são retiradas somente depois de conquistarem grandes seguidores e gerarem grandes receitas.

Military Phony observou que as imagens de IA muitas vezes distorcem detalhes uniformes e insígnias de classificação que observadores treinados usam para detectar falsificações.

Clique aqui para seguir o Mirror US no Google News para se manter atualizado com as últimas notícias, esportes e histórias de entretenimento.