A experiência do ‘Black Mirror’ me deixou mal do estômago

Uma experiência de realidade virtual que pede aos participantes que assinem seus dados biométricos soa como o início de um episódio de Espelho Negro. Mas na verdade é a realidade do Espelho Negro Experience, agora aberto no The Shed em Nova York.

A experiência guia você pelos corredores do Phaethon Labs, uma empresa futurista onde você pode construir um clone digital de si mesmo, chamado LifeAgent. Este clone de IA é capaz de realizar todas as tarefas desagradáveis ​​que você não deseja, além de prepará-lo para o sucesso no que diz respeito aos seus objetivos de vida. Tudo isso e o Espelho Negro A experiência que você precisa é seu nome, seus objetivos de vida e seu rosto e voz. Você não pode participar da experiência sem consentir o uso do seu rosto e voz.

Num mundo onde nossos dados pessoais são vendidos e embalados diariamente, você pode pensar: “O que é mais um formulário de consentimento, certo?” Mas para quem viu Espelho Negroa ideia de abrir mão da sua imagem é suficiente para levantar bandeiras vermelhas. (Ou, se você for como eu, isso o deixará totalmente enjoado.) Além disso, há precedência para a preocupação: lembre-se de quando Netflix usou fotos de usuários em outdoors vinculados a “Joan is Awful”?

Se você se sentir desconfortável em abrir mão de dados biométricos para um passeio divertido de RV, os funcionários do Espelho Negro A experiência orientará você sobre o que o processo realmente envolve. Seus dados são armazenados pela UNIVRSE, a empresa de VR por trás da experiência, por quatro semanas após sua viagem pelo Phaethon Labs. Se desejar que seus dados sejam excluídos mais cedo, há um endereço de e-mail que você pode contatar. Fiz isso e a resposta ao meu pedido foi rápida e útil.

Depois de superar o obstáculo dos dados biométricos e colocar seu fone de ouvido VR, o que vem a seguir? Os participantes passam por uma “varredura neural” para entender melhor o que o LifeAgent pode fazer por eles. Isso envolve jogar minijogos e contar a Sigmund Freud sobre um sonho recente. (Sim, é verdade.) A última sequência também envolve respostas geradas por IA de Freud, onde ele analisa sua resposta e cria uma imagem de IA do referido sonho.

Depois disso, você finalmente conhece o seu LifeAgent, uma réplica digital com seu rosto e voz. Os resultados trouxeram de volta minha náusea com força total. Meu LifeAgent foi um cartão postal direto do vale misterioso, que me levou a considerar a tecnologia de IA por trás dele e a rapidez com que ela avançou nos últimos anos. Eu me inscrevi para fazer essa versão minha, mas também vivemos em um mundo onde qualquer um pode fazer deepfakes de IA de qualquer outra pessoa, com exemplos que vão desde memes virais para estúdios de cinema e TV ressuscitando atores falecidos. (Por sua vez, o Espelho Negro A experiência usa artistas humanos. Karina Matas Piper dá voz ao fundador do Phaethon Labs, Cody Winters, enquanto James Phillips dá voz a vários personagens. Em outro lugar, Imanol Dieguez atua como ator mocap.)

Após a revelação perturbadora do seu LifeAgent, o resto do Espelho Negro A experiência soa estranhamente vazia. Em vez de realmente interrogar as implicações dos deepfakes de IA e as preocupações com privacidade e desinformação, ele lança você em uma sequência de ação de ficção científica. Os ambientes VR aqui são impressionantes, especialmente uma série de túneis labirínticos e uma vasta instalação de construção subterrânea. No entanto, nenhuma destas acções bombásticas parece estar em sintonia com o verdadeiro espírito da Espelho Negrocujos episódios geralmente levam a conclusões devastadoras, em vez de tiroteios divertidos.

O Espelho Negro A experiência não permite que você permaneça nesse pavor por tempo suficiente. Ele apenas aponta brevemente os problemas que seus AI LifeAgents podem causar, desde a alienação de simples tarefas humanas até o roubo total de identidade. Mas então ele muda e se deleita com a tecnologia de IA, até mesmo transformando seu LifeAgent criado por IA em um vídeo de lembrança para você se lembrar dessa viagem distópica. Olhando para o sorriso estranho estampado no rosto do meu eu IA em meu próprio vídeo de lembrança, fiquei pensando em um dos Espelho NegroOs lembretes mais prescientes da empresa: se você der um centímetro às empresas de tecnologia, elas percorrerão um quilômetro.

O Espelho Negro A experiência está agora no The Shed até 6 de setembro.