‘Mercy’ de Chris Pratt alerta sobre IA no sistema de justiça

Aviso: esta postagem contém spoilers de “Mercy”.

Hollywood sempre teve uma tendência a levar a sério a frase “a arte imita a vida”, especialmente quando se trata de Política americana. Vimos isso em abundância nos últimos anos com o Presidente Donald Trumpe ainda mais durante o seu segundo mandato controverso, que reprimiu a imigração, o crime e o policiamento neste país.

Isso foi tudo em que consegui pensar enquanto assistia “Mercy”, o novo thriller de ficção científica estrelado por Chris Pratt, enquanto minhas preocupações com o futuro da justiça na América aconteciam na tela.

Ambientado em 2029, o filme gira em torno de um intenso julgamento em que o detetive de Los Angeles Chris Raven (Pratt) é acusado de matar sua ex-esposa (Annabelle Wallis). Com apenas 90 minutos para limpar seu nome, Raven deve se defender diante de um sistema judicial administrado por IA que ele uma vez saudou como “o futuro da justiça criminal” (assim afirma o slogan do filme) – só que agora ele está bancando juiz, júri e carrasco com sua vida.

A maior parte do filme é passada com Raven de ressaca amarrado a uma cadeira, conduzindo sua própria investigação remota de assassinato diante de uma juíza de IA com cara de pôquer (interpretada por Rebecca Ferguson). Como principal suspeito, ele ofereceu um arsenal de recursos – incluindo campainhas e câmeras corporais, contas de mídia social, câmeras de vigilância pública, uma linha telefônica capaz de entrar em contato com qualquer pessoa com quem ele solicite falar e mais ferramentas digitais que são alarmantemente acessíveis demais – para defender seu caso e provar, além do limite de 92% de dúvida razoável, que ele não cometeu o crime.

Caso contrário, ele será automaticamente executado em um tribunal (porque, neste filme, esse é um precedente totalmente legal).

O filme se desenrola através de uma série de reviravoltas, culminando na revelação de que o patrocinador de Raven no AA – e colega de trabalho de sua esposa – Rob (Chris Sullivan) orquestrou seu assassinato como um ato de vingança contra o detetive. Como o filme sugere no início, o irmão de Rob foi o primeiro réu que Raven apresentou ao tribunal da IA, e ele foi executado por um crime que não cometeu. A verdade é ainda mais profunda a partir daí – ao que parece, o parceiro de Raven, Jaq (Kali Reis), suprimiu as evidências que o teriam inocentado.

Outro caso clássico de corrupção humana. No entanto, “Mercy” mostra até onde alguns indivíduos irão para legitimar um sistema de justiça orientado pela IA que presume primeiro a culpa e elimina o devido processo.

“Mercy” marca outra entrada na tela do cineasta Timur Bekmambetov, o mesmo produtor por trás de títulos de gênero como “Unfriended”, “Searching”, “Profile”, “Missing” e “War of the Worlds” do ano passado. Este último filme, no entanto, leva o formato um pouco mais longe, utilizando a sua estrutura altamente técnica para retratar uma visão arrepiante da vigilância constante dos cidadãos e da erosão da privacidade digital.

Quer tenham sido essas as intenções do filme ou não, ele levanta ansiedades válidas em torno do uso da IA ​​em sistemas de poder já falhos, especialmente no que se refere ao excesso de policiamento. Essas preocupações ressoam fortemente hoje, especialmente quando a autorização de Trump para o envio de tropas federais continua afetando as cidades americanas.

Tomemos, por exemplo, a sequência de abertura de “Mercy”, que mostra a polícia a invadir as ruas de Los Angeles, alegando que o desemprego em massa e os sem-abrigo levaram a cidade a uma “epidemia de crime”. Segundo o filme, as zonas vermelhas destinadas a restringir indivíduos suspeitos de actividades violentas falharam, o que levou a mais “medidas extremas”, ou seja, a criação do Tribunal da Misericórdia.

A ideia é que um tribunal de alta tecnologia reduziria a necessidade de julgamentos demorados, delegando toda a autoridade a um juiz de IA, o que, na sua opinião, faz sentido para a segurança pública.

O que o ponto de vista do filme ignora, porém, é que depositar demasiada fé em qualquer instituição, especialmente numa instituição encarregada de fazer a chamada justiça, inevitavelmente deixa margem para erros. Um sistema de IA, por exemplo, não consegue dar conta de um agente corrupto que suprime provas que possam provar a inocência de alguém, abrindo caminho a condenações injustas. Este tipo de má conduta há muito que atinge mais as comunidades de cor, especialmente as comunidades negras – basta olhar para casos como o Cinco exonerados ou o Harlem Parque Três. Dar ainda mais autoridade aos decisores algorítmicos apenas levanta a questão de quão maiores poderão ser esses danos.

Essa pergunta permaneceu comigo durante todo “Mercy”. Se o protagonista policial do filme – agora enquadrado como uma “vítima” do mesmo sistema que uma vez defendeu – puder encontrar-se preso num labirinto onde a IA determina o seu destino, que proteção poderiam esperar os civis comuns (alguns dos quais já são alvos injustos e discriminados)?

Em entrevista com Estudiosos de Cinemao diretor Bekmambetov sugeriu que a IA é algo que se pode treinar para compreendê-los e, por extensão, antecipar as próprias necessidades.

“Porque quanto mais você trabalha com um parceiro, mais e mais esse parceiro entende você”, disse ele.

Isso não significa que a IA possa alcançar uma compreensão perfeita. E é precisamente essa limitação que torna o seu envolvimento em assuntos de justiça criminal tão preocupante. Portanto, parece que cabe aos humanos permanecer vigilantes, questionar as decisões da inteligência artificial e garantir que o julgamento moral não seja abusado pela tecnologia nos assuntos de justiça criminal.

“Espero que as pessoas questionem a IA e a relação dos humanos com a IA”, observou Ferguson nas notas de produção do filme. “A Inteligência Artificial é uma ferramenta fantástica, mas deveria ser sempre apenas isso – uma ferramenta para ajudar os humanos, não uma alternativa aos humanos. Este filme destaca, num sentido narrativo, algumas das maneiras pelas quais confiar na IA pode correr muito mal.”

Embora seja uma obra de ficção, “Mercy” oferece uma visão na tela que parece muito plausível. Embora o filme sugira que uma inevitável aquisição da IA ​​deveria nos encorajar a considerar usos responsáveis ​​para a tecnologia, eu diria que não há uma maneira moralmente defensável para os algoritmos tomarem decisões sobre vidas e condições humanas.

Com filmes como “Mercy”, a conclusão não deve ser o otimismo total sobre as capacidades futuras da IA, mas um lembrete preventivo dos perigos de entregar demasiado controlo à tecnologia sobre aspetos já defeituosos das nossas vidas.

Já é suficientemente mau que ainda estejamos a lutar contra defeitos no nosso atual sistema de justiça – um sistema que, atualmente, parece mais rápido de resolver. visar jornalistas que fazem seu trabalho do que responsabilizar agentes federais por atirando em cidadãos nas ruas.

Não precisamos de IA para acelerar o aumento da corrupção.

“Mercy” agora está em exibição nos cinemas.