Especialista em IA emite um aviso terrível após conhecer a princesa Anne na residência real

O académico da Universidade de Montreal disse que os actuais sistemas de IA deveriam assustar o público, afirmando: “(IA) deveria assustar-nos porque neste momento não creio que estejamos a construir sistemas que sejam seguros, pelo menos não são fiáveis”.

O professor Bengio atua como diretor científico do AI Hub do Canadá e faz parte do Conselho Consultivo Científico das Nações Unidas.

|

PA

O investigador nascido no Canadá apontou para um conjunto crescente de evidências científicas que demonstram padrões preocupantes no comportamento da IA.

“Há agora um grande número de experiências científicas que mostram que eles se comportam como se quisessem preservar-se”, disse ele.

O professor Bengio revelou que descobertas recentes revelaram tendências ainda mais alarmantes.

“Ainda mais recentemente, eles querem impedir que outras IAs sejam desligadas. E estariam dispostos a mentir, trapacear e, você sabe, violar nossas instruções para se preservarem ou preservarem outra IA”, alertou.

|

PA

O professor descreveu estas descobertas como profundamente preocupantes, dizendo: “Acho que isso deveria acordar as pessoas. Isto é muito sério”.

Quando solicitado a comparar a abordagem do Reino Unido à IA com a de outras nações, o Professor Bengio sugeriu que o ritmo de implantação não era a principal preocupação.

“Não creio que o Reino Unido se deva sentir mal pela rapidez com que a IA está a ser implementada. Estou mais preocupado por não estarmos realmente a prestar atenção às consequências dessas implementações”, disse ele.

O conselheiro expressou frustração pelo facto de nem as forças comerciais nem as governamentais estarem a abordar as questões fundamentais.

|

PA

“Estamos implantando sistemas que não entendemos completamente, que às vezes têm um comportamento muito preocupante. Isso é algo que as atuais forças que pressionam as empresas e os governos não estão realmente abordando”, disse ele.

Questionado sobre se a sociedade estava a adaptar-se adequadamente à crescente presença da IA, a sua resposta foi contundente: “Não é suficiente”.

Apesar destes avisos, o Professor Bengio expressou optimismo sobre possíveis soluções. Ele estabeleceu uma organização sem fins lucrativos dedicada à pesquisa de métodos para a construção de estruturas seguras de IA.

|

PA

“Agora tenho certeza de que existe uma maneira de treinar esses sistemas para que sejam completamente honestos”, disse ele.

No entanto, atingir este objetivo exigirá mais do que inovação técnica, acrescentando: “Também serão necessários muitos esforços políticos para garantir que as empresas serão incentivadas a construir sistemas que tenham este tipo de salvaguardas”.

O Professor Bengio também alertou sobre riscos mais amplos num mundo cada vez mais digital, alertando: “Hoje tudo é informatizado, por isso existe um perigo real de que, se esses sistemas acabarem nas mãos erradas, sejam usados ​​de formas que podem ser muito desestabilizadoras para a forma como o nosso mundo funciona neste momento.”