"Chatbots de IA podem ser agentes de radicalização muito perigosos"

Leor Zmigrod é autora do livro "O Cérebro Ideológico" [The Ideological Brain], lançado recentemente, que aborda as ligações entre a ideologia política e a biologia do cérebro.

Questionada sobre o impacto dos algoritmos que 'alimentam' o que vemos na Internet, a cientista manifesta a sua preocupação.

"Uma das coisas que mais me preocupa é como, quando analisamos os algoritmos que regem as redes sociais, estes nos fornecem informações extremamente binárias, informações a preto e branco", refere a cientista considerada pioneira na área da neurociência política.

"Para mim, quando vejo que, psicologicamente, as mentes mais vulneráveis são as mais rígidas, parece um desastre, porque se está a colocar as mentes mais vulneráveis e rígidas num ambiente, um ambiente de redes sociais, que lhes fornece as mais rígidas informações", aponta a neurocientista e investigadora.

Portanto, "é exatamente um lugar quase concebido para radicalizar as pessoas".

Nesse sentido, "precisamos de nos preocupar profundamente com estes algoritmos e com a regulação por trás deles e da mesma forma com a IA [inteligência artificial]", prossegue.

"E uma grande preocupação, porque, embora as redes sociais já sejam concebidas para nos fornecer as informações e o conteúdo mais extremos que nos assustam ou nos deixam com mais raiva, os 'chatbots' de IA não estão lá apenas para nos fornecer informações passivas, eles realmente envolvem-nos em conversas ativas", sublinha Leor Zmigrod.

"A menos que sejamos muito cuidadosos e lutemos para que estes 'chatbots' de IA incorporem valores com os quais nos preocupamos, podem ser agentes de radicalização muito, muito perigosos e muito, muito eficazes", sublinha.

Por isso, "o cérebro ideológico num contexto de IA representa uma situação muito perigosa".

Para a neurocientista, "O Cérebro Ideológico", o seu primeiro livro, é "um convite para que as pessoas reconsiderem a forma como abordam as ideologias e a vida em geral e para que percebam que as ideologias que escolhem podem realmente prejudicar os seus próprios corpos".

Ou seja, "podem torná-las menos flexíveis, menos sensíveis e, em última análise, menos livres", diz.

Depois, "espero que, ao mostrar a ciência do cérebro ideológico, o que acontece aos cérebros quando se radicalizam, possamos realmente reimaginar as consequências de ser extremista e não mais pensar no extremismo como uma boa virtude moral, mas sim perceber que abordar a vida de uma forma mais flexível e anti-ideológica é uma força que nos torna mais resilientes, que nos protege, porque vivemos em sociedades que nos tentam constantemente radicalizar", remata Leor Zmigrod.

Leia Também: IA do X nega o Holocausto. Diz que câmaras de gás eram para "desinfeção"