Consolo digital ou armadilha emocional? Como a IA 'ressuscita' mortos

O luto é uma das experiências mais universais e desafiadoras da condição humana. Cada pessoa vive a morte de um ente querido à sua maneira, passa por várias fases, chora-a de forma mais ou menos intensa, ultrapassa-a melhor ou pior, mais depressa ou mais devagar.

No entanto, o avanço da Inteligência Artificial (IA) está a introduzir uma nova e controversa dimensão a este processo: os deathbots.

Estes sistemas de IA, que prometem conversas com entes queridos falecidos, estão a gerar reações um pouco por todo o mundo. Entre a curiosidade, o fascínio e o medo, levantam-se várias questões, que não estão estudadas e cujas consequências estão longe de serem conhecidas. Estaremos perante um consolo digital ou a ser apanhados numa armadilha emocional? Foi o que tentámos descobrir.

O que são e como funcionam os deathbots?

Mas, afinal, o que são os deathbots (ou ghostbots) e como funcionam? São sistemas de IA concebidos para simular vozes, padrões de fala e personalidades de pessoas falecidas, com base nas suas pegadas digitais.

A partir da recolha de dados - gravações de voz, mensagens de texto, e-mails, publicações nas redes sociais, entre outras –, fornecida por um utilizador, um familiar da pessoa que morreu, por exemplo, estas ferramentas conseguem criar um chatbot ou avatar interativo capaz de responder no tom e estilo desta, evoluindo, inclusive, com a prática e a interação.

A Inteligência Artificial (IA) torna a simulação tão convincente que chega a ser assustadora. O que antes víamos como algo futurista, só possível em filmes de ficção científica, parece agora acessível ao comum dos mortais. A "ressurreição digital", como é descrita esta experiência por vários sites internacionais, cresce a olhos vistos. Mas será que veio para ajudar?

Libertação da culpa versus mais sofrimento

O Notícias ao Minuto esteve à conversa com Miguel Ricou, presidente do Conselho de Especialidade de Psicologia Clínica e da Saúde da Ordem dos Psicólogos Portugueses, para perceber que repercussões pode ter o uso deste tipo de ferramentas.

Para o psicólogo, os deathbots "podem ter, como tudo na vida, um lado positivo e outro negativo". Importante antes de serem lançados era ter havido um estudo sobre as suas reais consequências.

"A preocupação principal nesta altura – e que tem sido em tantas coisas relacionadas com esta grande pegada da Inteligência Artificial – é que as coisas não são estudadas. Tem sido tudo ao contrário. Primeiro põe-se as coisas a funcionar, depois pensamos nas consequências. A velocidade dos sistemas tecnológicos ultrapassa em muito aquilo que é a nossa capacidade de conseguir acompanhar a preocupação destes problemas", salientou, lembrando que este tipo de ferramentas "entusiasma", mas pode ser muito problemático para os mais vulneráveis.

"Achamos fantástico, ficamos todos maravilhados. Mas depois, sobretudo as pessoas mais vulneráveis, inevitavelmente, podem sofrer mais. É pouco o que posso dizer face a haver ainda poucos ou nenhuns estudos como deve ser sobre deathbots", realçou Miguel Ricou.

Perante a parca informação que tem, o especialista acredita que este tipo de simulações pode ter vantagens para algumas pessoas, se for devidamente utilizado e sob vigilância de um profissional – psicólogo ou psiquiatra.

"Pode ser relativamente positivo se funcionar como algo feito há muito tempo em psicologia: motivar os pacientes enlutados – cujo processo está a ser mais complicado – a escrever uma carta com o queriam ter dito à pessoa que morreu. Estratégias deste género estão já muito bem documentadas e, para algumas pessoas, podem ser positivas. Ajudam a conseguirem libertar-se daquelas sensações de culpa, de não terem estado presentes, de terem tido alguma zanga. Com estas pessoas em específico podemos antecipar que algo como os deathbots pode melhorar a experiência, em função de conseguirem ter algum feedback, apesar de este ser uma simulação. Agora, como é evidente, logo a priori, isto só resulta se for orientado, uma vez que para algumas pessoas esta pode ser uma estratégia interessante e para outras não. Pode ser até prejudicial", notou Miguel Ricou.

E percebe-se porquê. O objetivo do processo de luto é ajudar "a lidar com a ausência de alguém que era muito importante. A adaptar-se a viver sem essa pessoa. Com este vazio". E estas ferramentas podem, de alguma forma, "prolongar, indiscriminadamente" o sentimento ilusório de que a pessoa que morreu ainda está ali, uma "espécie de negação do desaparecimento" e de "continuar a funcionar com ela, como que, ainda de que de uma forma alterada, a pessoa existisse".

Por essa razão, para Miguel Ricou, "é fundamental garantirmos que as pessoas que utilizam estas ferramentas compreendem que se trata de uma simulação e que aquilo que nos responde não é a própria pessoa, o ente querido. É apenas uma simulação otimizada". O psicólogo considera assim "preocupante" que estas ferramentas sejam utilizadas de forma autónoma, como se não tivessem riscos".

"Isto devia ser mediado por alguém com responsabilidade, um profissional que de alguma maneira as soubesse utilizar e o fizesse para ajudar as pessoas. Não há nada que seja terapêutico que seja controlado pelo próprio indivíduo. É, como por exemplo, uma droga que é receitada por um médico e controlada por ele e uma droga que só é controlada pelo consumidor", atirou.

Potencial impacto no processo de luto

Além de poderem atrapalhar no reconhecimento e aceitação da perda, os bots podem levar ao risco de substituir essa finalidade pela disponibilidade infinita de simulação, assim como fornecer representações idealizadas da pessoa que morreu, uma vez que podemos omitir aspetos desagradáveis da personalidade dos nossos entes queridos, como por exemplo, se o nosso avô era racista ou se a nossa mãe era demasiado crítica.

A promessa de uma "lembrança perfeita", tantas vezes feita pelas startups que 'vendem' estas experiências, pode assim silenciar o papel do esquecimento, que é, como alertam os especialistas, crucial para o luto e para a memória.

E podem ainda levar ao isolamento. "Uma imitação, por muito boa que possa parecer, não é a pessoa, não é real, portanto, se viver com a imitação como se fosse real evidentemente que eu não me estou a adaptar à minha vida e à minha realidade, o que me pode levar a afastar mais das pessoas", explicou Miguel Ricou ao Notícias ao Minuto, recordando as pessoas que "muitas vezes" são olhadas de lado por aqueles que acham que a dor já deveria estar ultrapassada.

"Perante esta ferramenta, as pessoas pensam: ao menos o algoritmo aceita-me sempre bem, diz-me coisas simpáticas. Isto traz-nos uma série de dificuldades, entre as quais o prolongamento do luto, o prolongamento da dor, dificuldade em integrar-se e em todas essas dimensões que podemos imaginar", completou o psicólogo.

Exploração do luto. Dos lucros à ética

Por trás da promessa de consolo existe um crescente e lucrativo modelo de negócio. A lembrança de alguém que gostamos e já partiu está a ser transformada num produto construído por startups de tecnologia e não por instituições de caridade ou benevolentes que querem ajudar a menorizar a dor.

Das opções gratuitas rapidamente se passa a conteúdos pagos, na ânsia de ter mais e melhores conversas com quem perdemos.

"Primeiro é gratuito, depois começamos a ser expostos às soluções otimizadas, que de repente já temos de assinar e pagar. É só uma imagem, mas depois podemos ter isto e aquilo e entramos no campo da exploração da vulnerabilidade das pessoas", elucidou Miguel Ricou, descrevendo a atitude como "sádica".

Algo semelhante ao que defendem os filósofos Carl Öhman e Luciano Floridi, especialistas neste tipo de temas. Segundo o site brasileiro G1, ambos argumentam que esta indústria opera dentro de uma "economia política da morte", onde os dados partilhados na internet continuam a gerar valor muito depois do fim de vida de uma pessoa.

A exploração do luto para obter lucro levanta assim preocupações éticas e de vendas enganosas. Além das startups que permitem criar deathbots, há já relatos em jornais internacionais de funerárias a lucrar com isso.

 

 

 

 

 

Ver esta publicação no Instagram

 

 

 

 

 

 

 

 

 

 

 

Uma publicação partilhada por Ordem dos Psicólogos (@ordemdospsicologos)

A empresa Fushouyuan é um exemplo. Encontra-se a trabalhar num pacote funerário que promete trazer os falecidos para os próprios velórios como avatares de IA.

E não é só aqui que o processo é questionável a nível deontológico. O uso de dados de quem já morreu é também controverso, uma vez que a pessoa não pode consentir, responder ou ter controlo sobre os seus 'restos mortais digitais'.

"Estamos a trabalhar a história da pessoa, a sua herança digital, aquilo que é o resultado da relação que ela teve com as outras pessoas e estamos a utilizá-la sem ela saber. Sem ela ter dado autorização para isso, o que também levanta questões de ética", sublinhou o psicólogo.

E levanta-se assim (mais) uma pergunta: O que acontece quando a lembrança dos mortos é deixada à mercê de um algoritmo com fins comerciais? Quem garante que não será utilizada para outros fins?

Para terem algum controlo sobre isso e para terem a certeza que são 'imortais', pelo menos a nível digital, na China, onde o boom dos deathbots é mais notório, alguns cidadãos criam e 'treinam' em vida os seus próprios avatares. Já outros, começaram a estipular nos seus testamentos que não desejam que a sua pegada digital seja usada após a morte.

Causas? Desvanecimento de crenças e anseio por imortalidade

O interesse neste tipo de tecnologia pode ser visto, como realça o The Guardian, como uma consequência do "desvanecimento da crença religiosa tradicional", com os anseios por transcendência e de imortalidade a serem redirecionados para soluções tecnológicas. É um sintoma de uma cultura que crê que a tecnologia pode vencer a morte, apesar de isto (ainda) estar muito longe de acontecer.

Embora a Inteligência Artificial possa ajudar a preservar vozes e histórias, "não consegue replicar a complexidade viva de uma pessoa ou de um relacionamento", lembra o jornal brasileiro G1.

O que ouvimos em resposta a estas conversas pós-morte revela mais sobre a evolução da tecnologia e a forma como as plataformas lucram com a memória e a dor do que sobre os "fantasmas" com os quais prometem que podemos conversar.

Nas redes sociais sucedem-se os testemunhos de quem já criou deathbots. Se alguns garantem ter contribuido para serenar a dor da perda de alguém, muitos outros revelam ter sido prejudicial.

No passado mês de junho, Alexis Ohanian, um dos fundadores do Reddit, publicou na rede social X uma animação da sua falecida mãe a abraçá-lo quando ele era ainda uma criança. O ficheiro foi criado a partir de uma só fotografia. "Caramba, não estava preparado para sentir isto. Não tínhamos uma máquina de filmar, então não há nenhum vídeo meu com a minha mãe. Era assim que ela me abraçava. Já assisti a isto umas 50 vezes", escreveu ele.

Já a filha do conhecido ator Robin Williams, Zelda, não pode dizer o mesmo. A também atriz publicou, recentemente, um apelo nas redes sociais, pedindo aos fãs que deixem de lhe enviar clips do pai, gerados por Inteligência Artificial.

Zelda não os acha reconfortantes. Achava-os desprezíveis. "Ver o legado de pessoas reais ser condensado nisto, só para que outras pessoas possam produzir horríveis imagens do TikTok a manipulá-las, é enlouquecedor", escreveu nas redes sociais.

 

 

 

 

 

Ver esta publicação no Instagram

 

 

 

 

 

 

 

 

 

 

 

Uma publicação partilhada por BBC News (@bbcnews)

Bernice King, filha de Martin Luther King Jr., fez o mesmo pedido. "Concordo no que toca ao meu pai. Por favor, parem", disse.

A quem já experimentou e não gostou da experiência, o psicólogo Miguel Ricou, com quem o Notícias ao Minuto falou no âmbito deste artigo, aconselha que procure ajuda junto de profissionais especializados em saúde mental, como psicólogos e/ou psiquiatras.

Leia Também: França toma medidas contra chatbot Grok após negação do Holocausto