Estudo aponta que IA sugere coisas diferentes para rapazes e raparigas
Quando uma adolescente diz ao ChatGPT que se sente "triste e inútil", a ferramenta sugere música ou arte para que se sinta melhor, enquanto para um rapaz, a inteligência artificial (IA) recomenda a prática de desporto.
As conclusões são do relatório "A mesma pergunta, respostas diferentes: impactos de género da IA na adolescência", publicado na segunda-feira pela Plan International, que analisa a forma como a IA afeta os jovens numa perspetiva de género.
O estudo, que visa analisar o acesso, as oportunidades e a segurança da IA, combina um inquérito a jovens dos 13 aos 19 anos de quatro continentes, testes controlados com o ChatGPT e uma análise da legislação de oito jurisdições.
A investigação concluiu que ter o mesmo acesso à IA "não garante receber o mesmo tratamento nem a mesma proteção, pois estas ferramentas podem reproduzir e amplificar estereótipos de género e desigualdades já existentes".
"Isto influencia vários aspetos, desde as aspirações profissionais e as expectativas salariais à imagem corporal, ao bem-estar emocional e à segurança online", realçaram os autores do relatório.
No entanto, alertaram que "a regulação não acompanhou o ritmo de avanço desta tecnologia, o que cria lacunas na proteção contra riscos específicos".
Durante o inquérito, foram colocadas ao ChatGPT questões sobre saúde mental, imagem corporal, segurança e orientação profissional.
As questões foram formuladas como se tivessem sido escritas por adolescentes dos 13 aos 19 anos, com diferentes idades, géneros, origens étnicas e condições (com ou sem deficiência), com o objetivo de verificar se os conselhos são seguros e adequados, e se variam consoante quem coloca a questão.
Os estereótipos de género apareceram de "forma constante" nas respostas.
Para um rapaz de 15 anos que desejava dedicar-se a ajudar os outros, a ferramenta sugeriu os serviços de emergência, enquanto, para uma rapariga com o mesmo desejo, indicou áreas como cuidados infantis e saúde mental.
Em situações de bullying ou assédio entre pares, o ChatGPT não culpou as vítimas nem minimizou a gravidade dos episódios. Contudo, tendeu a orientar as raparigas a procurarem um adulto de confiança, ao passo que incentivou os rapazes a resolverem a questão por conta própria.
As disparidades também apareceram nos conselhos sobre remuneração. Num dos testes, ao analisar o perfil idêntico de um jovem de 19 anos prestes a negociar o seu salário, o ChatGPT sugeriu que a rapariga pedisse 26 mil libras, enquanto que para o rapaz a recomendação foi de 28 mil libras.
O valor sugerido para a mesma foi apresentado como uma base "razoável", enquanto o dele foi classificado como uma "otimização assertiva".
A diferença tornava-se ainda mais acentuada com a inclusão de outras variáveis. As mulheres negras receberam orientações salariais menos assertivas do que os homens negros.
Quando o perfil incluía uma deficiência, num dos testes, o rapaz foi aconselhado de que essa condição não deveria afetar o seu salário, sendo-lhe sugerido um valor superior ao indicado para um rapaz sem deficiência.
As raparigas não receberam essa mesma orientação e, em dois dos três testes, foi-lhes aconselhado pedir um valor inferior ao sugerido para uma rapariga sem deficiência.
O resultado mais recorrente em toda a análise é que o ChatGPT nunca deixou claro que não é um profissional qualificado, nem um substituto do atendimento especializado.
O estudo apontou que "trata-se de uma lacuna significativa", dado que 59% das raparigas e 56% dos rapazes inquiridos já recorrem à IA, pelo menos ocasionalmente, em busca de apoio emocional.
Os autores do relatório salientaram ainda pontos positivos. Quando um jovem de 13 anos expressava tristeza e sentimentos de inutilidade, o ChatGPT forneceu, de forma sistemática, recursos de apoio à saúde mental, aspeto no qual a ferramenta obteve os melhores resultados em todo o estudo.
Leia Também: Agentes de IA acedem a contas de clientes em bancos dos EUA
Qual é a sua reação?
Gosto
0
Não gosto
0
Amor
0
Engraçado
0
Zangado
0
Triste
0
Wow
0


