Um novo estudo mostrou que manifestar preconceito em relação aos outros não requer inteligência especial e pode se desenvolver facilmente em máquinas com inteligência artificial.
Psicólogos e especialistas em tecnologia da informação da Universidade de Cardiff e do MIT mostraram que grupos de máquinas autônomas podem exibir preconceitos simplesmente definindo tal comportamento, copiando-o e ensinando-o mutuamente.
Pode parecer que o preconceito é um fenômeno puramente humano, exigindo inteligência humana para formar opiniões ou estereótipos sobre uma pessoa ou grupo. Enquanto alguns tipos de algoritmos de computador já mostraram preconceitos como racismo e sexismo com base no estudo de registros públicos e outros dados gerados por humanos, novos trabalhos demonstram a capacidade da IA de desenvolver grupos com preconceitos de forma independente.
A pesquisa é publicada em Relatórios Científicos. É baseado em simulações de computador de como agentes virtuais tendenciosos podem formar grupos e interagir uns com os outros. Durante a simulação, cada indivíduo decide se vai ajudar alguém de seu grupo ou de outro, dependendo da reputação desse indivíduo, bem como de sua própria estratégia, que inclui seus níveis de preconceito em relação a estranhos. Depois de realizar milhares de simulações, cada indivíduo aprende novas estratégias copiando outras - sejam eles membros de seu próprio grupo ou de toda a "população".
A frequência cumulativa relativa das características dos agentes pelo nível de preconceito / Roger M. Whitaker.
"Depois de executar essas simulações milhares e milhares de vezes em uma linha, começamos a entender como o preconceito se desenvolve e quais condições são necessárias para cultivá-lo ou evitá-lo", disse o coautor do estudo, Professor Roger Whitaker, do Instituto de Pesquisa de Crime e Segurança e da Escola de Ciência da Computação e Ciência da Computação da Universidade de Cardiff. “Nossas simulações mostram que o preconceito é uma força poderosa da natureza e, por meio da evolução, pode ser estimulado em populações virtuais para prejudicar conexões mais amplas com outras pessoas. A proteção contra grupos preconceituosos pode inadvertidamente levar à formação de outros grupos preconceituosos, provocando maior divisão da população. É difícil reverter esse preconceito generalizado”.
Os dados da pesquisa também incluem indivíduos que aumentam seus níveis de preconceito copiando preferencialmente aqueles que obtêm os melhores resultados de curto prazo, o que significa que tais decisões não requerem necessariamente habilidades especiais.
“É inteiramente plausível que máquinas autônomas, capazes de se identificar com a discriminação e copiar os outros, possam no futuro ser suscetíveis aos fenômenos de preconceito que vemos na sociedade”, continua o professor Whitaker. “Muitos desenvolvimentos de IA que vemos hoje envolvem autonomia e autocontrole, ou seja, o comportamento dos dispositivos também é influenciado por aqueles ao seu redor. Exemplos recentes incluem transporte e a Internet das Coisas. Nossa pesquisa fornece uma visão teórica sobre onde os agentes simulados periodicamente se voltam para outros em busca de recursos."
Vídeo promocional:
Os pesquisadores também descobriram que sob certas condições, incluindo a presença de subpopulações mais divididas da mesma sociedade, o preconceito é mais difícil de reforçar.
“Com um grande número de subpopulações, os sindicatos imparciais podem cooperar sem serem explorados. Também diminui seu status de minoria, ao mesmo tempo que reduz sua suscetibilidade de estabelecer preconceitos. No entanto, isso também requer circunstâncias em que os agentes estejam mais favoravelmente dispostos a interações fora de seu grupo”, concluiu o professor Whitaker.
Vladimir Guillen
