Um estudo realizado por cientistas do Massachusetts Institute of Technology revelou os detalhes do processo de análise de dados por inteligência artificial, que muitas vezes é guiada por estereótipos sexistas e racistas na tomada de decisões. Vários sistemas que participaram do experimento demonstraram suscetibilidade ao preconceito humano.
O jornal britânico "The Daily Mail" escreve que após receber os resultados do estudo, a equipe de cientistas se comprometeu a reprogramar a inteligência artificial, eliminando problemas anteriores. De acordo com Irene Chen, que trabalha no Instituto de Tecnologia de Massachusetts, os cientistas da computação tendem a se precipitar para a conclusão de que a única maneira de eliminar elementos de racismo e sexismo em algoritmos de inteligência artificial é melhorar o código do software. A qualidade dos algoritmos é diretamente proporcional aos dados nos quais operam. A pesquisa de Chen com David Sontag e Fredrik D. Johannson mostra que mais dados disponíveis podem mudar radicalmente as coisas para melhor.
Em um experimento, a equipe analisou um sistema que previa a renda de uma pessoa com base nas informações disponíveis. A análise mostrou que em 50% dos casos, o algoritmo tende a prever que a renda de uma mulher será, em média, menor do que a de um homem. Ao aumentar a quantidade de dados disponíveis 10 vezes, os cientistas descobriram que o fator de tal erro diminuiu em 40%.
Além disso, no estudo do sistema que é usado em hospitais e prevê a sobrevivência de pacientes submetidos a cirurgias severas, a precisão das previsões foi muito menor para a raça mongolóide do que para os caucasianos e negróides. No entanto, os cientistas argumentam que o uso da técnica de análise avançada pode reduzir significativamente a precisão da predição para pacientes que não pertencem à raça mongolóide. Isso mostra que mais dados disponíveis nem sempre corrigem os erros do algoritmo. Em vez disso, os cientistas deveriam receber mais informações sobre grupos discriminados.
O novo método levanta outra questão para os pesquisadores de aprendizado de máquina sobre como analisar dados de forma eficiente sem discriminação existente.
Como o aprendizado de máquina funciona em sistemas com tecnologia de IA?
Os sistemas de inteligência artificial são baseados em redes neurais artificiais (RNAs), que extrapolam o armazenamento de informações e as técnicas de aprendizado usadas pelo cérebro humano para sistemas mecânicos. As RNAs são treinadas para encontrar padrões nas fontes de informação disponíveis, incluindo fala, texto e imagens. Melhorar a precisão da análise de dados é um dos pré-requisitos fundamentais anteriores aos desenvolvimentos mais recentes em inteligência artificial.
A inteligência artificial "normal" usa os dados de entrada para informar o algoritmo sobre o assunto da análise, enquanto opera com uma grande quantidade de informações.
Vídeo promocional:
As aplicações práticas de aprendizado de máquina incluem serviços de tradução do Google, reconhecimento de rosto a partir de fotos do Facebook e filtros no Snapchat que escaneiam rostos antes de aplicar efeitos visuais online.
O processo de entrada de dados costuma ser demorado e geralmente limitado pelo fluxo de informações sobre um aspecto do objeto em estudo. Um novo tipo de RNA - uma rede neural adversária geradora - opõe-se às capacidades de dois robôs diferentes com inteligência artificial ao mesmo tempo, provocando um sistema menos inteligente para aprender às custas do segundo sem a participação humana. Essa técnica melhora drasticamente a eficiência e a velocidade do aprendizado de máquina enquanto aumenta a qualidade da análise de dados.
Oliy Kurilov
