Especialistas americanos estão desenvolvendo uma rede neural que pode explicar as decisões tomadas por robôs de combate. Isso aumentará o nível de confiança humana nos "soldados eletrônicos".
O projeto Explainable Artificial Intelligence, ou simplesmente XAI (Explainable Artificial Intelligence), permitirá que humanos e robôs se entendam melhor. A rede neural XAI construirá uma cadeia lógica de "raciocínio" do robô e mostrará à pessoa por que a máquina tomou essa decisão - por exemplo, abrir fogo contra um alvo específico.
O desenvolvimento está em andamento para criar unidades de combate humano-robô no Exército dos EUA. Até agora, é difícil imaginar, mas em algumas décadas os robôs se tornarão soldados completos - assim como as pessoas. Além disso, eles são capazes de substituir uma pessoa em situações em que seja necessário abrir fogo contra um alvo vivo. Tal substituição isentará formalmente a pessoa da responsabilidade por tomar uma decisão mortal, mas não será capaz de privá-la de dúvidas e remorso, e também pode causar desconfiança nos robôs. Você nunca sabe - talvez os robôs sejam na verdade maníacos eletrônicos que gostam de matar?
O projeto XAI deve resolver este problema na interação homem-robô. Graças à introdução do novo sistema, os militares (aqueles que ainda são pessoas vivas) serão capazes de entender por qual critério a máquina avaliou este ou aquele objeto ou pessoa como uma ameaça. Além disso, o XAI tornará mais fácil para os robôs de combate se adaptarem às realidades de um conflito militar específico e reduzirá o grau de crueldade sem sentido.
O novo desenvolvimento será útil não apenas para os militares. Também pode ser usado na esfera civil - na indústria, sistemas de segurança e medicina. Um exemplo desse uso é dado por Bill Ferguson, um dos principais especialistas da Raytheon, que está diretamente envolvido no desenvolvimento de uma rede neural. “Se a inteligência artificial detectar sinais de câncer de pulmão no raio-X, o médico poderá descobrir por que a máquina decidiu isso. O computador irá destacar todas as áreas suspeitas que o médico poderia ter ignorado, confundindo-se com artefatos de imagem. Depois disso, o médico poderá determinar por si mesmo se vale a pena corrigir o diagnóstico ou se a rede neural estava errada”, explica o cientista.
