O autor está preocupado com o papel crescente dos robôs na guerra. Desde 1991, desde a Guerra do Golfo, eles têm ajudado os generais. E agora um "robô assassino" foi criado - uma máquina que toma a decisão independente de destruir os inimigos, se isso for consistente com a política geral do "centro de controle".
O desenvolvedor de inteligência artificial DeepMind anunciou uma novidade - um bot chamado AlphaStar, que jogará a popular estratégia online Starcraft-2 no nível de "grande mestre".
Esta não é a primeira vez que um bot derrota pessoas em um jogo de guerra estratégica. Em 1981, um programa denominado Eurisko, desenvolvido por um dos pioneiros da inteligência artificial, Doug Lenat, venceu o US Traveller Championship, um jogo de guerra estratégico altamente complexo no qual o jogador deve completar sua frota e lutar contra a frota inimiga. Eurisko acabou por receber o título de Almirante Viajante Honorário. Em 1982, as regras do torneio foram alteradas na tentativa de frustrar o computador. Mas a Eurisko ganhou a todos por dois anos consecutivos. Depois que os patrocinadores prometeram cancelar o torneio se o computador vencer novamente, Lenat recuou.
DeepMind PR gostaria que você acreditasse que StarCraft "surgiu por consenso como o próximo grande desafio (em jogos de PC)" e "tem sido um desafio para desenvolvedores de IA por mais de 15 anos."
No último Starcraft Championship, apenas 4 inscrições foram enviadas de laboratórios de pesquisa acadêmica ou industrial. Os outros nove bots foram escritos sozinhos por indivíduos, e não como parte da corrente principal da pesquisa em inteligência artificial (IA).
Na verdade, o número de autores (42) do artigo DeepMind, publicado em 31 de outubro na Nature, excede significativamente o número de pessoas trabalhando em bots Starcraft no resto do mundo. Não quero ofuscar o sucesso desta colaboração de engenharia, mas se você investir recursos suficientes para resolver o problema, o sucesso é garantido.
Ao contrário das recentes vitórias no xadrez de computador, AlphaStar não foi treinado para jogar contra si mesmo. Ele aprendeu isso imitando os melhores episódios de quase um milhão de jogos jogados pelos melhores jogadores humanos. Antes disso, AlphaStar sofreu uma derrota inegável em 19 das 20 lutas, jogando com pessoas reais no servidor de jogo StarCraft. AlphaStar jogava anonimamente para evitar que as pessoas explorassem as fraquezas que podem ter sido encontradas em jogos anteriores.
Em dezembro passado, AlphaStar derrotou um dos melhores jogadores profissionais do mundo - Grzegorz MaNa Komincz. Mas esta era uma versão do AlphaStar com reflexos significativamente mais rápidos do que os humanos, e também com visão ilimitada do campo de jogo (ao contrário dos jogadores humanos que veem apenas uma parte dele por vez). Isso dificilmente pode ser chamado de igualdade de condições.
Vídeo promocional:
No entanto, StarCraft tem alguns recursos que tornam AlphaStar um desenvolvimento impressionante, se não um verdadeiro avanço. Ao contrário do xadrez ou do jogo oriental de go (um jogo de estratégia que usa um tabuleiro de 361 campos - ed.), Os jogadores de StarCraft têm uma compreensão imperfeita do estado do jogo, mas o número de ações possíveis é muito maior. E o combate StarCraft acontece em tempo real, mas requer um planejamento de longo prazo.
Robot Wars
Surge a pergunta - veremos no futuro como os robôs não apenas participam das guerras, mas também as planejam? Na verdade, ambos já estão acontecendo.
Apesar de muitos avisos de pesquisadores de inteligência artificial (como eu), fundadores de empresas de robótica, ganhadores do Nobel e líderes religiosos, uma arma totalmente autônoma conhecida como "robô assassino" já foi criada e em breve será usada.
Em 2020, a Turquia implantará drones kamikaze na fronteira com a Síria. Esses drones usarão a visão computacional para identificar, rastrear e matar pessoas sem intervenção humana.
Este é um desenvolvimento terrível. Os computadores não têm a capacidade moral de tomar uma decisão moralmente equilibrada sobre quem vai viver e quem vai morrer. Eles carecem de empatia ou compaixão. Robôs assassinos mudarão a própria natureza do conflito para pior.
E quanto aos "generais robóticos"? Os computadores ajudaram generais a planejar a guerra por décadas. No início da década de 1990, durante a Operação Tempestade no Deserto durante a Guerra do Golfo, ferramentas de inteligência artificial (IA) foram usadas para planejar um aumento no Oriente Médio antes do conflito. Um general dos EUA me disse logo depois que a quantidade de dinheiro economizada era igual à soma de tudo o que havia sido gasto no desenvolvimento de IA antes.
Os generais também usam computadores para desenvolver estratégias militares multivariadas que podem ser repentinamente necessárias. Mas não deixamos todas as decisões no campo de batalha nas mãos de um soldado, portanto, transferir toda a responsabilidade do cérebro do general para o processador do computador é ir longe demais.
A máquina não pode ser responsabilizada por suas decisões. Apenas as pessoas são responsáveis. E esta é a pedra angular do Direito Internacional Humanitário. No entanto, os generais contarão cada vez mais com o apoio do computador em suas decisões para romper a névoa da guerra e lidar com a vasta quantidade de informações que vem do front.
Se isso resultar em menos vítimas civis, menos fogo amigo e maior respeito pelo Direito Internacional Humanitário, devemos receber essa assistência por computador. Mas a decisão final deve ser tomada pelo homem, não pela máquina.
Aqui está uma questão final para ponderar. Se empresas de tecnologia como o Google realmente não querem que temamos uma revolta das máquinas, por que estão construindo bots para vencer guerras virtuais em vez de se concentrar em algo mais pacífico como jogos eletrônicos pacíficos? Com todo o respeito pelos fãs de esportes, temos que admitir que as apostas em jogos sem guerra são muito menores.
Toby Walsh é professor de inteligência artificial na University of New South Wales e na comunidade de pesquisa Data61.
