O Departamento de Defesa dos Estados Unidos formulou e adotou princípios éticos, orientados pelos quais sistemas militares de inteligência artificial serão desenvolvidos e aplicados no país. Segundo o Pentágono, ao formular princípios, os militares foram guiados pela Constituição dos Estados Unidos, o décimo capítulo do Código dos Estados Unidos (descreve o papel das forças armadas), as leis e costumes de guerra, bem como os tratados internacionais e "normas e valores bem estabelecidos".
Desenvolvimentos ativos no campo da criação de sistemas de inteligência artificial levaram ao fato de que tais sistemas estão gradualmente começando a ser introduzidos em armas e equipamentos militares. Em particular, estão sendo desenvolvidos sistemas que permitem que os drones detectem e priorizem alvos automaticamente, ou que os drones atuem como escravos para aeronaves tripuladas. Sistemas de inteligência artificial capazes de descriptografar transmissões de rádio também estão sendo desenvolvidos. A inteligência artificial se tornará cada vez mais importante em futuros desenvolvimentos militares.
A introdução ativa de sistemas de inteligência artificial em armas e equipamentos militares levanta muitas questões éticas. Em particular, ainda não está claro quão legítimo é o uso de sistemas de armas autônomos em uma guerra e que tipo de ameaça eles representam para os civis presos em uma zona de combate.
No total, o Pentágono formulou cinco princípios éticos para o uso de sistemas de inteligência artificial para fins militares:
- Responsabilidade. O pessoal militar deve avaliar o desempenho da inteligência artificial com o devido cuidado, permanecendo totalmente responsável pelo projeto, implantação e uso dos sistemas de inteligência artificial.
- Imparcialidade. O Departamento de Defesa dos EUA deve tomar medidas para minimizar desvios indesejados nas capacidades dos sistemas de inteligência artificial.
- Rastreabilidade. Os sistemas de inteligência artificial militar e suas capacidades devem ser projetados e implantados de forma que o pessoal tenha um nível adequado de compreensão da tecnologia, dos processos de desenvolvimento e das aplicações. Metodologias, dados e documentação relacionados aos sistemas de inteligência artificial utilizados devem estar disponíveis ao pessoal militar.
- Confiabilidade. As capacidades dos sistemas militares de inteligência artificial devem ser inequívocas e claramente formuladas. A segurança e a eficácia de tais recursos devem ser verificadas por meio de testes e validados ao longo de toda a sua vida útil.
- Subordinação. Os sistemas militares de inteligência artificial devem realizar totalmente as tarefas pretendidas, mas os militares devem ser capazes de detectar e prevenir efeitos indesejáveis da inteligência artificial. Os militares também devem ser capazes de desativar ou desligar sistemas de inteligência artificial que apresentem anormalidades.
O Pentágono também nomeou o Centro Conjunto de Inteligência Artificial como responsável pela implementação dos princípios de uso de sistemas de inteligência artificial. No total, o Departamento de Defesa dos EUA passou 15 meses consultando desenvolvedores e organizações científicas, além de formular os princípios para o uso de sistemas de inteligência artificial. Ao mesmo tempo, alguns especialistas notaram a imprecisão das formulações adotadas e a falta de um conjunto claro de regras sobre o que os militares devem e não devem fazer ao desenvolver e usar sistemas de inteligência artificial.
Vasily Sychev
