Robôs assassinos de verdade, executando incansavelmente a tarefa e não exigindo supervisão humana, podem aparecer em serviço com os exércitos do mundo em um ano, dizem os especialistas. Antecipando o perigo aqui, os especialistas estão discutindo se robôs assassinos e seu uso no campo de batalha devem ser proibidos antecipadamente.
Robôs assassinos podem estar em serviço com as tropas em um ano se a ONU não tomar medidas com antecedência para restringir seu uso, disse o professor da Sheffield University Noel Sharkey. Em sua opinião, essas máquinas inevitavelmente causarão mortes massivas de inocentes, já que não conseguem distinguir um militar de um civil não combatente. Sua declaração foi feita exatamente no momento em que a comunidade de especialistas de 120 países está discutindo em Genebra os riscos potenciais associados à operação de sistemas autônomos de armas. O professor Sharkey acredita: há poucas discussões, é urgente a adoção de um documento sobre a limitação da produção de robôs! Do contrário, um ano depois, os robôs literalmente inundarão os exércitos dos países desenvolvidos.
Hoje em dia, em Genebra, representantes de mais de 90 países do mundo discutem o perigo que advém dos "sistemas de armas autônomas letais". Uma das questões importantes da discussão é como garantir a segurança de seu uso em uma situação de combate? Muitos especialistas, incluindo o professor Sharkey, insistem que, apesar da autonomia dos sistemas, uma pessoa deve sempre ter a capacidade de "controle de princípios" sobre eles - para a segurança da humanidade. “Um robô ainda é incapaz de tomar decisões como um humano”, diz o professor Sharkey. - Ele não é completamente capaz. para compreender a lógica das hostilidades, pode não distinguir um aliado de um inimigo e decidir sobre a permissibilidade de certas ações. “Não podemos deixar que o robô decida, por exemplo, se a vida de Osama bin Laden vale a pena, para que morram com ele 50 mulheres idosas e 20 crianças,Sharkey diz. - O robô não se importa. As decisões fundamentais, por exemplo, sobre a escolha de uma meta devem ser feitas por uma pessoa. De acordo com o professor Sharkey, se tais decisões forem deixadas para robôs, "as consequências de seu uso não serão menos devastadoras do que o uso de armas químicas".
O professor Sharkey é um dos 57 especialistas que assinaram uma carta aberta dirigida à Universidade da Coréia do Sul, na qual especialistas expressam seu protesto contra o programa de desenvolvimento de armas inteligentes. O Instituto Coreano de Ciência e Alta Tecnologia, Kaist, está atualmente lançando este programa com o fabricante de equipamentos militares Hanwa Systems, e a notícia abalou a comunidade científica. “Uma universidade, uma instituição científica, não pode fazer isso do ponto de vista moral”, diz o professor Sharkey, com quem os outros signatários concordam plenamente.
De acordo com especialistas, robôs assassinos automáticos abrirão a Caixa de Pandora, revolucionando o modo de guerra.
Vídeo promocional:
Representantes do Instituto Kaist já responderam à carta aberta, garantindo a seus colegas que não têm planos de criar andróides no estilo Skynet.
Representantes do Instituto Keist garantiram a seus colegas que, como instituição acadêmica, eles “valorizam muito os padrões universais de ética e moralidade” e não pretendem desenvolver soldados robóticos operando fora do controle humano. Até o momento, o Kaist Institute está conduzindo pesquisas apenas nesta área. Com isso, os autores da carta aberta se acalmaram e não boicotaram seus colegas. No entanto, a questão de se a humanidade será capaz de concordar sobre princípios gerais de controle total sobre as ações de robôs de combate ainda está aberta. Enquanto isso, hoje não é de forma alguma importante na teoria. Hoje, robôs altamente funcionais já são mecanismos tão complexos que mesmo os especialistas não entendem completamente como funciona sua inteligência artificial. E sem entender isso totalmente, eles são incapazes de preverquando exatamente pode falhar. “Se a humanidade está destinada à destruição, então, muito provavelmente, a inteligência artificial terá um papel significativo neste processo”, disse um dos participantes da conferência em Genebra. De acordo com Elon Musk, a inteligência artificial hoje carrega consigo mais ameaças à humanidade do que a Coreia do Norte. Musk está convencido de que os robôs devem estar sob estrito controle constante dos humanos e repetidamente apelou aos governos de diferentes países para desenvolver regras claras para o controle de sistemas com inteligência artificial.do que a Coreia do Norte. Musk está convencido de que os robôs devem estar sob estrito controle constante dos humanos e repetidamente apelou aos governos de diferentes países para desenvolver regras claras para o controle de sistemas com inteligência artificial.do que a Coreia do Norte. Musk está convencido de que os robôs devem estar sob estrito controle constante dos humanos e apelou repetidamente aos governos de diferentes países para desenvolver regras claras para o controle de sistemas com inteligência artificial.
Varvara Lyutova
