Como pesquisador de IA, muitas vezes sou confrontado com a opinião de que muitas pessoas têm medo da IA e do que ela pode se tornar. Na verdade, não é surpreendente se você olhar da perspectiva da história humana, enquanto presta atenção ao que a indústria do entretenimento está nos alimentando, que as pessoas possam ter medo de uma rebelião cibernética que nos forçará a viver em áreas isoladas e transformará outras em baterias humanas do tipo "Matrix" …
E ainda, para mim, olhando para todos esses modelos evolutivos de computador que uso no desenvolvimento de IA, é difícil pensar que minhas criaturas inofensivas, puras como as lágrimas de um bebê, na tela do meu computador possam um dia se transformar em monstros de uma distopia futurística. Posso realmente ser chamado de "destruidor de mundos", como Oppenheimer uma vez se arrependeu e disse sobre si mesmo depois de liderar o programa para criar uma bomba nuclear?
Talvez eu aceitasse tal fama, ou talvez os críticos do meu trabalho tenham razão, afinal? Talvez eu realmente deva parar de evitar perguntas sobre meus medos sobre IA como um especialista em IA?
Medo de imprevisibilidade
O HAL 9000, o sonho do escritor de ficção científica Arthur Charles Clarke e concretizado pelo cineasta Stanley Kubrick em Uma Odisséia no Espaço de 2001, é um excelente exemplo de sistema que faliu devido a circunstâncias imprevistas.
Em muitos sistemas complexos - o Titanic, o ônibus espacial da NASA e a usina nuclear de Chernobyl - os engenheiros tiveram que combinar muitos componentes. Talvez os arquitetos desses sistemas estivessem bem cientes de como cada um de seus elementos funcionava individualmente, mas não entendiam bem o suficiente como todos esses componentes funcionariam juntos.
Vídeo promocional:
O resultado foram sistemas que nunca foram totalmente compreendidos por seus próprios criadores, o que levou a consequências bem conhecidas. Em cada caso, o navio afundou, duas naves explodiram e quase toda a Europa e partes da Ásia foram confrontadas com o problema da contaminação radioativa - um conjunto de problemas relativamente menores, mas ocorrendo coincidentemente, criaram um efeito catastrófico.
Posso imaginar perfeitamente como nós, os criadores da IA, podemos chegar a resultados semelhantes. Pegamos os últimos desenvolvimentos e pesquisas em ciências cognitivas (a ciência do pensamento - ed.), Traduzimos em algoritmos de computador e adicionamos tudo isso aos sistemas existentes. Estamos tentando desenvolver IA sem compreender totalmente nossa própria inteligência e consciência.
Sistemas como o Watson da IBM ou o Alpha do Google são redes neurais artificiais com impressionante poder computacional e capacidade de lidar com tarefas realmente complexas. Mas, por enquanto, a única coisa que levará um erro em seu trabalho será o resultado de uma derrota no jogo intelectual "Jeopardy!" ou uma oportunidade perdida de derrotar o melhor jogo de tabuleiro lógico de outro mundo, Go.
Essas consequências não são globais por natureza. Na verdade, a pior coisa que pode acontecer às pessoas neste caso é alguém perder alguma quantia de dinheiro nas apostas.
No entanto, a arquitetura de IA está se tornando mais complexa e os processos do computador estão se tornando mais rápidos. As capacidades de IA só aumentarão com o tempo. E isso já nos levará ao fato de que começaremos a atribuir cada vez mais responsabilidades à IA, mesmo apesar dos riscos crescentes de circunstâncias imprevistas.
Sabemos que “os erros fazem parte da natureza humana”, pelo que nos será simplesmente fisicamente impossível criar um sistema verdadeiramente seguro em tudo.
Medo de mau uso
Não estou realmente preocupado com a imprevisibilidade das consequências no trabalho da IA, que desenvolvo usando a chamada abordagem de neuroevolução. Eu crio ambientes virtuais e os povoo com criaturas digitais, dando comandos a seus cérebros para resolver problemas de complexidade crescente.
Com o tempo, a eficiência de resolução de problemas por essas criaturas aumenta e evolui. Aqueles que fazem o melhor trabalho são selecionados para reprodução, criando uma nova geração a partir deles. Ao longo das gerações, essas criaturas digitais desenvolvem habilidades cognitivas.
Por exemplo, agora estamos dando os primeiros passos no desenvolvimento de máquinas ao nível de realizar tarefas de navegação simples, tomar decisões simples ou memorizar alguns bits de informação. Mas em breve veremos o desenvolvimento de máquinas que podem realizar tarefas mais complexas e ter um nível geral de inteligência muito mais eficiente. Nosso objetivo final é criar inteligência de nível humano.
No decorrer dessa evolução, tentaremos encontrar e corrigir todos os bugs e problemas. A cada nova geração, as máquinas lidam melhor com os erros do que as anteriores. Isso aumentará as chances de sermos capazes de identificar todas as consequências imprevisíveis nas simulações e eliminá-las antes mesmo que possam ser realizadas no mundo real.
Outra oportunidade que o método evolutivo de desenvolvimento oferece é dotar a inteligência artificial de ética. É provável que características éticas e morais de uma pessoa como confiabilidade e altruísmo sejam o resultado de nossa evolução e um fator em sua continuação.
Podemos criar um ambiente construído e capacitar as máquinas para demonstrar bondade, honestidade e empatia. Essa pode ser uma maneira de garantir que desenvolvamos mais servos obedientes do que robôs assassinos implacáveis. No entanto, embora a neuroevolução possa reduzir o nível de consequências não intencionais no comportamento da IA, ela não pode evitar o uso indevido da inteligência artificial.
Como cientista, tenho que cumprir meu compromisso com a verdade e relatar o que descobri por meio de meus experimentos, gostando ou não dos resultados. Meu trabalho não é determinar o que gosto e o que não gosto. A única coisa importante é que eu posso tornar meu trabalho público.
Medo de prioridades sociais erradas
Ser cientista não significa perder sua humanidade. Tenho que me reconectar com minhas esperanças e medos em algum nível. Como uma pessoa motivada moral e politicamente, devo considerar as consequências potenciais do meu trabalho e seus possíveis efeitos na sociedade.
Como cientistas e representantes da sociedade, ainda não temos uma ideia clara do que exatamente queremos obter da IA e o que ela deve se tornar. É claro que isso se deve em parte ao fato de ainda não compreendermos totalmente seu potencial. Mesmo assim, precisamos entender e decidir claramente o que queremos obter da inteligência artificial verdadeiramente avançada.
Uma das maiores áreas que as pessoas prestam atenção ao falar sobre IA é o emprego. Os robôs já estão fazendo um trabalho físico complexo para nós, como montar e soldar peças da carroceria. Mas um dia chegará o dia em que os robôs serão incumbidos de realizar tarefas cognitivas, ou seja, eles serão incumbidos do que antes era considerada uma habilidade exclusivamente única da própria pessoa. Carros autônomos podem substituir motoristas de táxi; aviões autônomos não precisam de pilotos.
Em vez de receber atendimento médico em salas de emergência repletas de profissionais e médicos sempre cansados, os pacientes poderão realizar exames e aprender diagnósticos por meio de sistemas especialistas com acesso instantâneo a todo o conhecimento médico. As operações cirúrgicas serão realizadas por robôs não passíveis de fadiga, com uma “mão perfeitamente treinada”.
A assessoria jurídica estará disponível a partir de um quadro jurídico abrangente. Para consultoria de investimento, recorreremos a sistemas especializados de previsão de mercado. Talvez um dia todo o trabalho humano seja feito por máquinas. Até o meu trabalho pode ser feito mais rápido usando um grande número de máquinas pesquisando incansavelmente como torná-las ainda mais inteligentes.
Na realidade de nossa sociedade atual, a automação já está forçando as pessoas a deixarem seus empregos, tornando os proprietários ricos dessas máquinas automatizadas ainda mais ricos, e o restante ainda mais pobre. Mas este não é um problema científico. Este é um problema político e socioeconômico que a própria sociedade deve resolver.
Minha pesquisa não vai mudar isso, mas meus fundamentos políticos, junto com a humanidade, podem levar a circunstâncias nas quais a IA pode se tornar uma função extremamente útil, em vez de aumentar a lacuna entre um por cento da elite mundial e o resto de nós.
Medo de um cenário catastrófico
Chegamos ao medo final imposto a nós pelo insano HAL 9000, o Terminator e qualquer outra superinteligência vil. Se a IA continuar a evoluir até ultrapassar a inteligência humana, um sistema superinteligente artificial (ou uma coleção de tais sistemas) consideraria os humanos um material inútil? Como podemos justificar nossa existência diante de uma superinteligência capaz de fazer e criar o que nenhuma outra pessoa pode? Seremos capazes de evitar o destino de sermos varridos da face da Terra pelas máquinas que ajudamos a criar?
Portanto, a pergunta mais importante em tais circunstâncias soará assim: por que a superinteligência artificial precisa de nós?
Se tal situação tivesse acontecido, provavelmente diria que sou uma boa pessoa que até contribuiu para a criação desta superinteligência, que estou enfrentando agora. Gostaria de apelar à sua compaixão e empatia, para que a superinteligência me deixe, tão compassiva e empática, viva. Eu também acrescentaria que a própria diversidade de espécies tem valor e o universo é tão grande que a existência da espécie humana nele é, na verdade, bastante insignificante.
Mas não posso falar por toda a humanidade, então será difícil para mim encontrar um argumento válido para todos nós. É que, quando olho para todos nós, realmente vejo que fizemos muito e estamos errando muito. O ódio um pelo outro reina no mundo. Vamos à guerra uns contra os outros. Distribuímos alimentos, conhecimento e cuidados de saúde de forma injusta. Estamos poluindo o planeta. Neste mundo, é claro, existem muitas coisas boas, mas se você olhar para todas as coisas ruins que criamos e continuamos a criar, será muito difícil encontrar um argumento para apoiar nossa existência continuada.
Felizmente, ainda não precisamos justificar nossa existência. Nós ainda temos tempo. De 50 a 250 anos, dependendo da velocidade de desenvolvimento da inteligência artificial. Nós, como espécie, temos a capacidade de nos unir e encontrar uma boa resposta para a pergunta de por que a superinteligência não deveria nos varrer da face do planeta.
Será muito difícil resolver esse problema. Afinal, dizer que apoiamos a diversidade e as diferenças etnoculturais, e fazer isso, são coisas completamente diferentes. Como dizer que queremos salvar o planeta e lidar com isso com sucesso.
Todos nós, seja cada indivíduo ou sociedade como um todo, devemos nos preparar para um cenário catastrófico, usando esse tempo para mostrar e provar porque nossas criações devem nos permitir continuar existindo. Ou podemos simplesmente continuar a acreditar cegamente que tal desenvolvimento de eventos é impossível e simplesmente parar de falar sobre esse assunto.
No entanto, não importa o perigo físico que a superinteligência possa representar para nós, não devemos esquecer que ela também representará um perigo político e econômico. Se não encontrarmos uma maneira de melhorar nosso padrão de vida, acabaremos simplesmente alimentando o capitalismo com um trabalhador de inteligência artificial que servirá apenas a uns poucos selecionados que possuem todos os meios de produção.
Este artigo foi publicado originalmente em theconversation.com por Arend Hintze, Professor Associado do Departamento de Biologia Integrativa, Ciência da Computação e Engenharia da Universidade de Michigan
Nikolay Khizhnyak
