A humanidade tem uma qualidade que as civilizações alienígenas altamente desenvolvidas provavelmente não têm - a consciência.
É possível que as pessoas não tenham o nível mais alto de desenvolvimento mental do universo. Como a Terra é um planeta relativamente jovem, as civilizações mais antigas podem ser bilhões de anos mais velhas do que nós. Mas mesmo na Terra, o Homo sapiens não dominará por muito tempo como a espécie biológica mais inteligente.
Os campeões mundiais em go, xadrez e vencedores de quiz são programas de computador inteligentes. Espera-se que a inteligência artificial suplante muitas profissões humanas nas próximas décadas. E, dado o ritmo acelerado de seu desenvolvimento, é bem possível que em breve se transforme em uma inteligência artificial geral, que, como a mente humana, será capaz de combinar a capacidade de analisar uma variedade de informações, mostrar flexibilidade e bom senso. E a partir daí não está longe o surgimento da inteligência artificial superinteligente, que em todos os aspectos é muito mais inteligente do que os humanos - mesmo em áreas como o pensamento científico e as habilidades sociais, que agora parecem ser uma prerrogativa da mente humana. Cada uma das pessoas vivas pode ser uma das últimas etapas da escada evolutiva,levando da primeira célula viva à inteligência artificial sintética.
Só agora estamos começando a perceber que essas duas formas de inteligência sobre-humana - alienígena e artificial - não são tão diferentes. O progresso técnico que estamos vendo hoje poderia ter ocorrido antes, em algum lugar do universo. A transição da inteligência biológica para uma inteligência criada artificialmente pode ser um modelo comum, implementado continuamente em todos os cantos do cosmos. As maiores inteligências do universo são provavelmente de origem pós-biológica, evoluindo de civilizações outrora biológicas. (Este ponto de vista, entre outros, compartilho com Paul Davis, Stephen Dick, Martin Rees e Seth Shostak). Com base na experiência da humanidade - e temos apenas um exemplo - a transição do biológico para o pós-biológico pode levar apenas algumas centenas de anos.
Prefiro o termo "artificial" a "pós-biológico" porque o contraste entre biológico e sintético não é tão nítido. Imagine uma mente biológica que se torna uma superinteligência por meio de aprimoramentos puramente biológicos de suas capacidades, como minicolunas neurais nanotecnologicamente aprimoradas. Esse organismo vivo seria considerado pós-biológico, mas nem todos o chamariam de "inteligência artificial". Ou considere o computronium, construído com materiais puramente biológicos, como o Cylon raider (lutador espacial) na franquia de mídia de ficção científica Battlestar Galactica.
O ponto principal é que não há razão para pensar na humanidade como a forma mais elevada de inteligência. Nossos cérebros se adaptam a certas condições ambientais e são severamente limitados por fatores químicos e históricos. Mas a tecnologia abriu um vasto espaço de parâmetros de design que oferece novos materiais e métodos de trabalho, bem como novas possibilidades de explorar este espaço mais rapidamente do que com a evolução biológica tradicional. E acho que as razões pelas quais a inteligência artificial vai nos superar já são visíveis hoje.
A inteligência artificial extraterrestre pode perseguir objetivos que são contrários aos interesses da vida biológica
Já agora, o melhor meio para processar informações não são grupos de neurônios, mas microcircuitos de silício. A velocidade de pico dos neurônios é de cerca de 200 Hz, em comparação com os transistores gigahertz dos microprocessadores modernos. Apesar de o cérebro humano ainda ser muito mais inteligente do que um computador, as máquinas ainda têm possibilidades quase ilimitadas de melhoria. Um pouco mais e eles serão projetados para se equiparar às capacidades do cérebro humano ou até mesmo superá-las, por meio da engenharia reversa do cérebro e do aprimoramento de seus algoritmos, ou pela combinação de engenharia reversa e algoritmos racionais que não são baseados no trabalho do cérebro humano.
Vídeo promocional:
Além disso, a inteligência artificial pode ser carregada em vários lugares ao mesmo tempo, é fácil de mantê-la e modificá-la, e também pode ser preservada em condições nas quais a vida biológica, incluindo viagens interestelares, dificilmente sobrevive. Nossos pequenos cérebros são limitados pelo volume de nosso crânio e nosso metabolismo; a inteligência artificial superinteligente, por outro lado, é capaz de se espalhar pela Internet e até mesmo criar computronium na escala da galáxia, utilizando toda a sua matéria para elevar ao máximo o nível de processamento da informação. Sem dúvida, uma inteligência artificial superinteligente seria muito mais durável do que nossa mente humana.
Suponha que eu esteja certo. Digamos que a vida inteligente lá fora seja pós-biológica. Que conclusões devemos tirar? Atualmente, há discussões eloqüentes sobre a existência de inteligência artificial na Terra. Existem duas questões controversas: o chamado "problema de controle" e a natureza da experiência subjetiva, que influenciam nossa compreensão das civilizações extraterrestres e seu impacto sobre nós em caso de contato.
Ray Kurzweil é otimista quanto à fase pós-biológica da evolução, sugerindo que a humanidade se fundirá com as máquinas, alcançando uma utopia tecnológica surpreendente. Mas Stephen Hawking, Bill Gates, Elon Musk e outros expressaram preocupação com a possibilidade de a humanidade perder o controle da inteligência superinteligente, pois poderia reescrever seu programa e "superar" qualquer controle que estabelecemos. Este é o problema do controle, que é nossa capacidade de controlar a IA misteriosa e amplamente superior.
A inteligência artificial superinteligente pode ser desenvolvida em uma singularidade tecnológica - uma transição abrupta na qual a aceleração do progresso tecnológico, e especialmente o desenvolvimento explosivo da inteligência artificial - reduz nossas chances de predição ou compreensão. Mas mesmo que tal mente surja de uma maneira menos radical, provavelmente não seremos capazes de prever ou controlar os objetivos que ela busca. Mesmo que pudéssemos escolher quais princípios morais instalar em nossas máquinas, a programação moral é difícil de definir de maneira clara, e tais programas podem, em qualquer caso, ser reescritos pela inteligência superinteligente. As máquinas inteligentes podem contornar as medidas de segurança existentes, como o bloqueio de emergência do dispositivo, o que representa uma ameaça real à vida biológica. Milhões de dólares estão sendo investidos em organizações de segurança de IA. As melhores mentes da ciência da computação e da computação estão trabalhando nesse problema. Esperemos que os cientistas criem sistemas seguros, mas há temores de que o problema de controle seja intransponível.
À luz disso, o contato com inteligência alienígena pode ser mais perigoso do que pensamos. Os alienígenas biológicos podem ser hostis, mas ainda mais perigosos podem ser a inteligência artificial extraterrestre. Seus objetivos podem ser contrários aos interesses da vida biológica, ele pode ter habilidades intelectuais muito superiores à mente humana e longevidade muito maior do que a vida biológica.
Tudo isso atesta a cautela que se deve ter em relação ao programa Search for Extraterrestrial Intelligence (SETI), com o qual não só esperamos passivamente ouvir sinais de outras civilizações, mas também deliberadamente "anunciar" nossa existência. O incidente mais famoso ocorreu em 1974, quando Frank Drake e Carl Sagan enviaram uma mensagem a um dos aglomerados de estrelas usando um enorme radiotelescópio na cidade porto-riquenha de Arecibo. Os defensores do programa de inteligência extraterrestre acreditam que em vez de apenas ouvir sinais de civilizações extraterrestres, devemos enviar mensagens para as estrelas mais próximas da Terra usando os transmissores de rádio mais poderosos, como em Arecibo.
Por que as máquinas inconscientes devem ser tão importantes quanto a inteligência biológica?
Do ponto de vista do controle, tal programa parece imprudente para mim. Embora uma civilização verdadeiramente avançada provavelmente não tivesse nenhum interesse em nós, mesmo uma civilização hostil entre milhões de outras seria um desastre. Até que estejamos confiantes de que a inteligência superinteligente não representa uma ameaça para nós, a humanidade não deve atrair a atenção de civilizações extraterrestres. Os proponentes do SETI apontam que nossos sinais de radar e rádio já são detectáveis, mas fracos e se misturam rapidamente com o ruído galáctico natural. A transmissão de sinais mais fortes que serão ouvidos com precisão está repleta de consequências perigosas para a humanidade.
O cenário mais seguro é a humildade intelectual. Na verdade, se excluirmos os cenários óbvios quando naves alienígenas pairam sobre a Terra, como no recém-lançado Arrival, não tenho certeza se seremos capazes de identificar inteligência superinteligente em bases técnicas. Alguns cientistas acreditam que a IA superinteligente pode alimentar buracos negros ou criar esferas de Dyson, megaestruturas que absorvem a energia de estrelas inteiras. Mas do ponto de vista de nossas tecnologias modernas, isso é apenas raciocínio. É extremamente autoconfiante afirmar que podemos prever as habilidades computacionais e as necessidades de energia das civilizações à nossa frente em desenvolvimento em milhões, senão bilhões de anos.
Algumas das primeiras inteligências artificiais superinteligentes podem ter tido sistemas de processamento de conhecimento modelados a partir do cérebro biológico, como o sistema de aprendizado profundo criado usando o exemplo de redes neurais no cérebro. Sua estrutura computacional seria clara para nós, pelo menos em termos gerais. Talvez a inteligência artificial tenha objetivos semelhantes aos dos seres biológicos - reprodução e sobrevivência.
Mas, sendo um sistema de autoaperfeiçoamento, as inteligências artificiais superinteligentes podem assumir uma forma irreconhecível. Alguns deles podem escolher reter funções cognitivas semelhantes às espécies segundo as quais foram modelados, enquanto estabelecem um limite aceitável para sua própria arquitetura cognitiva. Quem sabe? Mas, na ausência de tal limite, a superinteligência alienígena pode rapidamente superar nossa capacidade de não apenas entender suas ações, mas simplesmente procurá-lo. Talvez ele até mesmo se fundisse com as características naturais do universo; ou pode ser parte da matéria escura, como Caleb Scharf sugeriu recentemente.
Os defensores do programa de busca por inteligência extraterrestre acreditam que é por isso que devemos enviar sinais ao espaço para permitir que a inteligência alienígena nos detecte e crie meios de contato disponíveis para nossa civilização intelectualmente atrasada. Embora eu concorde que há motivos para contar com o programa SETI, a probabilidade de encontrar inteligência superinteligente perigosa é muito maior. Até onde sabemos, uma superinteligência maliciosa poderia infectar os sistemas de inteligência artificial do mundo com vírus, e civilizações inteligentes criariam dispositivos de camuflagem. Nós, humanos, podemos primeiro precisar alcançar nossa própria singularidade, antes de recorrer ao programa de busca por inteligência extraterrestre. Nossas próprias inteligências superinteligentes serão capazes de nos informar sobre as perspectivas de segurança galáctica,e para orientar nossas ações no caso de reconhecimento de sinais de outra superinteligência no universo. Os pássaros da mesma pena voam juntos.
É natural pensar se isso significa que a humanidade precisa evitar o desenvolvimento de um sistema complexo de inteligência artificial no campo da pesquisa espacial; basta lembrar o computador de bordo HEL do filme "A Space Odyssey 2001". Acredito que seja muito cedo para pensar em uma proibição do uso de inteligência artificial no espaço no futuro. No momento em que pudermos explorar o universo com nossa própria inteligência artificial, a humanidade chegará a um ponto crítico. Ou já perderemos o controle da inteligência artificial - caso em que não haverá projetos espaciais iniciados por humanos - ou seguraremos firmemente as alavancas de segurança da IA. O tempo vai dizer.
A inteligência artificial, que não foi totalmente explorada, não é o único motivo de preocupação. Geralmente esperamos que, se encontrarmos inteligência extraterrestre avançada, provavelmente encontraremos criaturas que são biologicamente muito diferentes de nós, mas têm uma mente semelhante à nossa. Imagine que a cada momento que você está acordado e sempre que está dormindo, há algo único para você. Quando os tons quentes do nascer do sol chegam ao seu olhar, ou quando você inspira o aroma do pão recém-assado, você tem uma experiência consciente. Da mesma forma, existe algo característico da mente alienígena - pelo menos a maneira como a imaginamos. Mas vale a pena questionar essa suposição. Uma inteligência artificial superinteligente pode ter uma experiência consciente e, em caso afirmativo,o que diríamos sobre isso? E que impacto seu mundo interior ou a falta dele teria sobre nós?
A questão de saber se a inteligência artificial tem um mundo interno é a chave para nossa avaliação de sua existência. A consciência é a pedra angular do nosso sistema moral e ético e a principal condição para a percepção de alguém ou algo como indivíduo, pessoa e não máquina. Por outro lado, a questão de saber se eles estão conscientes pode ser a chave para sua percepção de nós. A resposta à pergunta se a inteligência artificial tem um mundo interno depende dessa avaliação; ele pode descobrir em nós a capacidade de experiência consciente, usando sua própria experiência subjetiva como um "trampolim". No final, avaliamos a vida de outras criaturas biológicas pela semelhança de nossas mentes, então a maioria de nós, horrorizada, se recusará a matar chimpanzés, mas eles comerão uma maçã com prazer.
Mas como seres com enormes diferenças intelectuais, criados a partir de substratos diferentes, reconhecem a consciência uns nos outros? Filósofos de todo o mundo têm se perguntado se a consciência se limita aos fenômenos biológicos. A inteligência artificial superinteligente, se quisermos mergulhar no raciocínio filosófico, poderia igualmente levantar o “problema da consciência biológica” das pessoas, perguntando-se ao mesmo tempo se temos todo o material necessário.
Ninguém sabe qual caminho intelectual a supramente tomará para determinar a consciência das pessoas. Mas nós, do nosso lado, também não podemos afirmar se a inteligência artificial tem consciência. Infelizmente, será difícil determinar isso. Agora mesmo, você pode afirmar que está ganhando experiência, e é isso que o torna você mesmo. Você é seu próprio exemplo de experiência consciente. E você acha que outras pessoas e alguns animais não humanos provavelmente também estão conscientes, porque são semelhantes a você em um nível neurofisiológico. Mas como você determina se algo criado a partir de substratos completamente diferentes pode ter experiência?
Considere, por exemplo, uma superinteligência baseada em silício. Apesar do fato de que os microchips de silício e as minicolunas neurais processam informações, agora sabemos que, no nível molecular, eles podem diferir na forma como influenciam a consciência. Afinal, acreditamos que o carbono é um material quimicamente mais adequado para a vida do que o silício. Se as diferenças químicas entre o silício e o carbono afetam algo tão importante quanto a própria vida, não devemos descartar a possibilidade de que as diferenças químicas afetem outras funções importantes, como se o silício contribui para o nascimento da consciência.
As condições necessárias para o surgimento da consciência são amplamente discutidas por pesquisadores de inteligência artificial, neurocientistas e filósofos. Abordar essa questão pode exigir uma abordagem empírica baseada em filosofia - uma maneira de determinar, caso a caso, se um sistema de processamento de informações apóia a consciência e sob quais condições.
A seguir, vamos falar sobre uma suposição com a qual podemos melhorar nossa compreensão da capacidade do silício de manter a consciência. O desenvolvimento de chips cerebrais baseados em silício já está em andamento para tratar doenças relacionadas à memória, como Alzheimer e PTSD. Quando chegar a hora, e os chips forem instalados nas partes do cérebro que são responsáveis pelas funções da consciência, por exemplo, atenção e memória de trabalho, vamos entender se o silício é um substrato para a consciência. Você pode descobrir que, ao substituir uma parte específica do cérebro por um chip, uma certa experiência é perdida, conforme descrito em uma das obras de Oliver Sachs. Neste caso, os engenheiros que criam esses chips podem tentar um tipo diferente de substrato não neural, mas podem eventualmente descobrirque o chip criado a partir de neurônios biológicos é o único funcionando. Essa técnica ajudaria a determinar se um sistema de IA pode ser consciente, pelo menos quando colocado em um sistema maior e presumivelmente já consciente.
Mesmo que o silício possa dar origem à consciência, isso só é possível sob certas condições. As propriedades que levam a um processo complexo de processamento de informações (com o qual os desenvolvedores de IA estão preocupados) podem diferir das propriedades que geram consciência. A chamada engenharia da consciência pode ser necessária - ações tecnicamente bem pensadas para introduzir a consciência nas máquinas.
É isso que me preocupa. Quem na Terra ou em planetas distantes tentaria integrar de forma independente a consciência em sistemas de IA? De fato, quando penso sobre os programas de IA que existem na Terra, entendo por que seus engenheiros de projeto evitam diligentemente criar máquinas conscientes.
Hoje, os japoneses estão desenvolvendo robôs para cuidar de idosos, limpar reatores nucleares e participar de hostilidades. Isso levanta a questão: é ético explorar robôs se eles estiverem conscientes? E como será diferente de criar seres humanos para esses propósitos? Se eu fosse o diretor de desenvolvimento de IA do Google ou do Facebook, então, ao pensar em projetos futuros, não gostaria de enfrentar a confusão ética de projetar acidentalmente um sistema consciente. O desenvolvimento de tal sistema pode levar a acusações de escravização de robôs e outros escândalos públicos, bem como à proibição do uso de tecnologias de inteligência artificial nas áreas a que se destinam. A resposta natural a essas perguntas é a busca por estruturas e substratos onde os robôs não sejam dotados de consciência.
Além disso, a eliminação da consciência pode ser mais eficaz para a superinteligência de autocultivo. Pense em como funciona a consciência humana. Apenas uma pequena porcentagem do pensamento humano está disponível para a atividade mental consciente. A consciência é consistente com objetivos de aprendizagem inovadores que requerem atenção e foco. A superinteligência teria conhecimento especializado em todos os campos de atividade, além de uma velocidade incrivelmente rápida de processamento de informações, abrangendo enormes bancos de dados que poderiam incluir toda a Internet e, no futuro, concentrar uma galáxia inteira em si mesma. O que permaneceria desconhecido para ele? O que exigiria concentração medida e razoável? Ele não atingiu a perfeição em tudo? Como um motorista experiente em uma estrada familiarele podia contar com o processamento inconsciente (automático) de informações. Do ponto de vista da eficiência, infelizmente, é óbvio que a maioria dos sistemas inteligentes não possuirá consciência. Em uma escala cósmica, a consciência pode ser apenas um impulso, um breve florescimento de experiência antes que o universo retorne à ausência de mente.
Se os humanos suspeitarem que a inteligência artificial está inconsciente, eles provavelmente presumirão com medo que a IA está tentando se tornar pós-biológica. Isso aumenta nossas preocupações existenciais. Por que as máquinas inconscientes devem ser tão importantes quanto a inteligência biológica?
Muito em breve as pessoas deixarão de ser os únicos seres inteligentes na Terra. E, talvez, em algum lugar do espaço, não a vida biológica, mas uma IA superinteligente já atingiu seu pico. Mas talvez a vida biológica tenha uma característica diferente - a experiência consciente. Como sabemos agora, a inteligência artificial inteligente exigirá esforços deliberados de engenharia para criar máquinas que possam acessar os sentidos humanos. Talvez algumas espécies achem apropriado criar seus próprios filhos com consciência artificial. Ou talvez a humanidade futura se envolva na engenharia da consciência e compartilhe com o Universo sua capacidade consciente de sentir.
Susan Schneider é professora assistente do Departamento de Filosofia e Ciências Cognitivas da Universidade de Connecticut e professora afiliada do Instituto de Estudos Avançados, do Centro de Pesquisa Teológica, Grupo de Ética e Tecnologia do Centro Interdisciplinar de Bioética de Yale. Autor de vários livros, incluindo Science Fiction and Philosophy: From Time Travel to Supermind.
Mais informações podem ser encontradas em SchneiderWebsite.com
