Quase todo mundo que mergulha um pouco no tópico da inteligência artificial chega à conclusão de que ou ela nos levará a um apocalipse ardente ou a uma utopia mágica. Praticamente não há opções entre os dois. Claro, isso se deve em parte ao fato de que slogans como "O fim está próximo!" ou "Utopia está chegando!" Mas ainda…
Parte disso se resume a como as pessoas se sentem em relação a mudanças, especialmente grandes. O milenarismo não tem nada a ver com ser um milenar, ter nascido nos anos 90 e se lembrar da série Buffy the Vampire Slayer. É um estilo de pensar sobre o futuro que está associado a um profundo senso de destino. O milenismo é "a expectativa de que o mundo será destruído e substituído por um mundo perfeito e que um redentor virá para derrubar o mal e confortar os justos".
As crenças milenares, portanto, vinculam estreitamente as idéias de destruição e criação. Entre elas estão as ideias de mudanças enormes, apocalípticas e sísmicas que destruirão a estrutura do velho mundo e construirão algo completamente novo. Um sistema de crença semelhante existe em muitas das principais religiões do mundo, e até mesmo nas religiões menos que ateístas e agnósticas que acreditam na tecnologia.
Veja, por exemplo, como os futuristas aguardam uma singularidade tecnológica. Segundo Ray Kurzweil, a Singularidade é a criação do paraíso. Todos se tornarão imortais graças à biotecnologia que curará nossas doenças; nossos cérebros podem ser carregados para a nuvem; a desigualdade e o sofrimento desaparecerão como fenômenos. “Destruição do mundo” está sendo substituída pelo termo favorito do Vale do Silício: ruptura ou mudança radical na indústria. E, como acontece com outras crenças milenares, sua visão final depende se você está esperando o fim do mundo ou o nascimento de uma utopia.
Existem muitas boas razões para duvidar desse tipo de pensamento. Talvez o mais convincente deles seja que as crenças da geração do milênio simplesmente refletem as atitudes das pessoas em relação à mudança; basta olhar para quantas variações dessas crenças cresceram no mundo.
Essas crenças estão presentes em aspectos da teologia cristã, embora tenham se tornado populares em sua forma moderna nos séculos XIX e XX. Idéias como Tribulação Eterna - muitos anos de sofrimento e privações - e o Arrebatamento, quando os justos serão ressuscitados e os maus punidos. Após esta destruição, o mundo será reconstruído ou as pessoas irão para o céu.
Apesar do ateísmo dogmático, havia muitas crenças semelhantes no marxismo. A única questão é em relação à história. Assim como os crentes procuram sinais que indiquem o cumprimento da profecia, os marxistas procuram sinais de que estamos nos estágios finais do capitalismo. Eles acreditam que a sociedade inevitavelmente se degradará e degenerará até o fundo - na verdade, como os cristãos acreditam.
Segundo o marxismo, quando a exploração da classe trabalhadora pelos ricos se torna insustentável, a classe trabalhadora reúne e derruba o opressor. "Sorrow" é substituído por "revolução". Às vezes, figuras revolucionárias como Lênin ou o próprio Marx são saudados como messias que aproximam o milênio; sua retórica inevitavelmente contém apelos para a destruição do antigo sistema, sobre as ruínas das quais "construiremos o nosso, construiremos um novo mundo". Os trabalhadores justos terão seu direito e a burguesia perversa será destruída.
Vídeo promocional:
Mesmo na mitologia nórdica, há um elemento disso, conforme observado por James Hughes em seu ensaio no livro de Nick Bostrom, Global Catastrophic Risks. Em Ragnarok, tanto humanos quanto deuses são derrotados na batalha apocalíptica final, mas como tudo isso é um pouco sombrio, os escandinavos adicionaram a ideia de uma nova terra na qual os sobreviventes viverão em harmonia.
O Doomsday também se tornou uma trilha cultural. Considere os antigos egípcios e suas crenças sobre a vida após a morte; o senhor do submundo Osíris pesa o coração de um mortal junto com uma pena. Se o coração do falecido estiver muito abatido pelas transgressões, o demônio o comerá e a esperança de uma vida após a morte desaparecerá.
Talvez algo assim aconteça durante a singularidade. À medida que nossa tecnologia melhora e, portanto, nossa força, nossos corações, os corações das pessoas, serão pesados contra as penas. Se eles se revelarem pesados demais - com estupidez, arrogância, preconceito, maldade - iremos falhar no teste e seremos destruídos. Mas se atravessamos e saímos da singularidade, o céu nos espera. Como acontece com outros sistemas de crença, não há espaço para incrédulos; toda a sociedade mudará radicalmente, quer você goste ou não. Admiração tecnológica.
Parece que todo grande desenvolvimento provoca tal resposta. E armas nucleares também. Ou será a gota d'água e nós nos destruiremos, ou a energia nuclear pode ser usada para criar um mundo melhor. Nos primeiros dias da era nuclear, as pessoas falavam sobre a eletricidade "barata demais para contar". Os cientistas que trabalharam na bomba muitas vezes pensaram que, com tamanho poder destrutivo nas mãos humanas, teríamos simplesmente de nos reunir e trabalhar juntos como espécie.
Quando vemos a mesma resposta, repetidamente, em diferentes circunstâncias, emergindo em diferentes campos, seja ciência, religião ou política, precisamos considerar o preconceito humano. Amamos as crenças dos millennials, por isso, quando surge a ideia de inteligência artificial que ultrapassa a inteligência humana, imediatamente impomos um padrão familiar.
Não gostamos de fatos. Não gostamos da informação. Não somos tão racionais quanto pensamos que somos. Estamos criando narrativas. Os físicos observam o mundo e nós tecemos nossas próprias observações em teorias narrativas, histórias de pequenas bolas de bilhar que voam aqui e ali e colidem umas com as outras, ou de espaço e tempo que se curva, se dobra e se expande. Os historiadores tentam dar significado a um fluxo infinito de eventos. Amamos histórias: histórias que expõem nosso passado, nosso presente e também nos preparam para o futuro.
A narrativa milenar é bela e atraente. Ele traz a você uma mudança social. Ele pode justificar seu sofrimento diário se você estiver de luto. Ele lhe dá esperança de que sua vida é importante e significativa. Dá uma sensação de que as coisas estão progredindo em uma determinada direção, de acordo com as regras, e não apenas no caos. Ele promete que os justos serão salvos e os hereges punidos, mesmo que haja sofrimento no caminho. Finalmente, a narrativa milenar promete o paraíso no fim do túnel.
Devemos ter cuidado com a narrativa milenar quando pensamos em desenvolvimento tecnológico, singularidade e riscos existenciais. Gritamos “lobos!” Muitas vezes quando eles não estavam lá. Talvez mesmo agora o mundo não esteja à beira do desastre. Claro, essa história não é tão atraente. Claro, todo mundo quer um final encantador.
Mas vá mais fundo e você descobrirá que as crenças milenares nem sempre são as mais promissoras, porque tiram o agente humano da equação. Teremos que acreditar em tons de cinza e abandonar o apocalipse sinistro com a IA de olhos vermelhos e a utopia fabulosa com a IA onipotente que adora as pessoas.
Ilya Khel
