Quase todos os que mergulharam um pouco no tópico da inteligência artificial devem chegar à conclusão de que a inteligência artificial nos levará a um apocalipse terrível ou diretamente a uma utopia fabulosa. E praticamente não há opções intermediárias. Claro, isso é em parte ditado pelo fato de que slogans altos como "O fim está próximo!" ou, por exemplo, "Utopia está chegando!" Mas ainda…
Em parte, resume-se a como as pessoas se sentem em relação às mudanças, especialmente as grandes mudanças. O milenismo não tem nada a ver com nascer nos anos 90, ser um "milenar" e lembrar a série sobre Buffy, a vencedora do vampiro. É um estilo de pensar sobre o futuro que está associado a um profundo senso de destino. O milenismo é "a expectativa de que nosso mundo será destruído e substituído por um mundo perfeito e que aparecerá um redentor que derrubará todo o mal e será capaz de confortar os justos".
Consequentemente, as crenças da geração do milênio vinculam intimamente as idéias de criação e destruição. Entre eles - ideias de mudanças apocalípticas enormes e sísmicas que podem destruir a estrutura do velho mundo e construir algo completamente novo. Um sistema de crença semelhante existe em muitas das principais religiões do mundo, e até mesmo nas religiões não tão agnósticas e ateístas, que acreditam na tecnologia ao invés de em essências divinas.
Considere, por exemplo, como os futuristas antecipam uma singularidade tecnológica. Segundo Ray Kurzweil, a singularidade é semelhante à criação do paraíso. Todos serão imortais, porque aparecerá a biotecnologia que pode curar nossas doenças; e nossos cérebros podem ser carregados para a nuvem; o sofrimento e a desigualdade desaparecerão como fenômenos. “Destruição do mundo” está sendo substituída pelo termo favorito do Vale do Silício: disrupção, que é uma mudança radical na indústria. E, como é o caso de outras crenças milenares, sua visão final é altamente dependente do que você espera: o nascimento de uma utopia ou o fim do mundo.
Existem muitas boas razões para ser cético quanto a esse tipo de pensamento. Talvez a mais convincente dessas razões seja que todas as crenças da geração do milênio simplesmente refletem as atitudes das pessoas em relação à mudança; basta ver quantas variações dessas crenças cresceram no mundo.
Essas crenças são encontradas em aspectos da teologia cristã, embora tenham se tornado populares em sua forma moderna nos séculos XIX e XX. Idéias como Tristeza Eterna, muitos anos de dificuldades e sofrimento, e o Arrebatamento, quando os justos serão ressuscitados e os maus serão punidos. Depois de toda essa destruição, o mundo será recriado ou as pessoas irão para o céu.
Apesar do ateísmo dogmático, havia muitas crenças semelhantes no marxismo também. A única questão é em relação à história. Assim como os crentes estão procurando por sinais que possam sugerir o cumprimento de todas as profecias, os marxistas estão procurando por sinais de que estamos no estágio final do capitalismo. Eles acreditam que a sociedade é degradante e irá inevitavelmente degenerar até o fundo - na verdade, como os cristãos também pensam.
Como argumenta o marxismo, quando a exploração da classe trabalhadora pelos ricos é insustentável, a classe trabalhadora reúne e derruba o opressor. "Sorrow" é substituído por "revolução". Às vezes, figuras revolucionárias como Lênin ou o próprio Marx são saudados como messias que aproximam o milênio; sua retórica sempre contém apelos à destruição do velho sistema, sobre as ruínas das quais "construiremos o nosso, construiremos um novo mundo". Os trabalhadores justos obterão o que merecem e a burguesia perversa será destruída.
Vídeo promocional:
Mesmo na mitologia nórdica, há um elemento disso, conforme observado por James Hughes em seu ensaio no livro de Nick Bostrom, Global Catastrophic Risks. Em Ragnarok, tanto humanos quanto deuses são derrotados na batalha apocalíptica final, mas como tudo isso é um pouco sombrio, os escandinavos adicionaram a ideia de uma nova terra na qual os sobreviventes viverão em harmonia.
O Doomsday também se tornou uma trilha cultural. Considere os antigos egípcios e suas crenças sobre a vida após a morte; o senhor do submundo Osíris pesa o coração de um mortal junto com uma pena. Se o coração do falecido estiver muito abatido pelas transgressões, o demônio o comerá e a esperança de uma vida após a morte desaparecerá.
Provavelmente algo semelhante acontecerá durante a singularidade. À medida que nossa tecnologia melhora e, portanto, nossa força, nossos corações, os corações das pessoas, serão pesados contra as penas. Se eles se revelarem pesados demais - com estupidez, arrogância, preconceito, maldade - iremos falhar no teste e seremos destruídos. Mas se atravessamos e saímos da singularidade, o céu nos espera. Como acontece com outros sistemas de crença, não há espaço para incrédulos; toda a sociedade mudará radicalmente, quer você goste ou não. Admiração tecnológica.
Cada grande desenvolvimento parece provocar uma resposta semelhante. E armas nucleares também. Ou será a gota d'água e nós nos destruiremos, ou a energia nuclear pode ser usada para criar um mundo melhor. Nos primeiros dias da era nuclear, as pessoas falavam sobre a eletricidade "barata demais para contar". Os cientistas que trabalhavam na bomba muitas vezes pensavam que, com tamanho poder destrutivo nas mãos dos humanos, teríamos simplesmente de nos reunir e trabalhar juntos como espécie.
Quando vemos a mesma resposta, repetidamente, em diferentes circunstâncias, emergindo em diferentes campos, seja ciência, política ou religião, precisamos considerar o preconceito humano. Amamos as crenças dos millennials, por isso, quando surge a ideia de inteligência artificial que ultrapassa a inteligência humana, imediatamente impomos um padrão familiar.
Não gostamos de fatos. Não gostamos da informação. Não somos tão racionais quanto pensamos que somos. Estamos criando narrativas. Os físicos observam o mundo e nós tecemos nossas próprias observações em teorias narrativas, histórias de pequenas bolas de bilhar que voam aqui e ali e colidem umas com as outras, ou de espaço e tempo que se curva, se dobra e se expande. Os historiadores tentam dar significado a um fluxo infinito de eventos. Amamos histórias: histórias que expõem nosso passado, nosso presente e também nos preparam para o futuro.
A narrativa milenar é muito bonita e atraente. Ele traz a você uma mudança social. Ele pode justificar seu sofrimento diário se você estiver de luto. Ele lhe dá esperança de que sua vida é importante e significativa. Dá uma sensação de que as coisas estão progredindo em uma determinada direção, de acordo com as regras, e não apenas no caos. Ele promete que os justos serão salvos e os hereges punidos, mesmo que haja sofrimento no caminho. Finalmente, a narrativa milenar promete o paraíso no fim do túnel.
Precisamos ter cuidado com a narrativa milenar quando pensamos em desenvolvimento tecnológico, singularidade e riscos existenciais. Gritamos “lobos!” Muitas vezes quando eles não estavam lá. Talvez mesmo agora o mundo não esteja à beira do desastre. Claro, essa história não é tão atraente. Claro, todo mundo quer um final encantador.
Mas vá mais fundo e você descobrirá que as crenças milenares nem sempre são as mais promissoras, porque tiram o agente humano da equação. Teremos que acreditar em tons de cinza e abandonar o apocalipse sinistro com a IA de olhos vermelhos e a utopia fabulosa com a IA onipotente que adora as pessoas.
