Smartphones, robôs e computadores facilitam nossa vida, mas talvez estejamos perdendo algo no processo? Um repórter de uma das publicações conversou com o escritor norte-americano Nicholas Carr sobre os perigos e até ameaças de super automação.
É amplamente aceito que a automação de tudo e de todos melhora a qualidade de nossa vida. Os computadores nos ajudam a atingir o desempenho máximo. Os aplicativos de software tornam as tarefas mais rápidas e fáceis. Os robôs assumem o trabalho árduo e tedioso. O fluxo constante de inovação do Vale do Silício apenas reforça a crença das pessoas de que as novas tecnologias estão tornando a vida melhor.
No entanto, há outra opinião. O escritor Nicholas Carr submete os postulados do mundo digital moderno a uma análise imparcial. Seu ensaio "Does Google Make Us Stupid?", Publicado na Atlantic em 2008, ainda é polêmico, assim como seu livro best-seller de 2010, The Shallows.
Carr é visto pelos adeptos da teoria de que a tecnologia salvará nosso mundo como um de seus oponentes mais poderosos. E aqueles que desconfiam das consequências do progresso tecnológico para a humanidade o respeitam por um raciocínio equilibrado.
Agora Carr está interessado em uma nova questão: devemos temer que gradualmente não haverá tarefas difíceis para nós no mundo? Nossas vidas se tornarão muito eficientes graças às novas tecnologias?
Há pouco tempo, o jornalista (T. C.) se reuniu com o escritor para falar sobre seu novo livro, The Glass Cage: Automation and Us, e o que o levou a escrevê-lo.
1. Desmascarando o principal mito sobre as novas tecnologias
Vídeo promocional:
"Costumávamos pensar que eficiência e conforto são bons por padrão. Essa abordagem é bastante ingênua."
Tom Chatfield: Se bem entendi, em The Glass Cage você está tentando desmascarar o mito de que a simplificação de nossas vidas por meio do progresso tecnológico é necessariamente um fenômeno positivo.
Nicholas Carr: Tanto no nível pessoal quanto institucional, estamos acostumados a pensar que eficiência e conforto são bons por padrão, e maximizá-los é certamente uma meta digna. Parece-me que essa abordagem da tecnologia em todas as suas formas, especialmente na forma de automação por computador, é bastante ingênua. Isso também se aplica aos nossos próprios desejos e à vida real no mundo moderno.
Os computadores irão substituir os humanos?
T. Ch.: E, no entanto, a maioria dos adeptos do progresso tecnológico adere ao ponto de vista utilitário, segundo o qual os maiores erros que cometemos se devem à negligência da eficiência e da lógica e, de fato, nós próprios não sabemos o que é bom para nós. Portanto, do ponto de vista deles, a tarefa do progresso tecnológico é identificar as deficiências do pensamento humano e, então, criar sistemas que compensem essas deficiências. Esta opinião está errada?
N. K.: Por um lado, muitas inovações no desenvolvimento de tecnologia de computador e de sistemas automatizados nada têm a ver com a afirmação abrangente de que as pessoas são muito imperfeitas em comparação com os computadores. Sim, um computador pode ser programado para realizar certas operações indefinidamente com qualidade consistente. E é verdade que uma pessoa não é capaz disso.
Mas alguns vão ainda mais longe e argumentam que as pessoas são imperfeitas demais, que seu papel deve ser limitado o máximo possível e os computadores devem ser responsáveis por todas as tarefas básicas. Não se trata apenas de tentar compensar as deficiências humanas - a ideia é remover o fator humano por completo, e como resultado, argumenta-se, nossa vida se tornará muito melhor.
TC: Parece que essa não é a melhor ideia. Existe um nível ideal de automação?
N. K.: Em minha opinião, a questão não é se precisamos automatizar esta ou aquela tarefa complexa. A questão é como usamos a automação, como exatamente usamos os computadores para complementar o conhecimento e as habilidades humanas, compensar as falhas no pensamento e comportamento humanos e também para estimular as pessoas a aproveitar ao máximo sua própria experiência para alcançar novos patamares.
O excesso de confiança no software pode nos transformar em observadores de monitores de computador e operadores de fluxo de processo. Os computadores podem desempenhar um papel muito importante porque somos apenas humanos - podemos ser vítimas de preconceitos ou perder informações importantes. Mas o perigo é que é muito fácil terceirizar todas as nossas funções para computadores, o que, em minha opinião, seria uma decisão errada.
2. Você precisa aproximar a vida real do cenário de um videogame?
"Gostamos dos jogos de computador precisamente porque não são fáceis de jogar."
TC: Foi com satisfação que constatei que em seu livro você cita os videogames como exemplo de interação no sistema "homem-máquina", em que o significado é superar as dificuldades, não evitá-las. Os jogos mais populares são um tipo de trabalho que dá ao jogador uma sensação de satisfação. Só podemos reclamar que o trabalho que muitos de nós temos que fazer todos os dias requer muito menos habilidade e nos traz muito menos prazer.
N. K.: Os videogames são muito interessantes porque seu conceito vai contra os princípios geralmente aceitos de desenvolvimento de software. O objetivo dos jogos de computador não é, de forma alguma, aliviar o usuário do inconveniente. Pelo contrário, eles estimulam o jogador a exercer um esforço extra e maximizar o uso do cérebro. Gostamos dos videogames precisamente porque eles nos desafiam com desafios cada vez maiores. Constantemente nos encontramos em situações difíceis - mas não em situações que causam desespero. Superar cada novo nível apenas aprimora nossas habilidades.
Esse processo é muito semelhante a como uma pessoa ganha experiência de vida na vida real. Como sabemos, para o desenvolvimento de habilidades, uma pessoa precisa enfrentar sérios obstáculos repetidas vezes e superá-los vez após vez, usando todos os seus conhecimentos e habilidades. Gradualmente, a pessoa atinge um novo nível, após o qual a dificuldade dos obstáculos aumenta.
Acho que as pessoas amam videogames pelo mesmo motivo que sentem satisfação em ganhar novas experiências e superar obstáculos. A solução de uma tarefa difícil, em cujo processo são adquiridos novos conhecimentos, necessários para superar novas dificuldades ainda mais complexas, dá grande prazer à pessoa.
Uma das principais preocupações que expresso no livro é que nossa atitude em relação ao progresso está associada ao desejo de evitar ao máximo a solução de problemas difíceis. Parece-me que esse ponto de vista contradiz o próprio conceito de satisfação com a vida e autorrealização.
3. Os computadores eliminarão a necessidade de pessoas?
"As pessoas simplesmente não conseguem acompanhar os computadores ao negociar instrumentos financeiros"
TC: Ao contrário dos videogames, no mundo real, o trabalho duro não é necessariamente recompensado. O mundo real é injusto e desequilibrado. Talvez a tendência mais preocupante aqui seja que os interesses do indivíduo (psicologicamente, pessoalmente e até em termos de sobrevivência) cada vez mais deixam de coincidir com as noções corporativas e governamentais de conveniência. Você tem medo de que os computadores finalmente substituam os humanos?
N. K.: Quando estava coletando material para o livro, fiquei muito assustado com um artigo (citações que cito no texto), escrito por um especialista em estratégia militar. Segundo ele, dada a crescente escala do uso de tecnologias de informática no campo de batalha, muito em breve poderá simplesmente não haver lugar para uma pessoa nos assuntos militares. A velocidade de tomada de decisões aumentou tanto que as pessoas simplesmente não conseguem acompanhar os computadores. Estamos inevitavelmente caminhando para uma guerra totalmente automatizada: os drones decidirão por si próprios quando disparar mísseis contra os alvos, e os soldados robóticos no solo decidirão quando disparar.
Em minha opinião, esta situação é observada não apenas nos assuntos militares, mas também em muitas outras áreas - por exemplo, no mundo das finanças. As pessoas simplesmente não acompanham os computadores quando negociam instrumentos financeiros, por exemplo.
O que nos espera? Podemos não apenas perder a capacidade que nos distingue dos computadores para avaliação crítica de nossas próprias ações - talvez implementemos tais sistemas sem pensar, acreditando que o principal é a velocidade da tomada de decisões. E então, se estivermos convencidos de que estávamos errados, descobriremos que não há como voltar atrás. Muitas vezes, torna-se impossível integrar uma pessoa a um sistema originalmente construído com base em tecnologia de computador.
TC: Também fiquei horrorizado quando li uma passagem em seu livro sobre guerra automatizada. Tive a sensação de que o processo que nos levará a sistemas de combate totalmente autônomos não pode ser interrompido. Parte do meu horror vem das memórias da crise financeira de 2008, que virtualmente eliminou trilhões de dólares. Pelo menos agora as pessoas são mais responsáveis por suas finanças. Mas se isso acontecer na esfera militar, não serão destruídos dólares, mas vidas humanas.
Além disso, parece-me que existe um pensamento que se refere ao seu livro anterior "Vazio": as pessoas de hoje, no sentido biológico, não são muito diferentes de nossos ancestrais que viveram há centenas de anos, mas vivemos em um mundo completamente novo. as consequências de certas ações há muito ultrapassam a velocidade a que estamos acostumados. O mesmo se aplica a novas invenções - elas mesmas, na forma de informações e algoritmos, bem como suas consequências, estão se espalhando em um ritmo impressionante.
Um futuro sem gente?
N. K.: A questão não é apenas que as novas tecnologias, especialmente as tecnologias no campo do software, hoje podem ser replicadas e distribuídas muito rapidamente. A questão é que todos esses processos ocorrem em um ambiente competitivo. Quer estejamos falando de uma corrida armamentista ou de uma competição empresarial, assim que um dos rivais obtém uma vantagem de curto prazo às custas de uma determinada tecnologia, eles imediatamente começam a introduzir essa tecnologia sempre que possível - porque ninguém quer ficar em desvantagem.
Acho que, nessa situação, é muito fácil perder de vista o fato de que somos essencialmente animais. As pessoas percorreram um caminho evolutivo por milênios para poder viver e sobreviver. O papel da humanidade, assim como nossos sentimentos de satisfação e autorrealização, estão intimamente relacionados à nossa experiência de viver em um mundo que estabelece nosso ritmo usual.
Portanto, quando opomos uma pessoa, com todas as suas vantagens e desvantagens físicas, a um computador rápido e preciso, há o desejo de entregar toda a nossa vida aos computadores. No entanto, esquecemos que a submissão total ao computador nos levará a uma vida em que haverá pouco espaço para a autorrealização.
4. Como automatizamos o mundo?
“Você pode inovar com inteligência, mas pode fazê-lo com leveza”
TC: Acho que precisamos ser críticos em relação às novas tecnologias, mas estou preocupado com as pessoas transformando dificuldades desnecessárias e "autenticidade" anti-tecnológica em fetiche. Existe uma escola de pensamento moderna que elogia o trabalho físico duro e afirma que tudo o que fazemos deve ser artesanal e autêntico. Em minha opinião, tal posição cheira a esnobismo e não leva em conta o grande número de conquistas positivas que a democratização do progresso tecnológico trouxe consigo.
N. K.: Concordo totalmente com você. Em uma entrevista, fui questionado sobre como minha atitude cautelosa em relação ao progresso ajudará, por exemplo, as pessoas que trabalham em condições difíceis em fábricas de processamento de carne. Respondi que, é claro, sempre haverá um lugar para automação da produção onde as condições de trabalho das pessoas precisam ser melhoradas. Acontece apenas que você pode inovar de forma inteligente ou irrefletida; podemos encontrar uma maneira de levar em consideração o valor da experiência humana e a importância da autorrealização, ou podemos simplesmente exaltar as capacidades dos computadores. Fazer a escolha certa não é fácil. Se percebermos essa tarefa exclusivamente em preto e branco - ou defendemos cegamente o trabalho físico árduo e exaustivo em qualquer situação, ou, inversamente, vemos o significado da vida no sibarismo - isso não ajudará a causa.
As pessoas estão constantemente criando e usando ferramentas. Desde tempos imemoriais, temos que tomar decisões relacionadas com a divisão do trabalho, com a divisão da quantidade de trabalho entre uma pessoa e as ferramentas à sua disposição. E me parece que a incrível eficiência dos computadores na execução de uma ampla gama de tarefas apenas complica o processo de tomada de tais decisões.
5. O que nos espera?
“Precisamos nos esforçar para garantir que os computadores enriquecem nossa experiência de vida e não nos tornem observadores passivos das telas dos monitores”
T. Ch.: Então, para onde está indo a humanidade?
NK: O historiador de história natural Thomas Hughes, falecido no ano passado, propôs o conceito de impulso tecnológico. Ele acreditava que as tecnologias embutidas nas estruturas e processos sociais começam a se desenvolver por conta própria, arrastando a sociedade com elas. É bem possível que nossa trajetória já esteja traçada e que sigamos no caminho atual, sem questionar se estamos caminhando na direção certa. Eu realmente não sei o que vai acontecer. O máximo que posso fazer é tentar raciocinar sobre essas questões realmente difíceis da melhor maneira possível.
Espero que, como indivíduos e membros da sociedade, sejamos capazes de manter um certo nível de compreensão do que está acontecendo conosco, bem como um certo nível de curiosidade, e tomaremos decisões com base em nossos interesses de longo prazo, e não com base em nossos conceitos usuais de conveniência, velocidade, precisão. e eficiência.
Parece-me que precisamos nos esforçar para garantir que os computadores enriquecem nossa experiência de vida e nos abram novas possibilidades, e não nos tornem observadores passivos de telas de monitores. Ainda acho que se tirarmos mais proveito das novas tecnologias, eles serão capazes de fazer o que as tecnologias e ferramentas têm feito ao longo da história da humanidade - criar um mundo mais interessante ao nosso redor e nos ajudar a nos tornarmos melhores. Em última análise, tudo depende de nós mesmos.
Tom Chatfield
