Capítulo de livro publicado pelo Museu Politécnico
Homem e robô - onde fica a fronteira entre eles e quais os perigos que nossa proximidade traz? Com base na experiência pessoal, inúmeras entrevistas e dados das pesquisas mais recentes, o cientista mais respeitado na área, David Mindell, oferece uma visão dos bastidores das aplicações mais inovadoras da robótica. Indicaror. Ru publica um capítulo de seu livro “Rise of the Machines Is Canceled! Mitos sobre a robotização”.
Operado por humanos - remoto - autônomo
Nas profundezas da noite, bem acima do Oceano Atlântico, no vasto espaço aberto entre o Brasil e a África, um avião de passageiros foi pego por mau tempo. O gelo congelado obstruiu pequenos tubos no nariz da aeronave, o que determinou sua velocidade e transmitiu dados aos computadores que controlavam a aeronave. Os computadores poderiam continuar a voar sem essa informação, mas o programa embutido neles não previa esse alinhamento. O sistema fly-by-wire automático desistiu e desligou, transferindo o controle para as pessoas - os pilotos sentados na cabine do transatlântico: Pierre-Cedric Bonin de 32 anos e David Robert de 37 anos. Bonin e Robert, ambos relaxados e um pouco cansados, foram pegos de surpresa quando descobriram de repente que teriam que pilotar manualmente um enorme avião comercial em alta altitude em más condições climáticas, e até mesmo à noite. E em condições mais favoráveis, seria uma tarefa difícil que os pilotos não enfrentam ultimamente. O comandante da tripulação, Marc Dubois, de 58 anos, não estava pilotando o avião naquele momento, mas estava descansando na cabine. Os pilotos tiveram que gastar um tempo precioso para chamá-lo para a cabine. Apesar do fato de que, no momento em que os computadores foram desligados, a aeronave estava nivelada em vôo nivelado direto, não foi fácil para os pilotos entenderem os parcos parâmetros do ar. Um deles puxou a alavanca de controle para si, o outro empurrou para frente. O avião continuou o vôo nivelado direto por cerca de um minuto e então começou a cair. Os pilotos tiveram que gastar um tempo precioso para chamá-lo para a cabine. Apesar do fato de que, no momento em que os computadores foram desligados, a aeronave estava nivelada em vôo nivelado direto, não foi fácil para os pilotos entenderem os parcos parâmetros do ar. Um deles puxou a alavanca de controle para si, o outro empurrou para frente. O avião continuou o vôo nivelado direto por cerca de um minuto e então começou a cair. Os pilotos tiveram que gastar um tempo precioso para chamá-lo para a cabine. Apesar do fato de que, no momento em que os computadores foram desligados, a aeronave estava nivelada em vôo nivelado direto, não foi fácil para os pilotos entenderem os parcos parâmetros do ar. Um deles puxou a alavanca de controle para si, o outro empurrou para frente. O avião continuou o vôo nivelado direto por cerca de um minuto e então começou a cair.e então começou a cair.e então começou a cair.
Em 1º de junho de 2009, o voo 447 da Air France mergulhou no oceano, matando mais de 200 passageiros e tripulantes. Ele desapareceu nas ondas quase sem deixar vestígios. Em um sistema mundial interconectado de companhias aéreas internacionais, é inconcebível que o avião simplesmente desapareceria. Foi organizado um trabalho de busca coordenada em grande escala. Poucos dias depois, vestígios do avião foram encontrados no fundo do oceano. No entanto, para encontrar a maior parte dos destroços do avião e das caixas pretas, graças às quais seria possível estabelecer a causa da tragédia, foi necessário realizar buscas em um vasto território do fundo do oceano, que se movia desesperadamente devagar. Mais de dois anos depois, a uma profundidade de 3,2 km, quase no mesmo ponto em que o avião colidiu com a superfície do oceano,um veículo subaquático autônomo chamado Remus 6000 deslizou silenciosamente pela escuridão sob a pressão monstruosa da coluna d'água. Movendo-se um pouco mais rápido que um pedestre, o robô em forma de torpedo manteve uma altura constante de cerca de 60 m acima do fundo. Nesta posição, seu scanner acústico recebeu as imagens mais nítidas. O sinal acústico percorreu cerca de 800 m em todas as direções, o robô coletou gigabytes de informações por meio dos sinais de retorno.o robô estava coletando gigabytes de informações por meio dos sinais retornados.o robô estava coletando gigabytes de informações por meio dos sinais retornados.
A superfície era montanhosa, então o fundo do oceano subiu rapidamente. Apesar de sua inteligência artificial, o robô ocasionalmente atinge a superfície, na maioria das vezes sem quaisquer consequências. Três desses robôs trabalharam harmoniosamente em conjunto: enquanto dois deles faziam buscas subaquáticas, o terceiro estava a bordo do navio na superfície. Esse "pit stop" levou três horas, durante as quais as pessoas que atendiam ao robô reescreveram as informações, recarregaram as baterias e definiram novos planos de busca. No navio, uma equipe de doze engenheiros do Instituto Woods Hole de Pesquisa Oceanográfica, liderada por Mike Purcell, que foi o pioneiro no projeto e desenvolvimento dos veículos de busca, trabalhava em turnos de doze horas. Eles estavam carregados como qualquer equipe mecânica de Fórmula 1.
Quando o dispositivo subiu à superfície, os engenheiros levaram cerca de 45 minutos para baixar as informações coletadas para o computador, depois mais meia hora para processá-las de forma que pudessem ser rapidamente visualizadas no monitor. Investigadores franceses e alemães e representantes da Air France espiavam por cima de seus ombros. Suas ações pareciam calculadas e prudentes, mas a tensão pairava no ar: as apostas eram muito altas em termos de orgulho nacional dos franceses, em termos da reputação do fabricante do Airbus e em termos de segurança de todas as viagens aéreas.
Vídeo promocional:
Várias expedições anteriores não tiveram sucesso. Na França, no Brasil e em todo o mundo, as famílias das vítimas aguardavam notícias. Decifrar informações de um scanner acústico requer uma análise cuidadosa que não pode ser totalmente confiável para um computador. Purcell e seus engenheiros confiaram em anos de experiência acumulada. Em seus monitores, eles estudaram o fundo rochoso quilômetro após quilômetro. Essa rotina de trabalho durou cinco dias, até que sua monotonia foi interrompida: um acúmulo de destroços apareceu na tela, e então os cientistas chegaram à área do desastre - receberam um forte sinal de objetos artificiais no deserto oceânico. Pelo menos foi o que eles presumiram, mas ainda não podiam dizer com certeza. Os engenheiros reprogramaram os veículos para que retornassem à área do desastre e se movessem para frente e para trás nela. Desta vez, os robôs tiveram que se aproximar o suficiente para que as câmeras tirassem fotos a uma altura de cerca de 9 m acima do fundo à luz das luzes laterais. Quando os veículos trouxeram as imagens à superfície, engenheiros e investigadores viram a área do desastre e receberam a resposta: encontraram os destroços de um avião comercial que se tornou um túmulo para centenas de pessoas. Logo, outra equipe voltou ao local da tragédia com um tipo diferente de robô - um veículo subaquático de controle remoto. Logo, outra equipe voltou ao local da tragédia com um tipo diferente de robô - um veículo subaquático de controle remoto. Logo, outra equipe voltou ao local da tragédia com um tipo diferente de robô - um veículo subaquático de controle remoto.
Era um dispositivo resistente especialmente projetado para trabalhar em profundidade. Ele foi conectado à nave por um cabo. Usando mapas gerados a partir de uma busca bem-sucedida, o ROV localizou as caixas pretas - o gravador de voz e registrador de dados da aeronave - e as ergueu para a superfície. Registros dos minutos finais dos pilotos condenados foram recuperados das profundezas do oceano, e agora os investigadores podiam recriar as circunstâncias fatais que levaram à confusão a bordo do avião robótico. Em seguida, o veículo subaquático embarcou em uma missão triste - recuperar os restos mortais.
A queda do voo 447 da Air France e uma operação para encontrar seus destroços ligam a automação moderna e a robótica em dois ambientes extremos: na borda da estratosfera e nas profundezas do mar. A aeronave caiu no oceano devido a erros na interação humana com sistemas automatizados. Em seguida, seus fragmentos foram descobertos por pessoas usando robôs autônomos e controlados remotamente.
Embora as palavras “automatizado” e “autônomo” (em seus significados mais comuns) impliquem que tais sistemas operem de forma independente, em ambos os casos a falha ou o sucesso não foi devido a máquinas e pessoas agindo separadamente, mas devido à ação combinada de máquinas. e pessoas. Pilotos humanos lutaram pela vida de uma aeronave automatizada para maior segurança e confiabilidade; muitos navios interconectados, satélites e bóias flutuantes ajudaram a localizar o local do acidente; engenheiros processavam informações recebidas de robôs e agiam de acordo com elas.
Veículos automatizados e autônomos retornam constantemente aos seus criadores - humanos - para obter informações, energia e direção. A tragédia do voo 447 da Air France deixou claro que, ao nos adaptarmos e modificarmos constantemente nosso ambiente, estamos nos refazendo. Como os pilotos podem se tornar tão viciados em computadores a ponto de deixar cair um avião em perfeito funcionamento no mar? Qual é o papel dos humanos em áreas como transporte e transporte, pesquisa e atividades militares, quando cada vez mais tarefas de primeira importância parecem ser realizadas por máquinas? O ponto de vista extremo é que os humanos estão perto de "sair de uso", que os robôs "literalmente precisam de uma atualização de software" para se tornarem totalmente autônomos, como escreveu recentemente a Scienti fi c American. Esta visão nos dizque os robôs estão avançando - cada vez mais os encontramos em um ambiente familiar. As preocupações sobre as capacidades desconhecidas e questionáveis da inteligência artificial surgem da crença de que estamos à beira da "superinteligência". Nosso mundo está à beira da mudança, na verdade, ele já está mudando sob a influência de robôs e automação.
De repente, novos projetos surgem, concretizando velhos sonhos de máquinas inteligentes que nos ajudam a cumprir nossas obrigações profissionais, facilitam o trabalho físico e as tarefas rotineiras do dia a dia. Robôs que existem e trabalham próximos aos humanos em um nível físico, cognitivo e emocional estão se tornando um tópico de pesquisa cada vez mais vasto e promissor. Autonomia - o sonho de que os robôs um dia se comportem como entidades totalmente independentes - continua sendo uma fonte de inspiração, inovação e medo. A excitação é causada pela severidade do experimento; as formas precisas dessas tecnologias estão longe de serem completas, e ainda menos certas são suas implicações sociais, psicológicas e cognitivas.
Como nossos robôs nos mudarão? Em que imagem e semelhança os faremos? O que restará de nossos tradicionais campos de atividade - cientista, advogado, médico, soldado, gerente e até motorista e zelador - quando essas tarefas forem realizadas por máquinas? Como vamos viver e trabalhar? Não é preciso especular: na maior parte, esse futuro já chegou hoje, senão no dia a dia, pelo menos em condições extremas, onde usamos robôs e automação há décadas. O homem não pode existir por si mesmo nas camadas superiores da atmosfera, nas profundezas do oceano, no espaço sideral. Devido à necessidade de enviar pessoas para essas condições perigosas, a robótica e a automação foram criadas e implementadas nessas áreas mais cedo do que em outras áreas de atividade que são mais familiares para nós.
Em ambientes extremos, a relação entre humanos e robôs é testada quanto à força. Os desenvolvimentos mais inovadores aparecem em tal ambiente. Aqui, os engenheiros têm a mais ampla liberdade para experimentar. Apesar do isolamento físico, é aqui que os efeitos cognitivos e sociais de vários dispositivos começaram a se manifestar. Com vidas humanas, equipamentos caros e missões críticas em jogo, a autonomia deve sempre ser restringida por considerações de segurança e confiabilidade. Em tais condições, a vaidade e os assuntos da vida cotidiana temporariamente ficam em segundo plano e encontramos, na escuridão circundante, alegorias fragmentárias e fantasmagóricas da vida humana no mundo da tecnologia. Os processos sociais e tecnológicos na cabine de um avião comercial ou dentro de um veículo de alto mar não são fundamentalmente diferentes dos processos semelhantes em uma fábrica, um escritório ou um carro. Mas em condições extremas, eles aparecem de forma mais explícita e, portanto, mais fáceis de entender.
Cada vôo de um avião é uma história, assim como toda expedição oceanográfica, vôo espacial ou operação militar. Por meio dessas histórias de pessoas e máquinas específicas, podemos reunir dados sobre dinâmicas sutis. Em condições extremas, temos uma ideia do nosso futuro próximo, quando tais tecnologias podem ser implementadas em áreas da atividade humana como transporte rodoviário, saúde, educação, etc. Dispositivos controlados por uma pessoa de forma remota ou autônoma abrem possibilidades qualitativamente novas de interação entre pessoas e máquinas, novas formas de presença e novas experiências, ao mesmo tempo que chama a atenção para os perigos, aspectos éticos e consequências indesejáveis de conviver com máquinas inteligentes. Vemos um futuro onde a presença humana e o conhecimento se tornarão mais importantes,do que nunca, mas de uma forma incomum e desconhecida. E esses carros são simplesmente maravilhosos.
Não sou a única pessoa que admirou aviões, naves espaciais e submarinos em toda a minha vida. Na verdade, os heróis das histórias que contarei a seguir foram guiados não apenas pela busca de benefícios práticos - eles também foram movidos pela paixão por novas tecnologias. Não é coincidência que tais histórias tenham sido frequentemente descritas em obras de ficção científica sobre pessoas e máquinas. As histórias de humanos e máquinas interagindo no limite de suas possibilidades são cativantes, surpreendentes e despertam esperanças de quem podemos nos tornar. Esse entusiasmo às vezes se reflete em uma crença ingênua na perspectiva da tecnologia. Mas, gradualmente, esse interesse nos leva às principais questões filosóficas e humanísticas:quem somos nós? Como estamos conectados ao nosso trabalho e uns aos outros? Como nossas criações expandem nossa experiência? Como podemos viver neste mundo em mudança? Essas perguntas surgem por conta própria quando você começa a conversar com as pessoas que criam e controlam robôs e máquinas. Quero compartilhar com vocês as informações que recebi em primeira mão de entrevistas em profundidade e os resultados das últimas pesquisas do Instituto de Tecnologia de Massachusetts e outras organizações que testam robótica e automação nas condições extremas das profundezas do oceano, durante voos de aeronaves (civis e militares) e no espaço. Este não é um futuro imaginário, mas o que está acontecendo hoje: veremos como as pessoas controlam robôs e recebem informações por meio de dispositivos autônomos, analisaremos como essas interações afetam seu trabalho,experiência de vida, habilidades e habilidades.
Nossa história começa onde eu mesmo comecei - nas profundezas do oceano. Vinte e cinco anos atrás, quando eu era um engenheiro desenvolvendo computadores embarcados e ferramentas para robôs de águas profundas, fiquei surpreso ao descobrir que essa técnica está mudando a oceanografia, os métodos científicos e até a própria natureza da profissão de oceanógrafo de maneiras imprevisíveis. Esse entendimento me levou a ter duas carreiras paralelas. Como cientista, estudei as interações entre humanos e máquinas, desde navios blindados durante a Guerra Civil Americana até os computadores e softwares que ajudaram os astronautas da Apollo a pousarem na lua.
Como engenheiro, tenho integrado os dados obtidos com essa pesquisa em projetos modernos - desenvolvendo robôs e dispositivos para uso em interação próxima com humanos. Em algumas histórias, apareço como participante, em outras - como observador e em outras - em ambos os disfarces ao mesmo tempo. Ao longo dos anos acumulando experiência, pesquisando e conversando com as pessoas, me convenci de que devemos mudar de ideia sobre robôs. Mesmo a linguagem em que falamos sobre eles é retirada da ficção científica do século 20 e nada tem a ver com as conquistas técnicas de nosso tempo. Por exemplo, aeronaves controladas remotamente são chamadas de drones, como se fossem autômatos estúpidos, quando na verdade são estritamente controlados por humanos.
Os robôs são frequentemente apresentados (e vendidos) como intermediários completamente autônomos, mas mesmo a autonomia limitada de hoje geralmente existe apenas na imaginação humana. Os robôs que usamos de forma tão ampla e variada dificilmente são autômatos de ameaça - eles estão embutidos em redes sociais e técnicas assim como nós. A seguir, veremos muitos exemplos de como trabalhamos em conjunto com nossas máquinas. É tudo uma questão de combinações. É hora de considerar quais funções os robôs modernos realmente desempenham, a fim de compreender melhor nosso relacionamento com essas criações, muitas vezes incrivelmente hábeis, de mãos humanas. Eu ofereço a você uma conclusão empírica baseada em pesquisa: não importa o que os robôs façam no laboratório, na realidade, onde vidas humanas e recursos reais estão em jogo,nós nos esforçamos para limitar sua autonomia ao grande número de aprovações e oportunidades necessárias para intervenção humana.
Não estou argumentando que as máquinas são inteligentes, e não estou dizendo que um dia elas podem não ser inteligentes o suficiente. Em vez disso, meu argumento é que essas máquinas não são isoladas dos humanos. Vamos listar três mitos do século 20 relacionados à robótica e automação. O primeiro mito é o progresso linear - a ideia de que a tecnologia passará do controle humano direto para o controle remoto e, então, para robôs totalmente autônomos. As palavras do filósofo Peter Singer, que constantemente fala em defesa dos sistemas autônomos, captam a essência desse mito. Ele escreve que "a capacidade das pessoas de manter o controle sobre o que está acontecendo é anulada tanto por aqueles que estão no comando quanto diretamente pela tecnologia e, portanto, as pessoas logo serão excluídas do ciclo de controle". Mas não há razão para suporque a evolução seguirá esse caminho, que a "própria tecnologia", como escreve Singer, levará a algo semelhante. Na verdade, há evidências de que os humanos estão gradualmente entrando em contato mais profundo com suas máquinas.
Constatamos constantemente que as pessoas, controladas remotamente por elas e os veículos autônomos, se desenvolvem em paralelo, influenciando-se mutuamente. Por exemplo, veículos aéreos não tripulados não seriam capazes de voar no espaço aéreo nacional dos Estados Unidos sem as devidas alterações nos veículos tripulados. Ou, para dar outro exemplo: novos avanços na robótica no campo da manutenção de naves espaciais se refletem no trabalho dos astronautas com o Telescópio Espacial Hubble. As tecnologias mais avançadas (e complexas) não são aquelas que funcionam separadamente das pessoas, mas aquelas que estão mais profundamente enraizadas no sistema social e respondem mais rapidamente ao que está acontecendo nele. O segundo é o mito da substituição, a ideia de que as máquinas começarão gradualmente a assumir todas as tarefas que os humanos executam. Este mito é uma versão do século XX do que chamo de fenômeno do Cavalo de Ferro.
Inicialmente, as pessoas imaginaram que as ferrovias negariam a necessidade de cavalos, mas os trens se mostraram cavalos sem importância. As ferrovias tomaram seu lugar quando as pessoas aprenderam a fazer coisas completamente novas com a ajuda delas. Pesquisadores de fatores humanos e cientistas cognitivos argumentam que os autômatos raramente apenas “mecanizam” tarefas humanas. Em vez disso, eles tendem a tornar a tarefa mais difícil, geralmente aumentando a carga de trabalho (ou redistribuindo-a). As aeronaves controladas remotamente não realizam as mesmas tarefas que as aeronaves tripuladas; eles assumem novas funções. Robôs controlados remotamente em Marte não replicam o trabalho dos geólogos no campo;eles e as pessoas que trabalham com eles aprendem a conduzir pesquisas de campo em um novo ambiente usando mecanismos remotos.
Finalmente, temos um terceiro mito - o mito da autonomia completa, a ideia utópica de que os robôs podem agir com total independência hoje ou no futuro. Sim, os autômatos, é claro, podem assumir algumas das tarefas anteriormente executadas por humanos e, de fato, são capazes de agir independentemente por um período limitado de tempo em resposta às mudanças no ambiente. Mas as máquinas que não dependem da direção humana são máquinas inúteis. Só a pedra pode ser verdadeiramente autônoma (mas até a pedra foi criada e colocada em seu lugar graças ao seu ambiente). A automação muda o grau de envolvimento humano na operação de uma máquina, mas não elimina completamente a necessidade disso. Em qualquer sistema, mesmo em um sistema aparentemente autônomo, podemos sempre encontrar uma interface graças à qual uma pessoa pode controlar seu trabalho,ler informações e graças às quais se torna útil. Para citar um dos relatórios mais recentes do Conselho de Ciências do Departamento de Defesa dos Estados Unidos, "Não existem sistemas totalmente autônomos, assim como não existem soldados, marinheiros, aviadores ou fuzileiros navais totalmente autônomos".
Para pensar em termos do século 21 e mudar nossas visões sobre robótica, automação e, especialmente, a ideia mais recente de autonomia, devemos entender como as intenções, planos e suposições humanas mudam a essência da máquina que eles criam. Cada operador, controlando seu aparelho, interage com designers e programadores, cuja presença na máquina é invariável - mesmo na forma de elementos estruturais ou linhas de código criadas há muitos anos. Os computadores de bordo do vôo 447 da Air France poderiam continuar a pilotar o avião com dados de velocidade no ar limitados, mas humanos os haviam programado para impedir que o fizessem. Mesmo se o software realizar ações que não podem ser previstas, ele se comporta dentro da estrutura dos esquemas e restrições estabelecidas por seus criadores. Este,como o sistema foi desenvolvido, por quem e para que fins, determina suas capacidades e formas de interagir com as pessoas que o utilizam. Meu objetivo é fugir desses mitos e compreender o conceito de autonomia no contexto do século XXI.
Por meio das histórias a seguir, pretendo reformular o discurso público e criar um mapa conceitual para uma nova era. Para criar tal mapa, falando sobre dispositivos e robôs neste livro, operarei com os conceitos de controlado por humanos, remoto e autônomo. O primeiro é um análogo da palavra nem sempre adequada “tripulado”, portanto, em alguns casos, “controlado” significará “controlado por uma pessoa no veículo”. Esses são, é claro, tipos de aparelhos antigos e familiares, como navios, aviões, trens e automóveis - as máquinas pelas quais as pessoas viajam. Normalmente, os sistemas controlados por humanos não são considerados robôs, embora cada vez mais se assemelhem a robôs com humanos dentro. Remoto, uma forma abreviada de veículo operado remotamente, indica simplesmente onde o operador está em relação ao veículo. Mesmo quando a tarefa cognitiva de controlar o sistema remoto coincide quase completamente com aquela realizada diretamente pelo operador fisicamente presente, a presença ou ausência do operador e os riscos associados têm grande significado cultural.
O exemplo mais notável é a guerra remota a milhares de quilômetros de uma zona de guerra. Esta é uma experiência completamente diferente das tarefas do soldado comum. Como fenômeno cognitivo, a presença humana se confunde com o social. A automação também é uma ideia do século XX e ainda reflete a visão mecanicista de que as máquinas seguem procedimentos predeterminados passo a passo. O termo “automatizado” é comumente usado para descrever computadores a bordo de aeronaves, embora eles incorporem algoritmos modernos e bastante complexos. Autonomia é a palavra mais na moda atualmente e uma das principais prioridades de pesquisa do Departamento de Defesa dos Estados Unidos, em constante redução. Alguns pesquisadores distinguem claramente entre autonomia e automação, mas, na minha opinião,a diferença entre autonomia reside apenas em um grau mais amplo de tomada de decisão independente do que simples feedback; além disso, o conceito de "autonomia" abrange e une muitas idéias emprestadas da teoria da inteligência artificial e de outras disciplinas. E, claro, a ideia da autonomia de indivíduos e grupos torna-se causa de controvérsia constante na política, filosofia, medicina e sociologia. Isso não deve ser nenhuma surpresa, uma vez que os técnicos muitas vezes tomam emprestados termos das ciências sociais para descrever suas máquinas.a ideia da autonomia de indivíduos e grupos torna-se causa de controvérsia constante na política, filosofia, medicina e sociologia. Isso não deve ser nenhuma surpresa, uma vez que os técnicos muitas vezes tomam emprestados termos das ciências sociais para descrever suas máquinas.a ideia da autonomia de indivíduos e grupos torna-se causa de controvérsia constante na política, filosofia, medicina e sociologia. Isso não deve ser nenhuma surpresa, uma vez que os técnicos muitas vezes tomam emprestados termos das ciências sociais para descrever suas máquinas.
Mesmo dentro do negócio de design, o termo “autonomia” pode ter vários significados diferentes. A autonomia no projeto de espaçonaves consiste no processamento a bordo dos dados necessários para a operação da espaçonave (seja uma estação orbital automatizada ou um robô móvel), separado de tarefas como planejamento de missão. No Massachusetts Institute of Technology, onde dou aulas, o conteúdo dos cursos de engenharia de autonomia cobre principalmente o "planejamento de caminhos" - como ir de um ponto a outro, gastando uma quantidade de tempo adequada e sem bater em nada. Em outros sistemas, a autonomia é análoga à inteligência, a habilidade de tomar decisões que uma pessoa faria em certas situações, ou a habilidade de agir em certas condiçõesque não eram esperados ou previstos pelos criadores do dispositivo.
Os submersíveis autônomos são assim chamados porque operam por conta própria e se opõem aos veículos controlados remotamente que são conectados à embarcação por cabos longos. Apesar disso, os engenheiros que criam esses submarinos autônomos dizem que seus dispositivos são semiautônomos, pois apenas em casos raros eles operam sem qualquer contato com o operador. O termo "autônomo" implica maior liberdade de ação. Ele descreve a forma como o aparelho é operado, o que é um fator potencialmente volátil. Em estudo recente, é proposto o termo "autonomia crescente": desta forma, os autores enfatizam o caráter relativo da autonomia e afirmam que a autonomia "completa", ou seja, máquinas que não precisam receber informações de uma pessoa, será sempre inatingível.
Neste livro, uma definição prática de autonomia será: meios desenvolvidos pelo homem para transformar informações do meio ambiente em planos e ações direcionados. A formulação é importante e dá à controvérsia um sabor diferente. Mas não devemos insistir neles. Freqüentemente, confio na linguagem (que às vezes pode ser imprecisa) usada pelas pessoas com quem trabalho. O objetivo deste livro não está nas definições, mas nas descrições do trabalho real - como as pessoas usam esses sistemas no mundo real, ganhando novas experiências, pesquisando ou até lutando e matando. O que realmente está acontecendo? Se você prestar atenção na experiência de vida dos designers e daqueles que usam robôs, tudo ficará claro. Por exemplo,a palavra "drone" esconde a natureza inerentemente humana dos robôs e atribui seus lados negativos a idéias abstratas como "tecnologia" ou "autonomia". Quando examinamos o funcionamento interno dos operadores Predator, aprendemos que eles não fazem guerra com dispositivos automáticos - os humanos ainda inventam, programam e controlam máquinas.
Há um longo debate sobre a ética e as políticas de assassinato remoto por drones com operadores remotos, ou o sigilo de tais dispositivos operando no espaço aéreo interno dos Estados Unidos. Mas esses debates têm a ver com a natureza, o lugar e o momento das decisões humanas, não com máquinas autônomas. Conseqüentemente, a questão não está em contrastar veículos tripulados e não tripulados e não em opor veículos controlados pelo homem aos autônomos. As principais questões deste livro são: "Onde estão as pessoas?", "Quem são essas pessoas?", "O que estão fazendo?", "Quando estão fazendo?" Onde estão as pessoas? (Em um navio … no ar … dentro de carros … ou em um escritório?) As manipulações do operador do Predator são semelhantes às ações de um piloto de avião - ele monitora o estado dos sistemas de bordo, percebe informações,toma decisões e dá alguns passos. Mas seu corpo está em um lugar diferente, talvez a vários milhares de quilômetros dos resultados de seu trabalho. Essa diferença é importante. As tarefas são diferentes. Os riscos são diferentes, assim como o equilíbrio de poder.
A mente humana é capaz de viajar para outros lugares, outros países, outros planetas. O conhecimento adquirido por meio da mente e dos sentidos é diferente do conhecimento adquirido por meio do corpo (onde você come, dorme, se comunica, defeca). Decidimos qual dos dois caminhos para a obtenção do conhecimento seguir dependendo da situação específica, e isso tem consequências para quem está envolvido no processo. Quem são essas pessoas? (Pilotos … engenheiros … cientistas … trabalhadores não treinados … gerentes?) Mude a técnica, e então tanto a tarefa quanto a essência do especialista que trabalha nela vai mudar. Na verdade, você mudará todo o contingente de pessoas capazes de gerenciar o sistema. Leva anos de estudo e treinamento para se tornar um piloto, e essa profissão está no topo da hierarquia de pessoal. O controle remoto de uma aeronave requer as mesmas habilidades e características? De quais classes sociais a força de trabalho pode ser recrutada?
O aumento da automação em aeronaves comerciais acompanha a expansão da demografia dos pilotos nos países industrializados e em todo o mundo. Pesquisador é alguém que viaja em condições perigosas ou que fica em casa diante de um computador? Você precisa aproveitar a vida a bordo para se tornar um oceanógrafo? Você pode explorar Marte enquanto está em uma cadeira de rodas? O que são esses novos pilotos, pesquisadores e cientistas que trabalham com acesso remoto? O que eles estão fazendo? (Voar … controlar … processar informação … comunicar?) O esforço físico se transforma em processamento de informação visual, e então em uma tarefa cognitiva. O que costumava exigir força agora requer atenção, paciência e reação rápida. O piloto mantém as mãos diretamente nas alavancas de controle,quando ele pilota o avião? Ou inserir comandos-chave no piloto automático ou no computador de vôo para programar a trajetória de vôo da aeronave? Qual é o papel da avaliação da pessoa sobre a situação? Qual é o papel do engenheiro que programou o computador de bordo ou do técnico aeronáutico que o montou?
Quando eles fazem isso? (Em tempo real … com algum atraso … de antecedência, anos ou meses antes da missão?) O vôo de uma aeronave comum ocorre em tempo real: a pessoa reage imediatamente aos eventos que ocorrem e suas ações têm efeito imediato. Em um cenário de vôo espacial, o dispositivo pode estar em Marte (ou se aproximando de um asteróide distante), caso em que levará 20 minutos para o dispositivo receber o comando e 20 minutos para o operador ver que algo aconteceu. Ou podemos dizer que a nave está pousando "em modo automático", quando na realidade entendemos que ela pousa sob o controle de programadores que deixaram instruções vários meses ou anos antes de pousar (embora aqui possamos ter que fazer ajustes no próprio conceito "ao controle"). Controlar um sistema automatizado pode ser semelhante à interação com um fantasma. Essas perguntas simples chamam nossa atenção para a realocação e o realinhamento.
As novas formas de presença e atividade humana não são corriqueiras e não equivalem às antigas - a identidade cultural de um piloto que arrisca a vida voando sobre o campo de batalha difere de quem controla o veículo remotamente a partir de uma estação terrestre. Mas essas mudanças também são inesperadas - um operador remoto pode se sentir mais presente no campo de batalha do que um piloto voando alto sobre ele. As informações científicas sobre a lua podem ser as mesmas ou até mais completas quando coletadas por um veículo controlado remotamente, e não por uma pessoa que pousou diretamente no planeta. Mas a experiência cultural da exploração lunar, neste caso, é completamente diferente. Vamos substituir as noções antigas por imagens ricas e animadas de como os humanos realmente criam e controlam robôs e sistemas automáticos no mundo real. As histórias a seguir são científicas, técnicas e humanísticas.
Veremos que máquinas dirigidas por humanos, remotas e autônomas permitem o movimento e a reorientação da presença e ação humana no tempo e no espaço. A essência deste livro é a seguinte: não é a própria oposição entre sistemas controlados pelo homem e sistemas autônomos que é importante, mas sim as questões - "Onde estão as pessoas?", "Quem são essas pessoas?", "O que elas estão fazendo e quando?" Por último, as perguntas mais difíceis serão: "Como muda a percepção humana?", "E por que isso importa?"
