Os robôs estão evoluindo rapidamente - está se aproximando o tempo em que eles irão encher as ruas, escritórios, apartamentos e até mesmo nossos corpos. Estamos dispostos a existir lado a lado com máquinas que se comportam como humanos e já competem conosco por empregos? Muitas questões humanitárias surgem.
O que você pode confiar a um robô e o que é melhor recusar? Ele é capaz de tomar decisões, sentir emoções, tem um certo livre arbítrio e é responsável por seus atos? Como integrar robôs na sociedade? Essas perguntas parecem ingênuas. Enquanto. Mas pode acontecer que as respostas a eles decidam o destino de nossa civilização.
Quando as luzes se apagaram, uma melodia quente daquelas que costumam acompanhar as modelos na passarela começou a tocar. E nós (a equipe da revista Cat de Schrödinger) vimos dois enormes olhos vermelhos em forma de coração. O robô se aproximou do público com dignidade e graça. Os olhos se transformaram em dois círculos azuis, irradiando boas intenções e ingenuidade infantil, as mãos estendidas para as pessoas. As luzes foram acesas novamente.
- Alantim! - o chefe do projeto Promobot e o chefe do departamento de robótica do Instituto de Tecnologia de Moscou (MTI), Alexey Yuzhakov, apresentou-o ao público. - Em 2012, nós o chamávamos de Promobot, então o apelido ofensivo Monumento ficou com ele, então ele tinha o nome sonoro de Bogdan, mas agora ele é Alantim - em homenagem aos criadores do novo mundo Alan Turing e Tim Berners-Lee.
Foto: Skoltech / kot.sh
Alantim ainda se virou e foi falar com jornalistas, enchendo-os de piadas e histórias sobre como robôs vão tomar o poder na Terra e rebatizá-lo de Promobotia. Uma fila de garotas imediatamente se aproximou dele, desejando ser fotografadas com uma criatura tão fofa. Alantim conheceu as meninas, respondeu a perguntas sobre o sentido da vida e a cotação do dólar e se lembrou de todos.
Foi assim que passou o primeiro dia de trabalho do novo chefe adjunto do Departamento de Robótica do Instituto de Tecnologia de Moscou, o robô Alantim.
Vídeo promocional:
Um carro com personalidade
Alantim não é uma criatura única. A equipe da Perm, que criou os bots promocionais, já vendeu 60 desses dispositivos, e este ano assinou contratos para outros 124, praticamente cumprindo o plano anual totalmente russo de fornecimento de robótica de serviço - em 2014, apenas cerca de 200 robôs de serviço domésticos foram vendidos.
Um promobot é um robô autônomo com caráter, projetado para trabalhar em lugares lotados: promotor, guia, showman. Ele sabe reconhecer algumas das emoções do interlocutor, é capaz de entender a pergunta que lhe é dirigida e encontrar a resposta na web e, se não entende a pergunta, tenta rir dela.
Nesse ínterim, fomos ao chefe da Alantim - vice-reitor do MIT, Evgeny Pluzhnik
[Gato de Schrödinger] Como você teve a ideia de contratar um robô para a organização?
[Grigory Bubnov] Acabamos de perceber que mais cedo ou mais tarde chegará o momento em que os robôs começarão a contratar. E decidimos ser pioneiros.
[KSh] Então, não é à toa que dizem que os robôs estão reivindicando nossos empregos
[GB] Na verdade, isso não é uma piada, mas uma ameaça muito séria, especialmente em áreas onde um grande número de pessoas trabalha. Acho, por exemplo, que já nesta década os carros autônomos estarão à venda em todos os lugares e depois disso muitos motoristas ficarão sem trabalho. Os governos inevitavelmente enfrentarão esse desafio - eles precisam começar a pensar sobre como criar novos empregos e programas de reciclagem.
[KSh] Como você acha de usar o Alantim? Como um brinquedo vistoso?
[GB] Não só! Por exemplo, ele tem uma tarefa de pesquisa - acumular dados sobre a comunicação de robôs com pessoas, estudar reações individuais a robôs. Estas informações ajudarão a tornar a aparência e o comportamento de futuras modificações da Alantim mais humanos e confortáveis para a comunicação.
Foto: Skoltech / kot.sh
[CS] Que tipo de informação ele está coletando?
[GB] Em primeiro lugar, dados sobre as reações ao seu comportamento - ele tem um sistema para reconhecer emoções. Por exemplo, como os outros reagem quando ele levanta a mão? E se sua maneira de fazer algo os assusta? Nossos gestos foram aperfeiçoados pela evolução - não hesitamos, digamos, coçando a nuca - e com um robô ainda temos que percorrer todo esse caminho até o comportamento "natural". Aliás, ele se lembra das pessoas fotografando-as.
Mas pode haver problemas: imagens de pessoas são consideradas dados pessoais e existe uma lei que restringe seu uso. Em geral, muitas questões de natureza jurídica vão surgir aqui - por exemplo, é necessário pagar imposto de renda sobre a eletricidade que foi dada ao funcionário robô para cobrança? Acho que em breve veremos como a legislação em diferentes países começará a mudar - junto com a atitude das pessoas em relação aos robôs.
Rubber Pushkin e outros robôs
O mercado global de robôs já está crescendo, as vendas estão quebrando recordes - dezenas de bilhões de dólares no final do ano passado.
0,17% - Essa fatia do mercado mundial de robôs industriais está na Rússia (segundo dados de 2013).
Foto: Skoltech / kot.sh
Dos heróis dos sucessos de bilheteria de Hollywood, os robôs estão prestes a se transformar em personagens reais - e vamos começar a viver com eles. Vamos nos dar bem? Começando com as histórias de terror sobre Golem e Frankenstein ou a peça de Karel Čapek, onde a palavra “robô” aparece pela primeira vez, todas essas histórias, via de regra, terminavam com uma coisa - o levante de criaturas feitas pelo homem contra seus criadores. Seremos capazes de criar uma realidade que supere nossas fantasias?
Um anúncio no site do projeto Promobot explica claramente porque um robô empregado é melhor que um humano: não precisa de salário e macacão, trabalha sem pausas, não adoece, não protesta, não se confunde, não fala muito, não precisa de treinamento … As vantagens são tantas, que, segundo várias estimativas, nas próximas décadas os robôs podem tirar de 40 a 80% dos empregos, ou seja, estamos ameaçados por uma onda sem precedentes de desemprego em massa.
Talvez no final isso se transforme em uma era de ouro, quando, como Karl Marx sonhou, as pessoas se engajarão na criatividade livre. Mas ainda temos que viver para ver isso - e de preferência sem catástrofes sociais. É improvável que seja possível limitar significativamente o uso de robôs: nunca antes as proibições legislativas foram capazes de impedir o progresso. Qual é o ponto? Em vez disso, as pessoas serão proibidas de dirigir quando os motoristas robóticos se tornarem onipresentes. O homem é muito imprevisível. Não são os pilotos humanos, por exemplo, que são capazes de dirigir uma aeronave para o solo ou para áreas residenciais, perigosos?
Isso significa que precisamos aprender a conviver com robôs
Para começar, fomos ao local onde existem muitos robôs - à conferência internacional Skolkovo Robotics. Uma heterogênea empresa de robôs e seus criadores se reuniram no Hipercubo Skolkovo. Grandes e pequenos, drones voadores e ambulantes, bombeiros profissionais e limpadores eletrônicos, braços e pernas mecânicos, tronco e cabeças …
Aqui está a cabeça de borracha de Pushkin, montada em um tripé, como se estivesse em uma estaca, observando os transeuntes e contraindo nervosamente uma sobrancelha - há gente demais, olhos correndo para cima. O rosto do poeta é tão parecido com o real que você fica pasmo.
Foto: Skoltech / kot.sh
Perto está um robô que não se parece em nada com um humano. Em vez de um corpo, há uma vara sobre rodas, em vez de uma cabeça, uma tela que gira em todas as direções. Este é um robô de telepresença Webot, criado em Skolkovo para ajudar crianças com deficiência. Você pode se conectar a ele via Internet, navegar pelo prédio com ele, ver e ouvir o que está acontecendo ao redor e interagir com outras pessoas.
Esses robôs já são usados em várias escolas - as crianças se conectam a eles de casa e, com sua ajuda, assistem às aulas, concluem tarefas, respondem às perguntas do professor, dirigem-se ao quadro-negro, comunicam-se com os colegas.
Os principais consumidores de robôs de serviço na Rússia e em todo o mundo são pessoas com deficiência. A robótica lhes dá esperança de um retorno à vida plena - como o primeiro exoesqueleto russo ExoAtlet. Seu piloto Yaroslav, recentemente forçado a levar a vida de um paralítico, caminha entre o público como um ciborgue do futuro.
Outro assistente de robô foi apresentado a nós pelo professor japonês Kazuhiko Terashima:
- A sociedade japonesa está envelhecendo rapidamente, não há pessoal suficiente nas clínicas. E o robô Terapio desenvolvido por nós mostrou-se um excelente auxiliar do médico. Ele segue o médico, carrega instrumentos, mas o mais importante, ele se lembra dos dados, o que torna desnecessário o prontuário. Além disso, ele faz rondas de pacientes de forma independente e, nesse caso, dá o alarme.
Ele tem uma expressão infantil no rosto e uma voz gentil, sabe rir e chorar, seus olhos grandes piscam o tempo todo - para agradar os pacientes, para causar-lhes uma reação semelhante à de crianças ou gatinhos. Nosso robô é uma etapa importante em um projeto de hospital robótico que monitora continuamente os pacientes. A propósito, você sabe, agora as operações são feitas com a ajuda de cirurgiões robóticos.
Foto: Skoltech / kot.sh
Você pode reconhecer um andróide caminhando
Robótica e designers estão se apresentando na sala de conferências do Hypercube. Mikhail Lebedev, da Duke University, fala sobre como ele implanta chips no cérebro de macacos que lhes permitem controlar robôs com suas mentes. A sessão é moderada por Dmitry Teteryukov, professor do Instituto Skolkovo de Ciência e Tecnologia, chefe do laboratório de robôs espaciais, que trabalha no Japão há muitos anos.
Nós, é claro, o enchemos de perguntas.
[Gato de Schrödinger] Estatisticamente, o número de robôs está crescendo rapidamente, mas onde eles estão se escondendo - além daqueles usados na indústria?
[Dmitry Teterukov] Além dos robôs industriais, um exército de robôs de serviço está crescendo - todo mundo já ouviu falar de aspiradores de pó robóticos ou quadricópteros robóticos que fazem compras. Muitas dessas máquinas são usadas na medicina e, no Exército dos Estados Unidos, estão em guerra há muito tempo: por exemplo, robôs rastreados com um manipulador estão envolvidos na desminagem. Em geral, eles foram muito úteis em situações de emergência, eles foram usados no acidente de Fukushima.
[KSh] Que tipo de robô você produz na Rússia?
[JT] Estou continuando o que estava fazendo no Japão. Um dos projetos é o gerenciamento de um grupo de robôs, quando atuam segundo um plano comum, como um único rebanho, trocam informações e levam em consideração as ações uns dos outros. Nós, é claro, testaremos tudo isso aqui na Terra, mas planejamos que funcionem no espaço.
[KSh] Os cientistas sempre descreveram os robôs como criaturas solitárias …
[JT] Distribuir trabalho entre muitos é muito mais eficiente do que atribuir tudo a um. Digamos que um carro que dirige sozinho deva processar todas as informações sobre a própria estrada, mas se esses dispositivos estiverem em todos os lugares, é muito mais conveniente para eles agirem com base no quadro geral e no programa.
[KSh] Quando os robôs se tornam parecidos com os humanos tanto externamente quanto mentalmente, começa a ficar um pouco assustador, não é?
[JT] Há um professor japonês Hiroshi Ishiguro que cria andróides que são quase indistinguíveis de nós - recentemente confundi um de seus geminoides com um humano. Mas isso é apenas enquanto ele está sentado. Ainda não apareceu um robô que ande como uma pessoa - é fácil reconhecê-lo pelo seu andar. Ishiguro fez o seu próprio e o da filha.
Porém, ao vê-la, a filha se assustou, chorou e fugiu. Ou seja, quando um robô se torna muito semelhante a uma pessoa, ocorre sua rejeição. E quando esse limite é ultrapassado, a aparência e os movimentos não naturais são eliminados, o robô começa a ser percebido como uma pessoa real. Mas, para passá-lo, deve-se alcançar não apenas semelhança física, mas também intelectual - a capacidade de conduzir uma conversa razoável.
[KS] É o famoso critério de Turing, segundo o qual um robô deve ser considerado razoável, que não podemos distinguir de um humano em uma conversa? Ou precisa ser reformulado de alguma forma?
[JT] Agora, esse critério é entendido como um teste para programas que simulam bate-papo humano. Mas a questão não está apenas no intelecto - para confundir um robô antropomórfico com um humano, ele deve ser emocional, mover-se suavemente, comportar-se como um ser humano. Já existem programas que demonstram de maneira muito convincente o sarcasmo e a ironia. Acho que em breve haverá testes separados para diferentes habilidades: o teste de Turing emocional verificará a adequação das emoções e, por exemplo, o teste motor - a capacidade de se mover como uma pessoa.
Foto: Skoltech / kot.sh
[KS] Você não tem medo, grosso modo, de uma revolta de robôs?
Afinal, as pessoas escrevem programas para robôs, o que significa que elas determinam o que os robôs podem e o que não podem, quais desejos eles terão e quais não. E por que robôs iriam contra seus criadores, por que motivo?
[KSh] Por exemplo, por causa do nosso mal-entendido de que eles também precisam de direitos ou porque são desmontados e descartados após sua data de expiração. E os programas para robôs não serão escritos apenas por humanos - mais cedo ou mais tarde as máquinas se tornarão autodidatas
[JT] Eles serão treinados dentro da estrutura que definimos. Parece-me que a versão do futuro com o confronto entre humanos e robôs leva à degradação, não importa quem ganhe em tal confronto. Um cenário evolutivamente produtivo é a simbiose, não uma guerra de aniquilação, parasitismo ou outra submissão. Além disso, essa simbiose também ocorrerá no corpo humano, de modo que as questões éticas mais interessantes, em minha opinião, surgirão em relação à ciborguização.
Para onde irá a linha entre o homem e a máquina quando começarmos a instalar órgãos artificiais para nós mesmos, instalar chips no cérebro, melhorar nossa memória e outras habilidades com a ajuda deles? Parece-me que um futuro nos espera sem gadgets e computadores pessoais - bastará fazer um pedido mental ou dar um comando, porque o cérebro estará conectado à Rede.
Mas talvez os ciborgues precisem de leis restritivas, semelhantes às leis da robótica de Asimov - eu até as formulai de alguma forma. Sua essência é que a máquina no ciborgue não se apodera da pessoa, de modo que o poder de decisão permanece com a pessoa, e não com seu processador principal.
[KSh] Você tem um robô dos sonhos?
[DT] Este é provavelmente um robô controlado por operador com efeito de telepresença, que permitiria a comunicação total à distância e transmitiria ao operador todas as sensações, criando o efeito de presença total.
[CS] Avatar?
[JT] Sim. Lidei com esse tópico antes do lançamento de Avatar, mas, é claro, esses filmes de certa forma determinam o futuro - nossa compreensão do que buscamos e do que é possível.
Foto: Skoltech / kot.sh
Máquinas morais
Entretanto, no Hipercubo, iniciou-se uma discussão sobre o tema "Retrato moral de uma máquina antropomórfica". O professor de psicologia Maxim Kiselev fez um discurso introdutório ao caráter moral dos robôs.
“A roboética lida com todos os problemas humanitários relacionados aos robôs”, explica ele. - Por exemplo, legal: quem é o responsável se um carro sem motorista se dirige a algum lugar - o próprio robô, o dono do carro ou um programador? Ou social, cujo principal é o desemprego potencial. Eu mesmo estive em fábricas de robótica mais de uma vez - por exemplo, em uma fábrica em Swindon, onde os componentes para carros MINI Cooper são feitos. Emprega cerca de duzentos robôs e o mesmo número de pessoas, e antes eram quatro mil empregos. Existem também questões morais específicas, como o chamado dilema do robô assistente. Como saber quando a assistência da máquina se torna contraproducente? Imagine um robô, macio e fofinho, seguindo a criança e recolhendo brinquedos. Mas para o desenvolvimento normal de uma criança, é necessário que ela mesma o faça.
Cheios de robofobia, fomos até o criador da robótica, professor Gianmarco Verugio, presidente do comitê de ciências da Escola de Robótica do Instituto Italiano de Eletrônica, Tecnologia da Informação e Telecomunicações - ele estava sentado ali perto.
[Gato de Schrödinger] Como surgiu a roboética?
[Gianmarco Verugio] Uma vez eu era fã do Asimov, aos dezesseis anos já tinha lido todos os seus livros. Talvez seja por isso que muitos anos depois algo como uma epifania se abateu sobre mim, da qual surgiu a roboética. Percebi que as leis da robótica de Asimov - "Um robô não pode fazer mal a uma pessoa" e assim por diante - não são leis de forma alguma, mas simplesmente bons votos, nenhuma delas é observada na prática. A lei real é e = mc2. Como outras leis da natureza, não pode ser violado.
A violação das leis legais é punida. E as três leis da robótica são como os mandamentos bíblicos que dizem "Não matarás": todos parecem ser a favor, mas não observam. No momento, sistemas de armas robóticas estão sendo desenvolvidos em muitos países ao redor do mundo. As armas são necessárias para matar, o que significa que esses robôs são criados para matar pessoas.
Devemos dar força legal às leis da robótica. Escrever essas leis é uma tarefa difícil. Digamos que um robô pode matar uma pessoa propositalmente, ou talvez acidentalmente, devido a uma falha ou falha de programa, muitas vezes será difícil distinguir entre essas situações. Mas vale a pena começar a pensar sobre esses problemas agora: se seguirmos pelo caminho errado, podemos estragar muito o futuro da humanidade. É tolice criar o futuro de olhos fechados, mas até agora estamos desenvolvendo a robótica às cegas.
Os robôs de guerra são um dos principais problemas da roboética. Estamos tentando chamar a atenção de várias organizações internacionais para isso. Esta não é apenas uma iniciativa minha, existe um movimento internacional "Parem os robôs assassinos!", Que faz campanha na Internet e é apoiado pela ONU.
Outro grupo de problemas está relacionado ao tema dos biorobôs e órgãos artificiais. Até que ponto podemos, por exemplo, interferir no funcionamento do cérebro humano? Um amigo meu está fazendo experiências com ratos - inserindo elétrons em seus cérebros e controlando seu comportamento. Ele é um verdadeiro piloto de rato! Mas quando o cérebro humano está cheio de todos os tipos de neuroimplantes que aumentam as habilidades ou controlam os órgãos cibernéticos, uma interceptação de controle semelhante pode ser feita com as pessoas.
Foto: Skoltech / kot.sh
[KS] Mas não podemos desistir dos benefícios da tecnologia só porque novas oportunidades sempre andam de mãos dadas com novos perigos?
[DV] Como resolver esses problemas para que as tecnologias não nos tornem objetos controlados de gestão, mas, ao contrário, aumentem nossa liberdade? Não tenho resposta para esta pergunta, só quero colocá-la, entendendo toda a sua complexidade e incompletude de nossa visão da situação.
Muitas questões inesperadas surgem antes da roboética. Imagine, por exemplo, a seguinte situação: uma enfermeira robô está cuidando de um idoso solitário que se comunica com o carro mais do que qualquer outra pessoa. E ela rapidamente começa a considerá-la uma pessoa, amá-la como uma pessoa e sofrer se ela quebrar - tendemos a fazer isso mesmo com Tamagotchi primitivos, mas aqui haverá sentimentos muito mais fortes. Esse robô pode ser desligado? Para mim, uma pessoa é uma pessoa e uma máquina é uma máquina, mas temo que logo as pessoas comecem a cometer erros …
[KSh] Como você os diferencia? Os chatbots já estão passando no teste de Turing …
[DW] Eu começaria com o fato de que nossa psique não está apenas contida no corpo, como em um recipiente. A psique está embutida no corpo - tornamo-nos inteligentes e conscientes à medida que ganhamos experiência corporal. O conceito de inteligência artificial, cunhado por cientistas da computação na década de 1960, presumia que o mundo virtual era suficiente para que aparecesse. Agora essa ideia é chamada de brincadeira de GOFAI (a boa e velha inteligência artificial), e ficou claro para os desenvolvedores que, para ganhar uma aparência de inteligência, o programa precisará de um corpo de robô e longa experiência de interação com o mundo real. Mas, de um modo geral, não podemos fazer uma máquina inteligente, mesmo porque ainda temos muito pouco conhecimento de como o cérebro funciona, o que são razão e consciência.
[KSh] Então, a robótica não lida com os direitos do robô? Mas o que você fará se amanhã seu computador disser: "Estou com medo, não me desligue?"
[DW] Bem, não, os direitos dos robôs vão começar a me preocupar quando a última pessoa no planeta tiver todos os direitos. Ainda há muito a fazer para que as pessoas comecem a cuidar dos carros. A roboética é sobre pessoas, temos que fazer, porque criamos o nosso futuro.
Publicado na popular revista científica "Schrödinger's Cat" # 5 (07) de maio de 2015
