Talvez um dos testes mais difíceis de inteligência de máquina tenha sido o jogo de xadrez que aconteceu há quase 20 anos entre o computador Deep Blue e o campeão mundial de xadrez Garry Kasparov. O carro venceu. No momento, terminou a série de jogos do jogo lógico go, onde competiam o AI AlphaGo da DeepMind (dona do Google) e o lendário campeão go da China Li Si Dol. Em quatro das cinco partidas a máquina venceu, mostrando sua superioridade sobre o humano neste jogo. O jogo incrivelmente complexo entre humanos e IA mostra que a inteligência das máquinas se desenvolveu fortemente durante esse tempo. Parece que o dia fatídico, em que as máquinas realmente se tornaram mais inteligentes que os humanos, está mais perto do que nunca. No entanto, parece que muitos não entendem nada, mas até se enganam sobre as consequências que podem nos aguardar no futuro.
Nós subestimamos algumas consequências muito sérias e até perigosas do desenvolvimento da inteligência artificial. No ano passado, o co-fundador da SpaceX, Elon Musk, emitiu um comunicado no qual expressou preocupação com a possível escravização do mundo pela inteligência artificial, o que, por sua vez, gerou uma enorme quantidade de comentários de defensores e oponentes dessa opinião.
Para um futuro tão fundamentalmente revolucionário que pode nos aguardar, é surpreendente que haja tantas divergências hoje sobre se isso vai acontecer e o que vai acabar sendo. É especialmente estranho negar os incríveis benefícios que podemos obter com a criação de uma IA verdadeiramente inteligente, é claro, levando em consideração todos os riscos possíveis. Todas essas perguntas são incrivelmente difíceis de obter as respostas de que você precisa, já que a IA, ao contrário de qualquer outra invenção da humanidade, pode realmente "rejuvenescer" essa humanidade ou destruí-la completamente.
Agora é difícil entender em que acreditar e o que esperar. No entanto, graças aos pioneiros da ciência da computação, neurocientistas e teóricos do desenvolvimento da IA, uma imagem clara está lentamente começando a se esclarecer. Abaixo está uma lista dos equívocos e mitos mais comuns sobre inteligência artificial.
Nunca iremos criar IA com inteligência humanóide
A realidade, por sua vez, sugere que já temos computadores que se equiparam e até excedem as capacidades humanas em algumas áreas. Tomemos, por exemplo, xadrez ou o mesmo jogo de go, negociação em bolsas de valores ou o papel de um interlocutor virtual. Os computadores e os algoritmos que os controlam só ficarão melhores com o tempo, e é apenas uma questão de tempo até que se tornem iguais às capacidades humanas.
Vídeo promocional:
O pesquisador da New York University Gary Markus disse certa vez que "praticamente todos" que trabalham em IA acreditam que as máquinas um dia nos ultrapassarão:
"A única disputa entre torcedores e céticos é o momento deste evento."
Futuristas como Ray Kurzweil acreditam que isso pode acontecer nas próximas décadas, enquanto outros dizem que levará vários séculos.
Os céticos da IA são inconclusivos em suas evidências de que a criação da inteligência artificial como algo único e muito semelhante a um cérebro humano real em termos tecnológicos está em algum lugar além da realidade. Nosso cérebro também é uma máquina. Máquina biológica. Ele existe no mesmo mundo e obedece às mesmas leis da física que tudo o mais. E, com o tempo, descobriremos completamente todo o princípio de seu trabalho.
AI terá consciência
Há um consenso geral de que a inteligência da máquina será consciente. Ou seja, a IA pensará da mesma maneira que um humano. Além disso, alguns críticos, por exemplo, o cofundador da Microsoft Paul Allen acreditam que devido à base teórica incompleta que descreve os mecanismos e princípios da autoconsciência, ainda não criamos nem mesmo a inteligência artificial geral, ou seja, inteligência capaz de realizar qualquer tarefa intelectual com a qual uma pessoa pode controlar. No entanto, de acordo com Murray Shanahan, professor assistente do Departamento de Robótica Cognitiva do Imperial College London, não devemos igualar os dois.
“A autoconsciência é definitivamente um assunto de pesquisa muito interessante e importante, mas não acredito que a autoconsciência deva ser um atributo obrigatório da inteligência artificial humana”, diz Shanahan.
"Em geral, usamos o termo 'autoconsciência' apenas para indicar vários atributos psicológicos e cognitivos que geralmente estão ligados em uma pessoa."
É possível imaginar um carro muito inteligente que carece de um ou mais desses atributos. Algum dia seremos capazes de construir uma IA verdadeiramente incrivelmente inteligente, mas ao mesmo tempo desprovida da capacidade de autoconsciência, bem como de compreensão subjetiva e consciente do mundo ao nosso redor. Shanahan observa que a unificação da inteligência e da autoconsciência dentro da máquina ainda será possível, mas não devemos ignorar o fato de que esses são dois conceitos completamente separados.
E embora uma das variantes do "Teste de Turing", em que uma máquina mostrava que não é diferente de uma pessoa, tenha sido aprovada com sucesso, isso não significa de forma alguma que essa máquina tenha consciência. Do nosso ponto de vista (humano), a inteligência artificial avançada pode nos parecer algo dotado de autoconsciência, mas a própria máquina não terá consciência de si mesma mais do que a mesma pedra ou calculadora.
Não devemos ter medo de IA
Em janeiro deste ano, o fundador do Facebook, Mark Zuckerberg, compartilhou suas idéias sobre como não devemos ter medo da IA, acrescentando que essa tecnologia pode trazer enormes benefícios em todo o mundo. A verdade é que ele está apenas parcialmente certo. De fato, seremos capazes de colher benefícios incríveis com a IA à nossa disposição (de carros autônomos a novas descobertas na medicina), mas ninguém pode garantir que cada aplicação de IA necessariamente trará benefícios.
Um sistema altamente inteligente, talvez, saiba tudo o que é necessário para certas tarefas (por exemplo, resolver uma situação financeira global complexa ou hackear os sistemas de computador do inimigo), mas fora das tarefas altamente especializadas, o potencial da IA ainda é completamente obscuro e, portanto, potencialmente perigoso. Por exemplo, o sistema da DeepMind é especializado no jogo go, mas não tem a habilidade (e razão) para explorar áreas fora desse reino.
Vírus de computador Flame, cuja tarefa era rastrear os países do Oriente Médio
Muitos desses sistemas podem representar sérios riscos à segurança. Um bom exemplo é o vírus Stuxnet poderoso e altamente astuto, um worm militarizado criado pelos militares dos EUA e de Israel para se infiltrar e atacar as usinas nucleares iranianas. Apenas este programa malicioso de alguma forma (acidental ou deliberadamente) também infectou uma das usinas nucleares russas.
Outro exemplo é o vírus Flame, desenvolvido para ciberespionagem direcionada no Oriente Médio. É fácil imaginar como as "futuras versões" dos vírus Stuxnet e Flame irão, independentemente, ir além de suas tarefas atribuídas e serão capazes de infectar quase toda a infraestrutura de um país. E eles farão isso de forma muito silenciosa e imperceptível.
A superinteligência artificial será muito inteligente para cometer erros
Richard Luzmore, matemático, pesquisador de inteligência artificial e fundador da empresa de robótica Surfing Samurai Robots, acredita que a maioria dos cenários do fim do mundo da IA parecem improváveis porque são amplamente baseados no que a IA um dia dirá: “Eu entendo essa destruição pessoas é um erro no código do meu programa, mas ainda tenho que seguir a tarefa."
Luzmore acredita que se a IA se comportar de acordo com esse cenário, enfrentará contradições lógicas que questionarão toda a sua base de conhecimento acumulada e acabarão levando à sua própria consciência de sua estupidez e inutilidade.
O pesquisador também acredita que se enganam quem fala que "a IA só fará o que está incluso em seu programa", assim como quem já disse as mesmas palavras, mas em relação aos computadores., declarando que os sistemas de computador nunca terão universalidade.
Peter McIntyer e Stuart Armstrong, ambos do Institute for the Future of Humanity da Oxford University, por sua vez, discordam dessa opinião, argumentando que o comportamento da IA será obrigatório e amplamente justificado pelo código do programa. Os cientistas não acreditam que a IA nunca cometerá erros ou, ao contrário, será muito estúpido para entender exatamente o que queremos deles.
"Por definição, a superinteligência artificial (ISI) é um agente cuja inteligência muitas vezes ultrapassa as melhores mentes da humanidade em quase todas as áreas", diz McIntyre.
"Ele definitivamente vai entender o que queremos dele."
McIntyre e Armstrong acreditam que a IA executará apenas as tarefas para as quais foi programada, mas se de alguma forma se desenvolver por conta própria, provavelmente tentará descobrir o quanto suas ações serão diferentes das tarefas humanas e inerentes a elas. leis.
McIntyre compara o futuro dos humanos ao dos ratos. Os ratos têm um forte instinto para encontrar comida e abrigo, mas seus objetivos muitas vezes entram em conflito com uma pessoa que não quer vê-los em sua casa.
"Como nosso conhecimento sobre ratos e seus desejos, o sistema de superinteligência também pode saber tudo sobre nós e saber o que queremos, mas ao mesmo tempo será completamente indiferente aos nossos desejos."
Uma solução simples eliminará o problema de controle de IA
Conforme mostrado no filme "From the Machine", será muito difícil controlar a IA, que será muito mais inteligente do que nós
Se presumirmos que um dia criaremos uma superinteligência que será mais inteligente que os humanos, teremos que enfrentar um problema sério, o problema do controle. Futuristas e teóricos da inteligência artificial ainda não foram capazes de explicar como podemos gerenciar e conter o ISI após sua criação. Também não está claro como podemos garantir que ele será amigável com as pessoas. Mais recentemente, pesquisadores do Instituto de Tecnologia da Geórgia (EUA) ingenuamente sugeriram que a IA pode aprender e absorver valores humanos e conhecimento de normas sociais simplesmente lendo contos de fadas simples. Sim, sim, contos infantis simples e histórias que os pais liam para nós na infância. Mas, na realidade, tudo será muito mais complicado do que tudo isso.
“Muitas das chamadas 'soluções' foram propostas para o controle da inteligência artificial”, diz Stuart Armstrong.
Um exemplo de tais soluções pode ser programar o ISI de forma que ele tente constantemente agradar ou agradar uma pessoa. Uma alternativa seria integrar conceitos como amor ou respeito em seu código-fonte. E para evitar tal desenvolvimento do cenário, segundo o qual a IA pode simplificar todos esses conceitos e perceber este mundo pelo prisma desses conceitos supersimplificados, dividindo-o apenas em preto e branco, pode ser programado para entender e aceitar a diversidade intelectual, cultural e social.
As três leis da robótica de Isaac Asimov se encaixam perfeitamente no conceito de ficção, mas na realidade precisamos de algo mais abrangente para abordar a questão do controle
Infelizmente, essas soluções são muito simples e parecem uma tentativa de encaixar toda a complexidade dos gostos e desgostos humanos em uma definição ou conceito geral, ou uma tentativa de encaixar toda a complexidade dos valores humanos em uma palavra, frase ou ideia. Tente, por exemplo, encaixar nessa estrutura uma definição consistente e adequada para algo como "respeito".
“Claro, não se deve pensar que opções tão simples são completamente inúteis. Muitos deles oferecem um grande motivo para pensar e talvez estimulem a busca de uma solução para o problema final”, diz Armstrong.
“Mas não podemos contar apenas com eles sem um trabalho mais complexo, sem pesquisas claras e procurando as consequências do uso de certas soluções”.
Seremos destruídos pela superinteligência artificial
Ninguém pode garantir que a IA um dia nos destruirá, assim como ninguém pode dizer com certeza que não seremos capazes de encontrar maneiras de controlar e usar a IA para nossos próprios propósitos. Como o especialista americano em inteligência artificial Eliezer Yudkowski disse uma vez: "A IA não pode amar ou odiar você, mas você é feito de átomos que poderia usar para outra coisa."
O filósofo de Oxford Nick Bostrom, em seu livro Superinteligence: Ways, Dangers and Strategies, escreve que a verdadeira superinteligência um dia será capaz de realizar-se, o que a tornará mais perigosa do que qualquer invenção já criada pelo homem. Pensadores modernos proeminentes como Elon Musk, Bill Gates e Stephen Hawking (muitos dos quais acreditam que "IA pode ser o pior erro da história humana") são mais propensos a concordar com essa opinião e já estão soando o alarme.
Peter McIntyer acredita que, para a maioria das tarefas que a superinteligência pode definir para si mesma, as pessoas parecerão um link extra.
“A IA um dia poderá concluir - e deve-se observar que fará o cálculo muito correto - que as pessoas não querem usá-la para maximizar a lucratividade de nenhuma empresa em particular a qualquer custo, independentemente das consequências para os consumidores, o meio ambiente e os seres vivos. Portanto, ele terá um grande incentivo para desenvolver um plano e uma estratégia, graças aos quais uma pessoa não poderá interferir na solução da tarefa, alterando-a ou mesmo desligando a IA.”
De acordo com MacIntyer, se as tarefas da IA forem diretamente opostas às nossas, isso lhe dará grandes razões para não nos deixar impedi-lo. E se considerarmos que o nível de sua inteligência será muito superior ao nosso, será realmente muito, muito difícil impedi-lo, se possível.
No entanto, agora é impossível dizer qualquer coisa com certeza, e ninguém será capaz de dizer com qual forma de IA teremos que lidar e como ela pode ameaçar a humanidade. Como Elon Musk disse uma vez, a IA poderia realmente ser usada para controlar, rastrear e controlar outras IAs. E talvez os valores humanos e a amizade inicial com as pessoas sejam introduzidos nele.
A superinteligência artificial será amigável
O filósofo Immanuel Kant acreditava que a inteligência está fortemente interconectada com os princípios da moralidade. Em sua obra Singularity: A Philosophical Analysis, o neurocientista David Chalmers tomou a famosa ideia de Kant como base e tentou aplicá-la para analisar a formação da superinteligência artificial.
“Se os princípios descritos neste artigo estiverem corretos, então, juntamente com o desenvolvimento acentuado da IA, deve-se esperar um desenvolvimento acentuado dos princípios morais. O desenvolvimento posterior levará ao surgimento de sistemas ISI, que possuirão supermoral e superinteligência. Portanto, devemos esperar apenas qualidades benevolentes da parte deles."
A verdade é que a ideia de uma IA avançada com princípios morais e virtudes excepcionais não se sustenta. Como Armstrong aponta, o mundo está cheio de criminosos de guerra espertos. Intelecto e moralidade em uma pessoa, por exemplo, não estão conectados de forma alguma; portanto, o cientista questiona que tal relação existirá em outras formas de inteligência.
“Pessoas inteligentes que se comportam de forma imoral tendem a criar muito mais problemas e dor do que suas contrapartes menos inteligentes. A inteligência lhes dá a capacidade de ser mais sofisticados em suas ações ruins, em vez de boas”, diz Armstrong.
McIntyre explica que a capacidade de um agente de realizar uma determinada tarefa nada tem a ver com o que é essa tarefa.
“Teremos muita sorte se nossos IAs se tornarem mais morais, não apenas inteligentes. Depender da sorte é, claro, a última coisa nessa questão, mas talvez seja a sorte que vai determinar nossa posição no futuro”, diz a pesquisadora.
Os riscos associados à IA e robótica são os mesmos
Este é um equívoco particularmente comum usado na mídia, bem como em sucessos de bilheteria de Hollywood como The Terminator.
Se uma superinteligência artificial como a Skynet, por exemplo, realmente quer destruir toda a humanidade, então é improvável que ela use andróides paramilitares com metralhadoras em cada mão. Seu raciocínio astuto e efetivo lhe permitirá entender que será muito mais conveniente usar, digamos, um novo tipo de praga biológica ou, por exemplo, algum desastre nanotecnológico. Ou talvez ele apenas pegue e destrua a atmosfera do nosso planeta. A IA é potencialmente perigosa não apenas porque seu desenvolvimento está intimamente relacionado ao desenvolvimento da robótica. A razão de seu perigo potencial reside nos métodos e meios pelos quais ele pode declarar sua presença para o mundo.
IA apresentada na ficção científica reflete nosso futuro
Sem dúvida, por muitos anos, escritores e escritores de ficção científica usaram o ambiente da ficção científica como um trampolim para especular sobre nosso futuro real, mas a criação real do ISI e as reais consequências disso ainda estão além do horizonte de nosso conhecimento real. Além disso, essa natureza artificial e claramente desumana da IA nem mesmo nos permite assumir com precisão o que essa IA será de fato.
Na maioria dos trabalhos de ficção científica, a IA é o mais próximo possível dos humanos.
“Diante de nós está, na verdade, todo um espectro dos mais diversos tipos de mente possíveis. Mesmo se tomarmos apenas a forma humana. Por exemplo, sua mente está longe de ser idêntica à mente do seu vizinho. Mas essa comparação é apenas uma gota no mar de toda a diversidade possível de mentes que poderia existir”, diz McIntyre.
A maioria das ficções de ficção científica é, obviamente, criada principalmente para contar uma história, não para ser tão cientificamente convincente quanto possível. Se fosse o contrário (a ciência é mais importante do que o enredo), não seria interessante acompanhar essas obras.
“Imaginem como seriam enfadonhas todas essas histórias, onde a IA, sem autoconsciência, a capacidade de se alegrar, amar ou odiar, destrói todas as pessoas praticamente sem qualquer resistência para atingir seu objetivo, que, aliás, também pode não ser muito interessante. para o leitor ou espectador”, comenta Armstrong.
AI vai pegar nossos empregos
A capacidade da IA de automatizar os processos que fazemos manualmente e seu potencial para destruir toda a humanidade não são a mesma coisa. No entanto, de acordo com Martin Ford, autor de Rise of the Robots: Technology and the Threat of a Jobless Future, esses conceitos muitas vezes são comparados e combinados em um todo coerente. Claro, é ótimo tentarmos antecipar as consequências da criação de IA até agora, mas apenas se esse esforço não nos distrair dos problemas que poderemos enfrentar em algumas décadas se não fizermos nada. E um dos principais problemas é a automação em massa.
Poucos argumentariam que um dos desafios da inteligência artificial será encontrar uma maneira de automatizar muitos empregos, desde empregos em fábricas até alguns empregos de colarinho branco. Alguns especialistas prevêem que metade de todos os empregos, pelo menos nos EUA, podem ser automatizados em um futuro próximo.
Mas isso não significa de forma alguma que não seremos capazes de aceitar tais mudanças. É importante entender que o desejo de se livrar do estresse físico e psicológico desnecessário no trabalho é na verdade um sonho de nossa espécie humana há muito tempo.
“Em algumas décadas, a IA de fato substituirá pessoas em muitos empregos. E isso é realmente muito bom. Por exemplo, os carros autônomos substituirão os caminhoneiros, o que, por sua vez, não apenas reduzirá o custo do transporte de mercadorias, mas também diminuirá o custo das próprias mercadorias. Se você trabalha como caminhoneiro, é claro que continuará sendo o extremo, mas todos os demais, neste caso, têm maior probabilidade de receber um aumento de salário. E quanto mais esse dinheiro pode ser economizado, mais ele pode ser gasto em outros bens e serviços que as pessoas estarão engajadas em seus locais de trabalho."
Muito provavelmente, a inteligência artificial irá buscar novas formas de bem-estar e alimentar as pessoas enquanto fazem outras coisas. Os avanços no desenvolvimento de IA serão acompanhados por sucessos em outras áreas. Especialmente nos setores de manufatura. No futuro, tudo isso provavelmente simplificará muito, em vez de complicar, a satisfação de nossas necessidades básicas.
