Dois bilionários que fizeram sua fortuna online, o proprietário da Tesla e do Space X Elon Musk e o fundador do Facebook Mark Zuckerberg, entraram em uma disputa ausente sobre os perigos da inteligência artificial.
Ambos os empreendedores estão confiantes de que a criação de inteligência artificial (IA) completa é assunto para um futuro próximo. Mas Musk acredita que é hora da humanidade pensar em regulamentar os desenvolvimentos nessa área, e Zuckerberg está confiante de que a inteligência artificial irá melhorar significativamente a vida das pessoas.
Em meados de julho, Elon Musk conversou com os governadores dos estados americanos e instou as autoridades a pensarem sobre a introdução de restrições legislativas ao desenvolvimento no campo da IA.
Zuckerberg respondeu à pergunta sobre os perigos da IA ao conversar com usuários do Facebook. Ele foi questionado sem rodeios se ele achava que os temores de Musk eram válidos. O criador do Facebook disse que não entendia como Musk poderia pedir seriamente uma desaceleração em andamento.
Ele respondeu tweetando “Falei sobre isso com Mark. Ele tem uma compreensão limitada deste problema :
Present Tense publica integralmente os discursos dos dois bilionários.
"Até vermos robôs andando pelas ruas e matando pessoas, não saberemos como reagir." Os medos de Elon Musk
Vídeo promocional:
Tenho acesso ao que há de mais recente em IA. E acho que as pessoas realmente deveriam se preocupar com esse problema. Eu sei o que parece, mas até que as pessoas vejam robôs andando pelas ruas e matando pessoas, elas não saberão como reagir.
Parece irreal. Acho que realmente precisamos nos preocupar com a IA. E eu acho que este é um caso raro em que nós, em nossas restrições legislativas, devemos estar à frente da curva, e não tomar decisões depois, quando é tarde demais.
Normalmente, as restrições funcionam assim: no início acontecem muitas coisas ruins, protestos da sociedade, e depois de muitos anos existem órgãos reguladores para esse setor. Empresas que não gostam de controle externo resistem, e isso leva muito tempo. No passado, isso já gerou consequências ruins, mas não representou uma ameaça fundamental à existência da humanidade.
A IA é um risco fundamental para a existência humana. E esse é o tipo de risco que nem acidentes de carro, nem queda de avião, nem problemas com drogas, nem comida ruim jamais tiveram. Eles não eram uma ameaça. Talvez fossem para pessoas específicas, mas não eram um risco para toda a sociedade.
IA é uma ameaça existencial fundamental para a civilização, e não acho que os humanos estejam totalmente cientes disso. Sim, ser restrito não é divertido. Mas, na indústria automotiva, somos controlados pelo Departamento de Transporte e muitos outros. E cada país tem órgãos reguladores. Na indústria espacial, somos controlados pela Federal Aviation Administration. Mas se você perguntar a uma pessoa comum: "Ei, você quer se livrar da administração da aviação civil e apenas torcer para que os fabricantes não economizem no avião, porque os lucros caíram neste trimestre", a pessoa responderá: "Claro que não." Parece mais ou menos.
Acho que mesmo pessoas de mentalidade muito liberal diriam: "Vamos ficar de olho nos fabricantes de aeronaves, precisamos ter certeza de que eles sejam bons aviões." Carros legais, coisas assim. Portanto, os reguladores têm um papel a cumprir. Claro, sou contra o controle estrito. Mas acho melhor nos apressarmos com a IA.
Claro, esta [invenção da IA] levará à perda de empregos, porque os robôs podem fazer tudo melhor do que nós. Ou seja, melhor do que todos nós. Sim. Não sei o que fazer a respeito. Este é o pior problema para mim. Sim, tenho certeza de que precisaremos do controle do Estado, pois assim podemos garantir a segurança pública.
As empresas estão com pressa, precisam de tempo para fazer IA, caso contrário, não serão competitivas. Se o seu concorrente tiver pressa em fazer IA, e você não, ele o destruirá. E as empresas dizem: "Não queremos morrer, parece que também precisamos criar IA."
E é aí que os controles devem entrar: "Pessoal, todos vocês precisam diminuir a velocidade e ter certeza de que é seguro." Se os revisores estiverem convencidos de que é seguro, você pode continuar a trabalhar. Caso contrário, diminua a velocidade. Mas os auditores devem fazer isso para todos que o fazem, caso contrário, os acionistas dirão: “Ei, por que você não está desenvolvendo IA mais rápido do que seus concorrentes? Seria necessário!"
Acredito que este é o maior risco que corremos como civilização. Acho que o papel do Estado é cuidar da sociedade e prestar atenção ao que a ameaça. Daí as limitações. Primeiro, você precisa aprender o máximo possível sobre isso para entender a natureza do problema, observar o progresso e as incríveis conquistas no campo da IA.
No ano passado, em um game de go que foi difícil de vencer e em que as pessoas pensavam que o computador nunca venceria o melhor jogador humano, ou que isso aconteceria daqui a 20 anos, no ano passado AlphaGo, criado pela DeepMind, a empresa comprada pelo Google superou o melhor jogador de go do mundo. E agora ela pode jogar com 150 jogadores ao mesmo tempo e derrotar todos eles.
Esta é uma taxa de progresso impressionante e aparecerá cada vez com mais frequência. Robótica, por exemplo. Existem robôs que aprendem a andar do zero em horas. Mais rápido do que qualquer espécie. Mas o mais perigoso - e este é o mais difícil de entender - porque não é algo físico, é inteligência.
Parece, bem, o que a inteligência [artificial] poderosa pode fazer na Web? Bem, por exemplo, comece uma guerra. Por exemplo, criando notícias falsas, comunicados de imprensa e endereços de correspondência falsos e simplesmente manipulando informações. A caneta é mais poderosa do que a espada.
Como exemplo - quero enfatizar, não acho que isso realmente tenha acontecido, estou dizendo isso de forma puramente hipotética - lembra aquele avião da Malásia que foi abatido na fronteira entre a Rússia e a Ucrânia? Isso aumentou muito o atrito entre a Rússia e a UE.
Imagine se você tivesse inteligência artificial e seu objetivo fosse maximizar o valor de uma carteira de ações, uma forma seria comprar ações de defesa, vender ações de consumo e começar uma guerra.
Como ele pôde fazer isso? Invada a Malaysia Airlines, servidores de rotas de aeronaves, planeje rotas sobre uma zona de guerra e envie uma mensagem anônima de que "um avião inimigo está sobrevoando você".
"Todas as tecnologias podem ser usadas para o bem e para o mal." O otimismo de Mark Zuckerberg
Tenho convicções muito fortes sobre isso. Estou muito otimista. Sou uma pessoa otimista em geral. Acho que podemos criar coisas que tornem o mundo um lugar melhor, e estou particularmente otimista em relação à IA. Acho que simplesmente não entendo as pessoas que estão sempre céticas e constantemente se intimidam com esses cenários de fim iminente do mundo. Eu acho isso realmente muito ruim e irresponsável, porque nos próximos cinco a dez anos, a IA será capaz de melhorar e melhorar a qualidade de nossas vidas.
Se você se preocupa com a segurança e a saúde das pessoas, a IA já está ajudando a diagnosticar melhor as doenças e a selecionar medicamentos para as pessoas, dependendo do que estão com a doença e como podem ser mais curados. Muitas pessoas receberão melhores cuidados de saúde do que nunca.
Quanto aos carros autônomos, eles serão mais seguros do que os carros dirigidos por pessoas. É só uma questão de tempo. Os acidentes de trânsito continuam sendo uma das principais causas de morte. E se eles pudessem ser eliminados com a ajuda da IA, melhoraria muito a vida das pessoas.
Quando ouço o raciocínio: "Ah, você sabe, a IA vai prejudicar as pessoas no futuro", acho que, de fato, toda tecnologia pode ser usada tanto para o bem quanto para o mal. E você precisa ter cuidado ao criar algo, você precisa ter cuidado e pensar em como isso será aplicado.
Mas quando as pessoas insistem em desacelerar o processo de IA, acho isso muito controverso. É muito difícil para mim entender isso, porque se você é contra a IA, então você é contra máquinas mais seguras que não vão se acidentar, contra a possibilidade de diagnosticar melhor as doenças. E eu simplesmente não entendo como algumas pessoas podem fazer isso sem astúcia. Portanto, geralmente sou muito mais otimista sobre essa [criação de IA] do que talvez muitas pessoas.
