Imagine que um dia algum prodígio inventasse uma tecnologia que permitisse que pessoas ou objetos materiais atravessassem paredes e publicasse instruções na Internet sobre como construir de forma barata essa máquina milagrosa com materiais domésticos comumente disponíveis. Como o mundo mudaria?
É provável que muitas indústrias se tornem significativamente mais produtivas. Ser capaz de atravessar paredes em vez de ter que usar portas tornaria mais fácil para as pessoas circularem pelos escritórios, transportarem mercadorias em depósitos e realizarem inúmeras tarefas domésticas diárias. No entanto, as consequências negativas podem muito bem superar as positivas. Manter os objetos de valor trancados à chave perderia todo o significado. Qualquer pessoa poderia facilmente entrar no armazém, entrar em um cofre de banco ou em uma casa.
A maioria dos métodos que usamos para proteger a propriedade privada envolve paredes de uma forma ou de outra, portanto, todas seriam inúteis da noite para o dia. Os ladrões agiriam com impunidade até que a sociedade surgisse com formas alternativas de prevenir tais crimes. Um colapso econômico ou caos social pode ser o resultado de tal desenvolvimento de eventos.
O exposto acima ilustra um princípio geral: a inovação tecnológica nem sempre é benéfica para a sociedade, pelo menos no curto prazo. As tecnologias são capazes de criar externalidades negativas, externalidades. Este termo econômico significa danos causados a terceiros ou partes. Se essas externalidades negativas superam a utilidade da própria tecnologia, a invenção na verdade torna o mundo pior, não melhor, pelo menos por um tempo.
O aprendizado de máquina, especialmente uma variação conhecida como aprendizado profundo, é indiscutivelmente o maior avanço tecnológico do planeta. Ele dá aos computadores a capacidade de realizar muitas tarefas que antes apenas humanos podiam fazer: reconhecer imagens, dirigir carros, negociar no mercado de ações e muito mais. Isso gerou ansiedade em algumas pessoas de que o aprendizado de máquina pode tornar os humanos desnecessários e inúteis no local de trabalho. E isso é realmente possível, mas há um perigo muito mais sério do aprendizado de máquina que não recebeu atenção suficiente até agora. A questão é que, se as máquinas são capazes de aprender, também podem aprender a mentir.
As pessoas hoje podem falsificar imagens como fotografias, mas este é um processo trabalhoso e complexo. E a falsificação de uma imagem de voz ou vídeo geralmente está além das capacidades de uma pessoa comum. Mas em breve, graças ao aprendizado de máquina, provavelmente será possível criar facilmente imagens de vídeo falsas plausíveis do rosto de alguém e dar a impressão de que a pessoa está falando com sua própria voz. Já existe uma tecnologia para sincronizar os movimentos dos lábios que pode literalmente colocar qualquer palavra na boca de uma pessoa. Esta é apenas a ponta do iceberg. Em breve, crianças de 12 anos serão capazes de criar imagens falsas fotorrealistas e convincentes de políticos, líderes empresariais, seus parentes ou amigos em seus quartos, dizendo tudo o que podem imaginar.
Isso por si só provoca algum abuso óbvio. Hoaxes políticos, as chamadas "notícias falsas" ou "enchimento de informações", se espalharão como incêndios florestais. Claro, o engano será detectado o mais rápido possível - nenhuma tecnologia digital pode ser tão boa que outra tecnologia não seja capaz de detectar a falsificação. Mas isso só acontecerá depois que a ideia prejudicial já tiver penetrado nas mentes das pessoas que acreditam nela. Imagine um vídeo falso perfeitamente fabricado de candidatos presidenciais gritando calúnias raciais ou confessando crimes violentos.
No entanto, este é apenas o começo. Imagine o potencial de manipulação do mercado de ações. Suponha que alguém circule um vídeo falso no qual o CEO da Tesla, Elon Musk, admita que os carros da Tesla não são seguros. O vídeo ficará online e as ações da empresa irão quebrar. Logo após a descoberta de uma farsa, seu preço se recuperará, porém, durante esse tempo, os manipuladores poderão ganhar muito dinheiro, jogando para reduzir as ações da Tesla.
Vídeo promocional:
E este está longe de ser o cenário mais extremo. Imagine um curinga criando um vídeo falso realista do presidente Donald Trump afirmando que um ataque contra alvos norte-coreanos é iminente e, em seguida, postando esse vídeo onde os norte-coreanos possam vê-lo. Quais são as chances de a liderança norte-coreana perceber que isso é uma farsa antes de decidir começar uma guerra?
Aqueles que tendem a considerar tais cenários extremos como um alarmista irão razoavelmente apontar que qualquer falsificação pode ser detectada, uma vez que as mesmas tecnologias de aprendizado de máquina serão usadas para detectá-los e para a criação. Mas isso não significa que não corremos o risco de acabar em um mundo cheio de falsificações onipresentes. Uma vez que as falsificações se tornem críveis o suficiente para que as pessoas não possam detectá-las por conta própria, perderemos para sempre a confiança no que vemos e ouvimos. Em vez de confiar em nossos próprios sentidos, seremos forçados a confiar em algoritmos usados para detectar falsificações e autenticar informações. Ao longo da evolução, aprendemos a confiar em nossos próprios sentimentos,e a transferência dessas funções para a inteligência da máquina pode ser muito drástica para a maioria das pessoas.
Isso pode ser uma má notícia para a economia. As redes de negócios e comércio baseiam-se na confiança e na comunicação. Se o aprendizado de máquina lançar uma tempestade sem fim de ilusões e falsificações na esfera da informação pública um dia, as paredes criadas pela evolução para distinguir a realidade da ficção entrarão em colapso. Nesse caso, o nível de confiança na sociedade pode cair rapidamente, o que não vai diminuir a velocidade para afetar negativamente o bem-estar global da humanidade.
Por esse motivo, o governo provavelmente deve tomar algumas medidas para garantir que a falsificação digital seja punida com severidade. Infelizmente, é improvável que o atual governo dê um passo assim por amor às notícias do partido restrito. E governos como a Rússia provavelmente serão ainda menos inclinados a restringir essas práticas. Em última análise, a combinação de má governança com novas tecnologias poderosas representa uma ameaça muito maior para a sociedade humana do que as próprias tecnologias.
Por Noah Smith - Colunista do Bloomberg News
Igor Abramov
