Todos estamos esperando o momento em que a inteligência artificial, os programas, a tecnologia aprendam a fazer praticamente o mesmo, então nós estamos. Isso tudo é bastante real. Mas, até agora, poucas pessoas pensam que mesmo assim, esse processo não será o mesmo para máquinas e pessoas.
Por exemplo, um grupo de pesquisadores da Universidade de Kyushu descobriu uma maneira de enganar os programas de reconhecimento de padrões, alterando um único pixel em uma imagem. Este pixel é posicionado de forma a confundir as redes neurais responsáveis pela identificação, que passam a confundir cães com gatos e cavalos com carros.
As imagens de teste foram limitadas a apenas mil pixels, mas para resoluções maiores e milhões de pixels, a regra também funciona. Só é necessário mudar não um pixel, mas várias centenas.
O segundo grupo de pesquisadores, desta vez do Massachusetts Institute of Technology, conseguiu ir ainda mais longe. Conseguiram imprimir uma escultura de uma tartaruga em uma impressora 3D, que o programa, mesmo vendo de todos os lados e de qualquer ângulo, a considerou um rifle. Este experimento apresenta um problema muito maior para a tecnologia de reconhecimento de imagem, já que tudo aconteceu na realidade, e o programa pôde analisar o objeto de todos os ângulos, mas ainda não determinou sua verdadeira forma.
Juntos, os dois estudos mostram como os robôs e programas precisam viajar antes de atingir o nível humano. Afinal, nossos cérebros não podem ser enganados substituindo um ou mesmo cem pixels.
A única pena é que as fontes não fornecem uma explicação de como ele acabou enganando o programa. O que você acha? Qual é o segredo dos "pixels quebrados" e como você pode trapacear com um modelo 3D?
Nikolay Kudryavtsev
Vídeo promocional:
