Cientistas da Universidade de Chicago (EUA) realizaram um estudo, durante o qual mostraram como a IA pode ser usada para escrever análises falsas complexas. Esses comentários são indistinguíveis dos reais por métodos modernos, e leitores desavisados os consideram altamente confiáveis.
Avaliações de restaurantes foram geradas usando redes neurais recorrentes (técnicas de aprendizagem profunda) que previamente treinaram nas milhares de avaliações da vida real disponíveis online.
Segundo os pesquisadores, as avaliações geradas eram virtualmente indistinguíveis das reais. Assim, os autores do trabalho mostraram que os usuários não apenas não reconheciam as avaliações falsas, mas também as consideravam tão úteis quanto as reais escritas por pessoas.
Este último é provavelmente o mais alarmante. Uma vez que isso significa essencialmente que as avaliações escritas pela IA estão cumprindo sua função principal - elas influenciam propositalmente a opinião das pessoas.
Observa-se que raramente foi detectado plágio em tais revisões (por meio de software). Isso se deve ao fato de que a IA os gerou por personagem e não extraiu palavras de resenhas reais.
Hoje, existe uma grande indústria underground, onde as pessoas escrevem comentários falsos (por dinheiro). No entanto, conforme observado pelo professor da Universidade de Chicago Ben Y. Zhao em uma entrevista ao Business Insider, a introdução da IA pode miná-lo. O cientista diz que ainda não sabe sobre a utilização desses algoritmos nessa indústria. Mas não há garantia de que alguém não surgirá com algo semelhante e não o usará para ganho pessoal.
Ao mesmo tempo, os pesquisadores escrevem que as respostas da rede neural ainda não eram ideais. Descobriu-se que o algoritmo usava um conjunto menor de caracteres - e isso não era difícil de ver. No entanto, de acordo com os autores do trabalho, as futuras redes neurais podem ser ainda mais complexas e, consequentemente, o feedback que geram será mais difícil de detectar.
Zhao observa que não se trata apenas de críticas falsas sobre restaurantes: tais tecnologias geralmente podem abalar nossas crenças sobre o que é real e o que não é.
Vídeo promocional:
O texto do estudo pode ser encontrado aqui.
