A empresa britânica Cambridge Analytica ajudou Donald Trump a vencer as eleições presidenciais dos EUA usando tecnologia de Big Data e publicidade online personalizada. Antes disso, a mesma empresa trabalhou com apoiadores do Brexit na Grã-Bretanha e agora assinou um contrato com a Frente Nacional Francesa. É verdade que resultados inesperados de votos em diferentes países não são um fracasso da sociologia, mas uma vitória de um novo tipo de sociologia? O interlocutor da Radio Liberty Michal Kosinski, cujas pesquisas estão indiretamente relacionadas às atividades da Cambridge Analytica, acredita que isso é um exagero, mas as tecnologias de Big Data e a diminuição da privacidade prometem mudanças globais no mundo.
No final de setembro, em meio às eleições, falando na cidade de Nova York no Concordia Summit, um evento anual para políticos e empresários influentes de todo o mundo, o fundador da Cambridge Analytica, Alexander Nix, falou sobre como a nova tecnologia melhorou a eficácia da campanha da indicação republicana de Trump, Ted Cruz., no início da corrida, candidato quase desconhecido. Nix falou sobre como, por exemplo, pessoas de temperamentos diferentes devem apresentar a opinião de um candidato sobre a lei sobre a distribuição gratuita de armas de maneiras diferentes: pessoas medrosas com um alto nível de neuroticismo podem pensar nas armas como uma fonte de segurança, e extrovertidos conservadores ricos podem ver uma imagem de uma caça ao pato.
Mais tarde, Cambridge Analytica ajudou o próprio Trump e, de acordo com Nyx, por uma recompensa relativamente modesta, no total, cerca de US $ 15 milhões. Ao analisar os dados que todos os usuários da Internet deixam na rede, os especialistas da empresa conseguiram encontrar conexões e padrões não óbvios (por exemplo, que as pessoas que preferem carros americanos são eleitores de Trump prontos) e usá-los para direcionar publicidade na Internet, para personalizar mensagens. saída da sede do candidato republicano. Moradores do bairro Little Haiti em Miami viram informações sobre a recusa de Hillary Clinton em participar do socorro ao terremoto no Haiti, afro-americanos - um vídeo em que Clinton compara homens negros a predadores. Os voluntários do Trump receberam um perfil detalhado dos moradores das casas,onde eles iriam conduzir uma campanha direta.
É difícil dizer o quanto o trabalho de Cambridge Analytica teve impacto no resultado da eleição nos Estados Unidos, mas esta campanha não é o único exemplo de vencedores sendo aqueles que contrataram a empresa. Por exemplo, em 2015, o apoiador radical do Brexit Nigel Farage começou a usar Cambridge Analytica. A publicação suíça Das Magasin, que publicou recentemente uma investigação sobre as atividades da Cambridge Analytica (você pode lê-la em russo aqui), diz que a empresa já recebeu um contrato com a Frente Nacional Francesa, além de algumas forças políticas na Suíça, Alemanha e talvez Itália.
Um dos heróis da publicação Das Magasin é Michal Kosinski, pesquisador de origem polonesa, ex-vice-diretor do Center for Psychometrics da University of Cambridge e atualmente professor assistente da Stanford University, nos Estados Unidos. Por vários anos, Kosinski e seus colegas de Cambridge têm desenvolvido um sistema que, baseado na atividade do usuário em uma rede social, compila um perfil psicológico detalhado de uma pessoa. O sistema é capaz não apenas de descrever traços de caráter, mas também de prever, entre outras coisas, gênero, orientação sexual, cor da pele e até preferências políticas do usuário.
Jornalistas suíços afirmam que no início de 2014 Kosinski foi abordado por um colega, Alexander Kogan, que convidou os jovens pesquisadores a aplicarem o modelo que ele havia criado para analisar vários milhões de perfis de cidadãos americanos a pedido de uma determinada empresa. Como ficou claro mais tarde, essa empresa era associada à Cambridge Analytica. Kosinski recusou-se a cooperar, mas os métodos que Cambridge Analytica usou durante o referendo na Grã-Bretanha e a eleição presidencial dos EUA são pelo menos muito semelhantes aos modelos inventados por Michal Kosinski.
A Rádio Liberty ligou para Kosinski na Califórnia e perguntou o que exatamente pode ser dito sobre uma pessoa em sua "trilha digital", o quanto confiar nas declarações em voz alta de Cambridge Analytica, se a guerra pela privacidade está perdida e se a inteligência artificial é mais perigosa do que Donald Trump.
- O que é psicometria? O que você faz como pesquisador?
Vídeo promocional:
“A psicometria em si é uma ciência milenar, acho que tem dois ou três milênios. Em essência, esta é a ciência das medidas psicológicas, tenta estabelecer com a maior precisão possível vários aspectos psicológicos, personalidade, habilidades intelectuais, felicidade, tendência à depressão e assim por diante. Tradicionalmente, essas medições eram feitas usando questionários, testes psicológicos, mas relativamente recentemente, eu e alguns outros psicometristas percebemos que elas podem ser feitas avaliando a pegada digital de uma pessoa - e então nenhuma pergunta pode ser feita, nenhum questionário e teste são necessários. E este é um momento revolucionário. A importância da história da Cambridge Analytica, sobre a qual Das Magasin escreveu, não é que a empresa ajudou Trump na corrida eleitoral. É uma empresa comercial, eles têm tecnologia, querem ganhar dinheiro, tudo é claro aqui. O que importa éque se antes você queria compor o perfil psicológico de alguém, tinha que pedir para a pessoa preencher um questionário, fazer uma prova - e o sujeito entendeu bem que agora, neste exato momento, alguém está medindo suas características psicológicas. E agora você pode fazer o mesmo, mas a pessoa não reconhece que suas características mais íntimas estão sendo avaliadas e medidas neste momento por alguém. Basta olhar para a pegada digital: postagens em mídias sociais, curtidas, histórico de navegação na web, histórico de pesquisa. Com base nesses dados, um retrato psicológico incrivelmente preciso pode ser compilado. Por um lado, parece algo assustador, por outro, pode ser muito útil. Por exemplo, alguma plataforma de Internet pode sugerir o trabalho mais adequado para seu personagem e habilidades, ou recomendar um filme,que você certamente vai gostar. Isto é normal. Mas quando você abre sua página do Facebook e vê anúncios que são pessoalmente direcionados, direcionados a você com base em seu perfil psicológico detalhado, que foi compilado sem seu conhecimento e consentimento, isso não é mais muito normal.
- Então, pessoalmente, você poderia fazer meu perfil psicológico completo, sabendo apenas o meu nome, com base na pegada que deixei na internet?
“Eu sou um cientista e simplesmente não faria isso. Se você se ofereceu para ajudar em minha pesquisa e forneceu seus dados, eu ficaria feliz em incluí-los em meu banco de dados, torná-los anônimos e prometer nunca vender ou transferir para ninguém. Mas muitas empresas, é claro, coletam constantemente informações sobre você sem perguntar e as usam, por exemplo, para publicidade direcionada.
- Essas informações, é claro, não são armazenadas em um lugar - uma empresa conhece meus dados de geolocalização, outra - transações financeiras, a terceira - gosta no Facebook. Tudo isso pode ser colocado junto?
- Bem, em primeiro lugar, isso geralmente não é necessário. Normalmente, uma coisa é suficiente para construir um perfil preciso - seus interesses no Facebook, por exemplo, ou seu histórico de navegação em seu navegador. Em segundo lugar, as empresas que coletam informações sobre você geralmente trocam entre si ou simplesmente as vendem no mercado de dados em geral. Existem projetos como o Acxiom que juntam tudo e vendem para empresas como a Cambridge Analytica. Você pode simplesmente vir e dizer - eu preciso de dados sobre 10 milhões de americanos de tal e tal região, e eles venderão esses dados com prazer. Em terceiro lugar, para executar uma campanha com segmentação pessoal, não é necessário ter dados individuais do usuário. Você pode usar a chamada segmentação comportamental. Por exemplo, você não pode pedir ao Facebook para mostrar certos anúncios para todas as pessoas,propenso a um certo tipo de comportamento. Mas você pode ter um modelo ligando esse tipo de comportamento a algum tipo de perfil psicológico, e pode até mesmo construir esse modelo com bastante honestidade - você pagou uma pequena taxa a várias dezenas de milhares de pessoas para preencher o questionário. E quando o modelo é construído, você pergunta: como faço para encontrar extrovertidos emocionais? A modelo responde - sem problemas, estes são aqueles que gostaram de tal e tal dez livros, tal e tal dez filmes e tal e tal dez músicos. Agora você vai ao Facebook novamente com seu anúncio, só que não precisa mais pedir para mostrá-lo a extrovertidos emocionais, o que o Facebook não faria. Em vez disso, você está pedindo para exibir anúncios para quem tem um conjunto específico de curtidas. Como resultado, descobriu-se que você não tinha nenhum dado pessoal,mas você veiculou publicidade direcionada pessoalmente.
- Existem empresas que buscam compilar um perfil psicológico de toda a humanidade, pelo menos de todos que deixam rastros digitais?
- Quase ninguém pensa em tais categorias globais, mas até certo ponto Facebook, Google, Microsoft, Visa, Mastercard, os mesmos Acxiom estão envolvidos nisso. E todos esses dados são amplamente negociados no mercado.
- Ou seja, em algum lugar do mercado, por exemplo, meu perfil psicológico também é vendido, e é incrivelmente preciso. Você disse em um comentário para o Das Magazin que apenas alguns likes no Facebook são suficientes para que o sistema o reconheça melhor do que seu amigo mais próximo. É realmente assim?
- Sim, houve um estudo interessante sobre isso. Dez curtidas (interesses) são suficientes para que o sistema reconheça melhor sua personalidade do que um colega de trabalho, e em 230-240 curtidas o computador saberá mais sobre você do que seu cônjuge.
“Mas o que exatamente significa saber mais?
“Isso significa que se você pedir ao computador para preencher um questionário psicológico para você, ele cometerá menos erros do que sua esposa.
- Estas são as respostas para perguntas como "Você tem medo do escuro"?
- Sim, questões típicas de questionários psicológicos. Então, realmente, em algum lugar do mercado você pode comprar informações muito precisas sobre sua personalidade, incluindo seu preconceito político, sua religiosidade, sua orientação sexual, seu QI. Você pode entender aproximadamente o que se sabe sobre você com base em seus interesses no Facebook usando o site Applymagicsauce.com, mas isso, é claro, está longe de ser o quadro completo.
- Vamos voltar para a história com Cambridge Analytica. Diga-me, você realmente não tem nada a ver com esta empresa?
- Não, e nunca tive. Soube de sua existência pela imprensa.
- Alexander Kogan, que, de acordo com Das Magazin, ofereceu a tecnologia de perfil psicológico Cambridge Analytica, era seu colega?
- Sim, era meu colega, ou melhor, era professor assistente do departamento de psicologia da Universidade de Cambridge na época em que eu era aluno de graduação lá. Mas nossos caminhos divergiram há muito tempo, ele fundou uma pequena empresa e, pelo que eu entendi pela imprensa, vendeu dados da Cambridge Analytica, e eu permaneci no mundo acadêmico.
- Podemos assumir que Cambridge Analytica está usando os modelos que você desenvolveu?
- Eu diria que eles usam modelos semelhantes, mas, veja, para desenvolver tal modelo, você não precisa de uma ciência particularmente profunda, não há mágica nisso. Qualquer pessoa com habilidades básicas de programação, algum dinheiro e um computador conectado à internet pode fazer isso - na verdade, é isso que torna o problema tão grande. Os métodos estatísticos mais padrão são usados aqui, nada de especial. A ideia principal das minhas publicações é que é fácil, só é importante mudar o foco: para psicometria, questionários e testes não são mais necessários, basta ter a pegada digital de uma pessoa. E isso traz enormes benefícios, você pode melhorar o marketing, o planejamento de carreira, os métodos de atendimento psicológico e muito mais. Mas a mesma tecnologia pode ser usada contra humanos. Tenho certeza de que Alexander Kogan estava ciente de minha pesquisa e,embora eu só possa julgar isso pelos relatos dos jornalistas, ele fez exatamente o que sugeri e vendeu o resultado para a Cambridge Analytica. Já disse muitas vezes e indiquei claramente em meus artigos que não queria inspirar ninguém a fazer esse tipo de atividade, além disso, tenho certeza de que as pessoas já estavam engajadas no perfil psicológico digital muito antes de mim, simplesmente não falavam sobre isso tão ativamente quanto Cambridge Analytica. Eu apenas peço o desenvolvimento de políticas e procedimentos que determinem o uso ético desta tecnologia.que as pessoas faziam perfis psicológicos digitais muito antes de mim, elas simplesmente não falavam sobre isso tão ativamente quanto Cambridge Analytica. Eu apenas peço o desenvolvimento de políticas e procedimentos que determinem o uso ético desta tecnologia.que as pessoas faziam perfis psicológicos digitais muito antes de mim, elas simplesmente não falavam sobre isso tão ativamente quanto Cambridge Analytica. Eu apenas peço o desenvolvimento de políticas e procedimentos que determinem o uso ético desta tecnologia.
- Você acha que Cambridge Analytica realmente poderia influenciar significativamente os resultados da eleição presidencial americana?
- Sinceramente, não sei. É claro que Cambridge Analytica está interessada em alardear seu sucesso o mais alto possível, mas no final os resultados das eleições são determinados não por métodos de Big Data, mas por candidatos e, além disso, como agora se vê de maneira especialmente clara, eleitores que não vão às eleições. Talvez a atividade da Cambridge Analytica tenha sido a gota d'água que predeterminou o resultado final, mas muito provavelmente, o próprio Alexander Nix não sabe ao certo. Por outro lado, devemos estar cientes de que existe tecnologia e é quase impossível nos defendermos dela. Você pode parar de usar o Facebook, mas continuará escrevendo e-mails. Decida usar o correio pombo - você não pode ficar sem um cartão de crédito. Talvez os países possam aprovar leis que restrinjam essas práticas,mas isso também pode não funcionar. A propósito, não sei ao certo, mas ouvi dizer que o que Cambridge Analytica fez por Trump era contrário à lei americana atual e, portanto, eles fizeram análises diretas dos dados na Grã-Bretanha. Você sabe, eu sou um cientista, estou engajado em psicometria, não sou um especialista em política, democracia e liberdade, mas me parece que teremos que aceitar o fato de que não haverá mais privacidade. Em vez de se envolver em outra batalha pela privacidade, vale reconhecer que a guerra já está perdida, e é melhor atentar para o fato de que o mundo se torna um ambiente favorável para uma pessoa privada de privacidade. Sabe, sou um cientista, faço psicometria, não sou um especialista em política, democracia e liberdade, mas acho que teremos que aceitar o fato de que não haverá privacidade. Em vez de se envolver em outra batalha pela privacidade, vale reconhecer que a guerra já está perdida, e é melhor atentar para o fato de que o mundo se torna um ambiente favorável para uma pessoa privada de privacidade. Você sabe, eu sou um cientista, faço psicometria, não sou um especialista em política, democracia e liberdade, mas parece-me que teremos que aceitar o fato de que não haverá mais privacidade. Em vez de se envolver em outra batalha pela privacidade, vale reconhecer que a guerra já está perdida, e é melhor atentar para o fato de que o mundo se torna um ambiente favorável para uma pessoa sem privacidade.
- É curioso em que medida a construção de um perfil psicológico, usando a segmentação pessoal, pode afetar o mundo real.
- Do ponto de vista científico, é difícil argumentar sobre isso, porque é difícil montar experimentos. Ou seja, se você está vendendo algum tipo de gel de banho, pode comparar o número de cliques, mas é muito difícil avaliar, por exemplo, a eficácia dos métodos de Big Data em uma campanha política, que é mais uma promoção de marca do que uma campanha de vendas. Fizemos alguns experimentos, não com políticos, porque acho isso antiético, mas com produtos de consumo específicos, e descobrimos que o direcionamento pessoal, ou seja, usar uma mensagem publicitária individual baseada em um perfil psicológico, dobra a eficácia da publicidade. E esse é um resultado incrível, geralmente a luta é para melhorar a eficiência em cerca de três por cento, e mesmo isso economiza centenas de milhões de dólares para as empresas. E então duas vezes!
- É estranho que você não tenha se tornado bilionário ainda.
- Já tenho uma vida maravilhosa. Aliás, existem muitos trabalhos psicológicos que provam que a felicidade não exige tanto dinheiro, bem, você precisa, é claro, o suficiente para umas férias. Na verdade, nem tudo é tão simples quanto me parece um cientista, estou pronto para falar abertamente sobre essas coisas, enquanto outros trabalham em projetos reais sem contar nada a ninguém.
- Para mim, a ideia do perfil psicológico a partir de uma pegada digital parece bastante natural, tenho certeza que muita gente já usa na publicidade. Nosso mundo pode já ter mudado muito, só não percebemos ainda.
- Provavelmente, e prefiro essas mudanças. Tínhamos invenções e mais terríveis do que Big Data, lidamos com a energia nuclear - podemos de alguma forma lidar com isso, embora, provavelmente, não sem sacrifícios. Como disse, parece-me que a guerra pela privacidade já está perdida, vivemos num mundo pós-privacidade, o que significa que vale a pena investir para garantir que todos tenham direitos e oportunidades iguais, para que ninguém queira esconder nada. Felizmente, mais tolerância pode resolver o problema da falta de privacidade.
- Mas o problema não é só que os outros vão aprender todos os segredos de uma pessoa e começar a tratá-la de forma diferente, mas também que apareceu uma ferramenta poderosa de manipulação.
- Com isso, na minha opinião, a educação deve dar conta. É fácil manipular quem pouco sabe, pouco lê, pouco viaja. Pode-se dizer a essa pessoa que não há guerra na Síria e, de fato, todos os sírios são criminosos sangrentos, e ela acreditará prontamente nisso.
- Na minha opinião, pessoas educadas também podem ser manipuladas, com a ajuda da vaidade e do sexo, por exemplo.
Acho que não. Você provavelmente conhece sua esposa muito bem. Isso torna mais fácil para você manipulá-la?
- Não sei, provavelmente não tenho esse objetivo, mas certamente haverá muitas pessoas que estariam interessadas em me manipular da forma mais eficaz possível para que eu vá votar, por exemplo, em Putin.
- Claro que vai ter, e isso acontece o tempo todo, toda propaganda, todo marketing é manipulação desse tipo, e não vejo o que podemos fazer a respeito. No entanto, é difícil manipular pessoas educadas, de mente aberta e felizes. E é tarde demais para desistir do Facebook, e-mail, cartões de crédito, e é simplesmente estúpido. O Facebook é uma coisa maravilhosa, então falei muito na minha vida sobre os riscos de usá-lo, mas eu mesmo uso, e com prazer, e até pagaria por ele se fosse preciso.
- A propósito, você recebeu uma oferta de emprego no Facebook?
- Sim, é verdade. Estou bem com meu trabalho na universidade, mas na verdade, para um pesquisador comportamental que quer fazer a diferença na vida das pessoas, uma carreira em uma empresa como o Facebook ou o Google é um caminho maravilhoso. Eu venho com modelos e os estudo, e se eu trabalhasse no Facebook, poderia realmente usá-los para mudar a vida de milhões de pessoas, e não é necessário vender algo para eles.
- É assustador que você possa mudar a vida de milhões de pessoas com apenas alguns cliques.
- De fato, para influenciar milhões de pessoas, você era um ditador autoritário, mas agora pode ser um engenheiro trabalhando para alguma empresa de Internet. Mas isso não é assustador. Todos esses algoritmos - pesquisas do Google, sistemas de recomendação e assim por diante - são baseados na matemática mais básica, mas se aplicam a grandes quantidades de dados. E no final, ninguém entende como tudo funciona essencialmente, nem mesmo os próprios desenvolvedores. Aqui na Rússia existem algumas leis que todos consideram ruins, mas são leis óbvias que podem ser corrigidas. E algoritmos de computador se autoaprendem e se tornam tão complexos que, se funcionarem de alguma forma errada, não ficará claro o que e onde corrigi-los.
- Estamos tão longe do momento em que algum desses descontrolados, inacessíveis ao nosso sistema de compreensão, arranjará uma guerra nuclear?
- Sabe, até agora Donald Trump tem muito mais oportunidades e chances de destruir a humanidade do que Big Data, mas no futuro … Olha, tem pombas e formigas, você acha que eles sabem que o mundo é governado pelo homem? Eles estão achando que Donald Trump pode apertar o botão vermelho? Claro que não. Vale a pena lembrar disso, porque quando a inteligência artificial começa a dominar o mundo, podemos muito bem não perceber da mesma forma. Afinal, não podemos mais compreender e analisar os volumes de dados que nós mesmos produzimos - e temos que confiar no computador. Você pode perguntar à máquina: você pode prever algo com base nesses dados? Ela vai responder: sim, claro. Você pergunta: como você faz isso? Ela vai dizer: sinto muito, mas você não vai entender. E tudo isso já é uma realidade. Você sabe que os tribunais americanos usam sistemas de computador,decidindo sobre liberdade condicional para prisioneiros? Os computadores decidem se lhe darão crédito ou não. O computador pousa um avião, o que é ótimo, porque as pessoas podem facilmente causar problemas. A vida de 800 passageiros do Boeing 787 está nas mãos de um computador, não de uma pessoa, e essa é a realidade de hoje.
