As empresas de tecnologia estudaram silenciosamente suas fotos para melhorar seus sistemas de reconhecimento facial. E é assim que eles fizeram.
O reconhecimento facial é uma tecnologia poderosa que ameaça seriamente as liberdades civis. É também um negócio próspero. Hoje, muitas startups e gigantes da tecnologia estão vendendo sistemas de reconhecimento facial para hotéis, varejistas e até mesmo escolas e acampamentos de verão. Este negócio está crescendo graças a novos algoritmos que podem identificar pessoas com muito mais precisão do que há cinco anos. Para melhorar seus algoritmos, eles foram treinados em bilhões de rostos, às vezes sem a permissão de ninguém. Portanto, são grandes as chances de seu rosto fazer parte de um "kit de treinamento" em um desses sistemas ou de um banco de dados de clientes de alguma empresa.
Os métodos de coleta de informações usados pelas empresas podem surpreender os consumidores. Por exemplo, em pelo menos três casos, as empresas receberam milhões de imagens por meio de aplicativos de fotos para smartphones. Agora, o sistema de reconhecimento de rosto é mal regulado, então as pessoas quase não têm como restringir o uso de seus rostos para fins comerciais.
Em 2018, uma câmera identificou os rostos de passageiros correndo para baixo de um avião perto de Washington, Columbia. Mas, na verdade, tanto o avião quanto os passageiros faziam parte de uma simulação criada pelo Instituto Nacional de Padrões e Tecnologia (NIST) para demonstrar como os dados poderiam ser coletados “no campo”. Os rostos usados neste experimento farão parte de uma competição do NIST, em que empresas de todo o mundo testam seus sistemas de reconhecimento de rostos.
Na simulação da situação da aeronave, os voluntários concordaram em usar seus rostos. Esse foi o caso nos estágios iniciais dos sistemas de reconhecimento facial - os pesquisadores tentaram consistentemente incluir pessoas em seus conjuntos. Agora, é improvável que as empresas se incomodem e peçam permissão.
De acordo com a Market Research Future, as empresas (incluindo líderes como Face ++ e Kairos) estão disputando a posição # 1 em um setor que está crescendo 20% ao ano para atingir US $ 9 bilhões em volume até 2022. O modelo de negócios desses players é baseado em software licenciado para um número crescente de clientes - de agências de aplicação da lei a universidades - que o utilizam em seu próprio desenvolvimento.
Na competição, os vencedores são aqueles produtos cujos algoritmos são capazes de detectar faces com precisão e sem erros. Como acontece com toda inteligência artificial, construir um sistema de reconhecimento de rosto envolve o acúmulo de uma grande quantidade de dados para treinamento. Embora as empresas possam usar dados aprovados pelo governo e pela universidade (como o Yale Facial Database), esses kits de treinamento são pequenos o suficiente para conter apenas alguns milhares de rostos.
Vídeo promocional:
Esses kits oficiais também têm outras desvantagens. Muitas pessoas carecem da diversidade racial e das diferentes condições - sombras, chapéus, cosméticos - que alteram a percepção de uma pessoa no mundo real. Um sistema de reconhecimento de rosto natural requer mais imagens. Muito mais.
“Cem não é suficiente, mil não é suficiente. Precisamos de milhões de imagens. Se você não treinar o sistema para reconhecer pessoas com óculos e cores de pele diferentes, não obterá bons resultados”, diz Peter Trepp, diretor da FaceFirst, empresa com sede na Califórnia que ajuda varejistas a identificar criminosos em suas lojas.
Aplicação para este
le. Notavelmente, o aplicativo o forçou a enviar links patrocinados para todos os contatos do usuário, uma tática conhecida no Vale do Silício como "growth hacking". Os usuários também reclamaram de roubo de dados.
"Imediatamente após a instalação, o aplicativo coleta todos os telefones da lista de contatos e começa a enviar mensagens de texto para eles … E então baixa todas as suas fotos e as copia para o armazenamento em nuvem", escreveu Greg Miller, proprietário de um estúdio fotográfico no Texas, em uma análise de 2015 no Facebook.
Quatro anos depois, Miller ficou horrorizado ao descobrir que suas fotos ainda estavam armazenadas na EverRoll, mas agora uma empresa com um sistema de reconhecimento facial.
“Não, eu não sabia e discordo totalmente disso”, reclamou Miller para a Fortune. “Esse tipo de vigilância é um problema real. A confidencialidade acabou e isso me assusta muito."
Doug Ely, CEO da Ever AI, afirma que a empresa não transfere informações de seu banco de dados para qualquer lugar e que as fotos são usadas apenas para treinar o sistema. Ele acrescentou ainda que a empresa se assemelha a uma rede social que pode ser abandonada a qualquer momento. Eli negou que a Ever AI pretendesse se tornar uma empresa de reconhecimento facial desde o início, dizendo que o encerramento do aplicativo foi uma decisão da administração. Os clientes da Ever AI agora usam seus dados para seus próprios fins, incluindo o gerenciamento de sistemas de identificação de funcionários, varejo, bem como telecomunicações e aplicação da lei.
Ever AI não é a única empresa de reconhecimento facial que já ofereceu um aplicativo de fotografia. Orbeus, uma startup com sede em San Francisco comprada pela Amazon em 2016 (que não foi anunciada), também ofereceu o popular armazenamento PhotoTime.
De acordo com um ex-funcionário da Orbeus, o apelo da startup para a Amazon estava em suas tecnologias de inteligência artificial e sua vasta gama de fotos de pessoas em locais públicos.
“A Amazon estava procurando por essas oportunidades. Eles compraram tudo e, em seguida, fecharam o aplicativo”, diz um funcionário que desejou manter o anonimato, citando um contrato de sigilo.
O PhotoTime não existe mais, embora a Amazon continue a vender outro produto Orbeus conhecido como a marca Rekognition. Nos negócios e na aplicação da lei, é usado como um sistema de reconhecimento facial.
A Amazon se recusou a revelar detalhes sobre se o aplicativo de fotos Orbeus foi usado para treinar o Rekognition, afirmando apenas que estava pegando dados de várias fontes. A empresa acrescentou que não usa dados de usuário do aplicativo Prime para treinar sistemas de identidade.
A Real Networks é outra empresa que usa aplicativos para treinar seu sistema. Com sede em Seattle e outrora famosa por seu reprodutor de vídeo dos anos 90, a empresa agora está focada em reconhecer os rostos das crianças nas escolas. Ao mesmo tempo, a empresa oferece um aplicativo familiar chamado RealTimes, que, segundo críticos, coleta dados sobre os rostos dos usuários.
“O aplicativo permite criar apresentações de vídeo a partir de fotos. Imagine que a mãe envie tal apresentação para a vovó e o sistema use essas fotos para treinamento. Parece assustador”, diz Claire Gavry, professora da Georgetown University, que publicou um artigo que teve um grande impacto na tecnologia de reconhecimento facial.
A Real Networks confirmou que o aplicativo estava sendo usado para melhorar o reconhecimento facial, mas acrescentou que outras fontes de informação estavam sendo usadas.
Em todos os casos em que as empresas usaram dados de seus próprios aplicativos de fotos para treinar seus sistemas, elas não pediram permissão do usuário, mas receberam consentimento oculto por meio de contratos de usuário.
Mas isso já é bastante se comparado ao que outras empresas estão fazendo. De acordo com Patrick Grother, que comanda a competição do NIST, está tudo bem para as empresas que coletam dados faciais para escrever programas que “agarram” imagens de sites como SmugMug ou Tumblr. Nesses casos, a permissão do usuário nem mesmo é assumida.
Essa abordagem de autoajuda foi destacada em um relatório recente da NBC News detalhando como a IBM baixou mais de um milhão de imagens faciais do Flickr como parte de um estudo de IA. (John Smith, que supervisiona tecnologias de inteligência artificial no departamento de pesquisa da IBM, disse que "os dados pessoais estão protegidos" e que o trabalho está em andamento com aqueles que desejam remover informações pessoais do banco de dados).
Tudo isso levanta questões sobre a proteção dos dados pessoais pelas empresas que os coletam e a necessidade de controle estatal nesta área. Este tema só ficará mais sério com a disseminação dos sistemas de reconhecimento facial na sociedade, bem como no ambiente de grandes e pequenas empresas.
De lojas a escolas
Os sistemas de reconhecimento facial não são novos. As versões mais simples de tais programas existem desde a década de 1980, quando os matemáticos americanos começaram a definir faces como uma série de valores numéricos e usaram modelos probabilísticos para encontrar correspondências. A segurança de Tampa, Flórida, o usou no Super Bowl de 2001, e ele tem sido usado em cassinos há anos. Mas muita coisa mudou nos últimos anos.
“O sistema de reconhecimento de rosto está passando por algo como uma revolução”, diz Patrick Grother, acrescentando que a mudança é mais perceptível no aumento da qualidade das imagens. “A tecnologia subjacente mudou. Desenvolvimentos antigos foram substituídos por sistemas novos e muito mais eficientes."
A revolução do reconhecimento de rosto foi impulsionada por dois fatores que mudaram muito e expandiram o escopo da tecnologia de inteligência artificial. O primeiro é o surgimento do aprendizado profundo, um sistema de reconhecimento de padrões que em princípio se assemelha ao cérebro humano. O segundo é um excedente recorde de dados que podem ser armazenados e analisados a baixo custo usando a computação em nuvem.
Não surpreendentemente, as primeiras empresas a tirar o máximo proveito desses desenvolvimentos foram Google e Facebook. Em 2014, este último lançou um programa chamado DeepFace, que pode determinar com uma precisão de 97,24% que duas faces pertencem à mesma pessoa - as pessoas demonstram um resultado semelhante em tal teste. Um ano depois, o Google, com seu programa FaceNet, alcançou 100% de precisão (de acordo com a empresa de segurança Gemalto).
Hoje, em grande parte graças ao acesso a grandes bancos de dados de dados faciais, esses e outros gigantes da tecnologia (como a Microsoft) estão liderando o caminho no reconhecimento facial. Mas cada vez mais as start-ups estão apresentando resultados elevados, também se esforçando para ocupar seu nicho no crescente mercado de programas de identificação facial.
Existem mais de uma dúzia dessas empresas apenas nos Estados Unidos, incluindo a Kairos e a FaceFirst. De acordo com pesquisadores de mercado da PitchBook, o Vale do Silício está rapidamente ganhando força no setor, com investimentos significativos nos últimos anos. A PitchBook estima o investimento total nos últimos três anos em US $ 78,7 milhões. Não são números fantásticos para os padrões da Valley, mas refletem a confiança dos capitalistas de risco de que algumas startups de front-end logo se transformarão em grandes empresas.
Atividade de capital de risco na indústria de reconhecimento facial nos Estados Unidos.
Novos modelos de negócios focados no reconhecimento facial ainda estão surgindo. Isso é especialmente perceptível em software corporativo licenciado. De acordo com a Crunchbase, as receitas anuais de empresas como Ever AI e FaceFirst são modestas, variando de US $ 2 milhões a US $ 8 milhões. A Amazon e outros gigantes da tecnologia não divulgam esses números.
Por muito tempo, os usuários mais interessados dos sistemas de reconhecimento facial foram as agências de segurança pública. Mas agora muitas empresas, incluindo o WalMart, usam esses programas para obter mais informações sobre os compradores em suas lojas.
Por exemplo, a FaceFirst, com sede na Califórnia, oferece seus sistemas a centenas de varejistas, incluindo lojas de segunda mão e farmácias. De acordo com o CEO da empresa, muitos clientes estão usando a tecnologia para detectar furtos, mas um número crescente daqueles que tentam usá-la para outros fins, incluindo encontrar clientes VIP e identificar funcionários.
Por muito tempo, os usuários mais interessados dos sistemas de reconhecimento facial foram as agências de segurança pública.
Parece que a Amazon também está procurando em uma ampla gama de suas atividades oportunidades para aplicar sistemas de reconhecimento facial. Além de trabalhar com delegacias, a gigante do varejo está ajudando hotéis a agilizar os processos de check-in, segundo fontes diversas.
“Empresas de todo o mundo vêm à Amazon e dizem: 'Isso é exatamente o que queremos fazer.' E você entende que esta é uma área maravilhosa. Todo mundo está interessado nisso”, disse uma fonte anônima que ingressou na Amazon ao comprar a Orbeus, uma empresa de reconhecimento facial.
Para a Amazon, essa atividade teve consequências polêmicas. Em julho passado, a American Civil Liberties Union (ACLU) testou os sistemas da empresa comparando os rostos de todos os membros do Congresso a um banco de dados de criminosos. O teste mostrou 28 correspondências falsas, com a maioria dos erros devido à cor da pele dos participantes do experimento. Como resultado, a União apelou à proibição do uso do sistema de reconhecimento facial nas agências de aplicação da lei. No entanto, a Amazon insistiu em vender o sistema para policiais e para o Departamento de Imigração e Alfândega dos Estados Unidos.
Então, alguns membros do Congresso, incluindo o deputado Jerrold Nadler e o senador Ron Weeden, pediram ao Gabinete de Auditoria para investigar o uso de software de reconhecimento facial. As empresas líderes também estão preocupadas com esses sistemas. Em particular, o presidente da Microsoft, Brad Smith, pediu em dezembro a regulamentação de tais tecnologias em nível estadual.
Mas mesmo com o aumento das preocupações, o uso de sistemas de reconhecimento facial está apenas se expandindo à medida que as empresas encontram mais e mais usos para eles. Por exemplo, Real Networks, um desenvolvedor de aplicativos de fotografia familiar, oferece seu software para escolas em todo o país gratuitamente. A empresa fala de centenas de escolas como clientes. Em uma entrevista à revista Wired, o CEO da Real Networks, Rob Glaser, disse que lançou o projeto como uma solução imparcial para disputas sobre segurança escolar e controle de armas. O site da empresa está atualmente posicionando este produto como uma tecnologia que permite aos organizadores de eventos “reconhecer cada fã, cliente, funcionário ou convidado”, mesmo que seu rosto esteja escondido.
A tecnologia exclusiva reconhece rostos mesmo em maquiagem intensa ou colorida. O sistema distingue e identifica rostos em uma variedade de condições de iluminação.
A Real Networks não é a única empresa voltada para o mercado infantil. Uma startup com sede no Texas chamada Waldo está oferecendo tecnologia semelhante para centenas de escolas, bem como ligas de esportes infantis e acampamentos de verão. Na prática, isso implica no uso de tais sistemas para digitalizar imagens tiradas por câmeras de vídeo ou fotógrafos oficiais, e posterior comparação dos rostos das crianças com um banco de dados de imagens fornecido pelos pais. Os pais sempre podem se recusar a participar.
De acordo com Rodney Rice, CEO do Waldo, as escolas tiram dezenas de milhares de fotos todos os anos, e poucas delas acabam em álbuns anuais. O reconhecimento facial, disse ele, é uma forma eficaz de espalhar as sobras para quem precisa delas.
“Pelo preço da pipoca ou do papel pardo, você pode encomendar essas fotos para os avós dos seus filhos”, disse Rice, explicando que Waldo tem um acordo de divisão de receitas com escolas públicas. Atualmente, os serviços da empresa são utilizados em mais de 30 estados dos Estados Unidos.
A ascensão do Waldo e do FaceFirst mostra como as empresas estão normalizando o reconhecimento facial que parecia ficção científica até recentemente. E com a proliferação de tais tecnologias, mais empresas irão coletar fotos de seus rostos - seja para treinar algoritmos ou para encontrar clientes e criminosos - mesmo que o risco de erro e abuso apenas cresça.
O futuro do seu rosto
Em 2017, foi lançado um episódio da série tecno-distópica Black Mirror, em que uma mãe agitada se preocupa com um jovem traidor que está passando um tempo com sua filha. Para descobrir quem é, ela carrega uma foto dele em um serviço de identificação do consumidor. O programa mostra rapidamente seu nome e local de trabalho, e a mulher vai tratá-lo.
O cenário uma vez fictício agora parece bastante real. Embora a maioria das preocupações com o reconhecimento facial tenha se concentrado no uso dessa tecnologia em organizações governamentais, seu uso entre empresas comerciais e até mesmo indivíduos (no estilo "Black Mirror") apresenta riscos óbvios para os dados pessoais.
Conforme mais empresas começam a vender sistemas de reconhecimento facial e nossos rostos entram em mais bancos de dados, o software pode ganhar popularidade entre voyeurs e stalkers. Varejistas e proprietários podem usá-lo para identificar clientes indesejados e locatários para negar habitação e serviços discretamente.
“Qualquer pessoa com uma filmadora em uma área densamente povoada pode começar a coletar bancos de dados de imagens e usar este software analítico para ver se as imagens capturadas correspondem aos seus dados”, disse Jay Stanley, analista da ACLU.
Também existe o risco de ataques de hackers. Andrei Barisevich, da Gemini Advisors, uma empresa de segurança cibernética, diz que viu perfis à venda em sites darknet roubados do banco de dados biométrico nacional da Índia. Ele não percebeu essas informações sobre os americanos, mas acrescentou: "É apenas uma questão de tempo". O vazamento de dados de clientes de um hotel ou loja pode ajudar os criminosos a cometer fraude ou roubo de identidade.
Como a tecnologia é distribuída sem muito controle do governo, a responsabilidade por limitar seu uso indevido é exclusivamente dos fornecedores de software. Em uma entrevista à Fortune, os CEOs de startups de reconhecimento facial disseram que estavam preparados para essas ameaças. Alguns, incluindo o CEO da FaceFirst, descreveram a disseminação de tais sistemas na China como perigosa.
Os líderes também sugeriram duas abordagens para conter o abuso. A primeira é trabalhar em estreita colaboração com os compradores do software para garantir que ele seja usado corretamente. Por exemplo, Doug Eli, da Ever AI, diz que sua empresa tem um padrão mais alto do que a Amazon, que ele afirma fornecer sua ferramenta Rekognition para praticamente qualquer pessoa.
Em resposta a uma pergunta sobre controle de abuso, a Amazon forneceu um comunicado divulgado anteriormente por Matt Wood, que executa inteligência artificial na Amazon Web Services. Wood lembra que é política da empresa que proíbe atividades prejudiciais e ilegais.
Outra possível garantia de segurança dos dados é a utilização de medidas técnicas para garantir a impossibilidade de hackear as bases de dados de "front".
Rodney Rice, CEO da Waldo, diz que os rostos são armazenados como hashes alfanuméricos. Isso significa que, mesmo em caso de vazamento de dados, a confidencialidade não será comprometida, uma vez que um hacker não poderá descriptografar os hashes e usá-los. Este ponto de vista foi apoiado por outros.
Rice teme que a definição legislativa das regras para o uso de tecnologias "faciais" possa fazer mais mal do que bem. “Deixar uma criança descobrir e criar regras é ridículo”, diz ele.
Enquanto isso, algumas empresas de software de reconhecimento facial estão adotando novas técnicas que podem reduzir a necessidade de big data para treinamento. É o caso, por exemplo, da Kairos, uma startup de front-end de Miami que, entre outras coisas, trabalha com uma ampla gama de hotéis. De acordo com Stephen Moore, chefe de segurança da empresa, Kairos cria faces "sintéticas" para simular uma ampla gama de emoções e iluminação. Essas "faces artificiais" reduzem o uso de dados faciais do mundo real ao criar produtos de tecnologia.
Todas essas medidas - vigilância dos usuários do sistema, forte proteção de dados e ferramentas de aprendizagem sintéticas - podem mitigar algumas das preocupações de privacidade associadas ao uso comercial de nossos rostos. Ao mesmo tempo, Trepp, da FaceFirst, acredita que a ansiedade diminuirá com um olhar mais atento para o sistema. Ele até afirma que as cenas de reconhecimento facial no filme de ficção científica de 2002 Minority Report começarão a parecer normais.
“A geração do milênio está muito mais disposta a compartilhar informações. Este mundo [do Minority Report] está se aproximando do nosso”, diz ele. - Se você fizer tudo certo, então acho que as pessoas vão gostar, e será uma experiência positiva. Não vai ser tão assustador."
Outros, incluindo a ACLU, são menos otimistas. No entanto, apesar da crescente discussão em torno da tecnologia, não há praticamente nada neste momento que limite o uso de seu rosto. As únicas exceções estão em três estados - Illinois, Texas e Washington DC - que exigem um certo grau de consentimento antes de usar o rosto de outra pessoa. Essas leis não são realmente usadas na prática, exceto em Illinois, onde os consumidores podem tomar medidas legais para fazer cumprir este direito.
A lei de Illinois está atualmente sendo objeto de um julgamento de recurso de alto perfil envolvendo o Facebook, que afirma que as restrições à obtenção de rostos não se aplicam à digitalização digital. Em 2017, o Facebook e o Google lançaram uma campanha de lobby sem sucesso para convencer os legisladores de Illinois a suavizar a lei. No final de janeiro, os proponentes da lei foram apoiados pela Suprema Corte de Illinois quando esta decidiu que os consumidores podem processar o uso não autorizado de seus dados biométricos, mesmo que nenhum dano real tenha sido causado.
Outros estados também permitem a adoção de suas próprias leis biométricas. No nível federal, os legisladores deram pouca atenção a isso até agora. Isso pode mudar, no entanto, à medida que os senadores Brian Schatz e Roy Blount introduziram uma legislação neste mês que exigiria que as empresas obtivessem permissão antes de usar o reconhecimento facial em locais públicos ou compartilhar dados faciais com terceiros.
Claire Garvey, pesquisadora de Georgetown, apóia leis para controlar esses sistemas. Mas ela diz que os legisladores têm dificuldade em acompanhar a tecnologia.
“Um dos desafios do reconhecimento de rosto é sua adoção incrivelmente rápida, graças aos bancos de dados existentes. Nossos rostos estavam muito iluminados”, diz ela. “Ao contrário das impressões digitais, que há muito tempo têm regras de coleta de dados, ainda não há regulamentação para tecnologias de reconhecimento facial.”
Por Jeff John Roberts
Traduzido por: Ekaterina Egina
Editado por: Sergey Razumov
