Publicidade

Pesquisadores criam ferramenta para burlar sistemas de reconhecimento facial

Por| 03 de Agosto de 2020 às 17h17

Link copiado!

Yahoo News
Yahoo News

Pesquisadores da Universidade de Chicago, nos Estados Unidos, estão desenvolvendo um método capaz de burlar plataformas que utilizem reconhecimento facial. A ideia da ferramenta, que já está disponível para desenvolvedores e deve ser lançada em breve para usuários finais, é bagunçar os parâmetros dos pixels de uma imagem de forma quase imperceptível aos olhos das pessoas, mas que impeçam a identificação por sistemas de vigilância.

O Fawkes, como foi batizada a solução, é focado em sistemas que usam imagens para criar um banco de dados que, mais tarde, é usado para identificar pessoas em imagens de câmeras de segurança. Tais tecnologias reconstroem o rosto das pessoas a partir das fotografias, e é justamente isso que a plataforma tenta impedir ao embaralhar os pixels, inserindo características faciais de terceiros e impedindo a criação desse tipo de perfil facial.

Em sua prova de conceito, os pesquisadores utilizaram fotos da atriz Gwyneth Paltrow embaralhadas com características de imagens do ator Patrick Dempsey. O Fawkes foi colocado à prova em sistemas de reconhecimento facial usados por empresas como Microsoft, Amazon e Megvii, da China, e obteve sucesso nos três experimentos, com o processo de embaralhamento impedindo que as plataformas reconhecessem o rosto da intérprete, mesmo após a análise de diferentes imagens dela, a partir de ângulos variados e em diferentes características de qualidade, fundo e iluminação.

Continua após a publicidade

Segundo o estudo, o Fawkes também é capaz de burlar a plataforma de reconhecimento facial do Facebook e do Google Fotos, utilizados pelas companhias para criar correspondências instantâneas em fotos hospedadas nos serviços e fazer sugestões de marcação. O inimigo claro dos pesquisadores, entretanto, é a Clearview AI, startup que coletou bilhões de fotografias de pessoas internet afora para criar uma ferramenta de vigilância policial que ligaria indivíduos flagrados por câmeras a perfis em redes sociais.

A ideia do estudo da Universidade de Chicago, então, seria impedir a criação desse banco de dados. O algoritmo do Fawkes funciona a partir de uma coleção de milhares de fotos de celebridades, fazendo correspondências com o que seria a pessoa “menos parecida possível” com o retratado. Como a plataforma não faz distinção de gênero, como forma de dificultar ainda mais possíveis detecções, os resultados nem sempre são sutis o bastante, com pessoas sem barba recebendo “sujeiras” no rosto e maquiagens exacerbadas deixando alguns indivíduos com a aparência semelhante à de um panda.

Quando tudo funciona, entretanto, o resultado chega a ser impressionante — apesar de, em um olhar mais atento, ser possível perceber que há algo de esquisito na imagem. Trata-se, claro, de um sistema ainda em desenvolvimento e que deve ganhar características adicionais no futuro. A ideia dos responsáveis é conscientizar os usuários e, quem sabe, fazer com que eles entendam a necessidade de disfarçar as imagens postadas na internet.

Continua após a publicidade

Tarde demais

Os responsáveis pela Clearview AI, entretanto, minimizam a eficácia da plataforma. Em entrevista ao jornal americano The New York Times, Hoan Ton-That, CEO da startup, afirmou ser tarde demais para que um sistema desse tipo seja eficiente, já que a quantidade de fotos hospedadas na rede e já capturadas pela plataforma é gigantesca. Além disso, ele afirma que testes internos comprovaram que o embaralhamento feito pelo Fawkes não foi capaz de impedir a criação de um perfil facial como o usado pelo algoritmo.

Já Joseph Atick, pioneiro em sistemas de reconhecimento facial, acredita que a única alternativa possível diante do estado atual destas tecnologias é que legisladores e governos garantam o direito das pessoas ao anonimato contra plataformas desse tipo. Toda tecnologia que tente suplantar os algoritmos existentes “vai perder”, afirma ele, já que estamos falando de um jogo de gato e rato no qual o poder das corporações sempre terá vantagem.

Continua após a publicidade

Apesar disso, não é como se sistemas como o Fawkes fossem inúteis. A professora de direito Elizabeth Joh, da Universidade da Califórnia, afirma que plataformas como estas são como um grito de protesto e que, na união de tais sistemas com legislações fortes que privilegiem a privacidade, se cria um ambiente em que recursos de reconhecimento facial são usados de maneira legítima e não de forma ostensiva.

Ela indica, por exemplo, que empresas como o Facebook deveriam se posicionar, adicionando sistemas como o Fawkes automaticamente aos uploads de imagens nas plataformas. E a surpresa, ao final da reportagem do The New York Times, é a declaração da rede social de que, apesar de utilizar um algoritmo desse tipo para identificar usuários em fotos, também trabalha na aplicação de tecnologias assim para aumentar a privacidade de seus utilizadores diante de terceiros.

Fonte: The New York Times