NextPit

Softwares de reconhecimento facial ainda são bastante falhos com negros

Face ID iPhone X
© Apple

Reconhecimento facial é um tema que é bastante comum atualmente, pois se trata de um mecanismo que está presente nas mãos daqueles que utilizam diferentes modelos de smartphones. De softwares do Google que classificam gêneros em fotos, passando pelo hardware capaz de reconhecer usuário como forma de desbloqueio, o reconhecimento facial e a Inteligência Artificial são duas tecnologias que andam de mãos dadas. Mesmo com o avanço tecnológico ao longo dos últimos anos, ainda são frequentes os casos de erros na identificação de pessoas de pele negra, conforme mostra uma pesquisa do MIT divulgada pelo O Globo.

NextPit Logo white on transparent Background
NEXTPITTV

Os casos envolvendo problemas com coloração de pele e raça a partir de software de reconhecimento facial são muitos. Os exemplos mais memoráveis aconteceram com o Google e com a HP, quando seus sistemas não foram capazes de catalogar e reconhecer o rosto de pessoas negras.

No caso do Google, com o Fotos, foi atribuído a figura de uma mulher negra a tag "gorila". É claro que essas particularidades não colocam em jogo o futuro do Aprendizado de Máquina, da Inteligência Artificial ou dos softwares de reconhecimento facial. Mas é bastante preocupante quando lembramos que esses sistemas também são usados em computadores e instituições com a finalidade de contribuir em investigações criminais, por exemplo.

O MIT (Instituto de Tecnologia de Massachussetts) colocou à prova três grandes softwares comerciais de reconhecimento facial para entender como o mecanismo consegue diferenciar raças e gêneros. Os testes feitos com homens e mulheres brancos não apresentaram erros superiores a 0,8% nos três sistemas testados, enquanto que com mulheres negras essa margem subiu para 20% em um dos softwares e para mais de 34% nos outros dois. Em todos os testes feitos as taxas de erros foram maiores para mulheres que para homens e, com relação ao tom de pele, maiores para negros que para brancos.

O instituo conseguiu constatar que os softwares perdiam precisão quando condições adversas de gênero eram apresentadas, escolhendo aleatoriamente os perfis com tons de pele mais escuros. A pesquisa utilizou um banco de dados com 1,2 mil imagens que foram classificadas por um cirurgião dermatológico que utilizou a escala de Fitzpatrick como base de classificação:

  • Tipo I: pele muito clara , sempre queima, nunca bronzeia
  • Tipo II: pele clara, sempre queima e algumas vezes bronzeia
  • Tipo III: pele menos clara, algumas vezes queima e sempre bronzeia
  • Tipo IV: pele morena clara raramente queima e sempre bronzeia
  • Tipo V: pele morena escura, nunca queima e sempre bronzeia
  • Tipo VI: pele negra, nunca queima, sempre bronzeia

Para mulheres de pele negra classificadas como níveis IV,V ou VI as taxas de erros em um dos softwares foi de 20,8%, 34,5% e 34,7%, respectivamente. Nos outros dois softwares, contudo, os problemas de reconhecimento chegaram a 46,5% e 46,8%.

A pesquisa revelou que, apesar desses softwares contarem com uma base enorme de dados para aprendizado, a diversidade dos dados em si não é muito ampla. Uma das empresas que desenvolve um dos softwares testados alega que a precisão de reconhecimento do seu sistema é de 97%, contudo, a base usada pela mesma era composta 77% por homens e 83% por brancos.

A Google, que já esteve no centro dessa polêmica, já afirmou através de um engenheiro da empresa, Yonatan Zuner, que aprimora seu mecanismo de realidade aumentada frequentemente para evitar esse tipo de engano.  A vice-presidente de políticas públicas da Apple para as Américas, Cynthia Hogan, chegou a afirmar na época do lançamento do iPhone X que o banco usado pela empresa para alimentar o software de reconhecimento facial é composto por mais de 1 bilhão de imagens que compõem a rede neural do Face ID.

Que as fabricantes continuem fazendo a lição de casa bem feita!

Você já teve problemas com o reconhecimento facial?

Via O Globo

Gostou do artigo? Então compartilhe!
Comentar agora

Artigos recomendados

Os comentários favoritos dos leitores

  • Stella Dauer 20/02/2018

    Lembro também de algo que aconteceu com o Apple Watch e outros leitores de função cardíaca, que não liam direito em pele negra também.

    Mas temos que ver que, no final, a "culpa" não é da Google ou das OEMs. No geral, o que rola de verdade é que não há banco da dados no Face ID e outros porque essa tecnologia ainda não pode ser adquirida por pessoas com menos renda. E, geralmente, pessoas com menos renda são negras.

    Então e muito mais profundo do que falar sobre problemas de raça por parte das fabricantes. É um problema econômico generalizado.

  • Sidney 20/02/2018

    Se existe essa margem tão grande de erro, nem deveriam lançar os softwares. Deveriam passar por muito mais aprimoramento antes de irem para o mercado. É uma falha grave.

  • airton 20/02/2018

    Confio mais na impressão digital mesmo!
    Pessoas as vezes se confundem nas ruas imagine uma máquina, vai falhar sempre!

  • Léo Walk 20/02/2018

    Minha esposa usa a voz de confiança no Moto G4 Play dela para desbloquear o aparelho. Funciona muito bem!!! Mas o reconhecimento facial é uma tecnologia magnifica.

  • Agnaldo 20/02/2018

    Eu não consigo confiar em nada disso, pra min é só biometria o metodo infalível até que se prove o contrário

66 Comentários

Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.
Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.

  • Jofran Martins 21/02/2018 Link para o comentário

    Reconhecimento por análise sanguinea é muito mais confiável!😁


  • Leonardo Dias 21/02/2018 Link para o comentário

    Isso não tem absolutamente nada a ver com racismo por parte das empresas. Tecnologias novas precisam ser aprimoradas sempre, só isso. É um processo de aprendizagem e aprimoramento constante e, por isso, não considero um "erro" lançar um recurso que ainda não esteja absolutamente provado/testado, desde que funcione de maneira satisfatória. É um erro pensar que somos absolutamente iguais em todos os aspectos e que a etnia não pode exercer nenhuma influência em alguns aspectos de nossas vidas ou em fatores tecnológicos, como foram os casos citados. Foi até uma surpresa saber desses casos de erros envolvendo pessoas negras. No máximo havia visto alguns casos de gêmeos, parentes etc. Atualmente uso o reconhecimento facial no iPhone X sem problemas e com pouquíssimos erros, e é tão rápido e natural que eu quase não "percebo" o recurso. Que venham as melhorias.


    • Alax Ricard de Souza S. 21/02/2018 Link para o comentário

      Pra mim antes de lançar uma coisa ou um projeto deveria ser testado antes por funcionários internos por todos os tipos de etnias para não acontecer esta falha muito grande de uma pessoa negra comprar um aparelho caro e não poder usufruir da tecnologia porque o aparelho não o reconhece pessoas negras isso é um erro grave sim, porque se o projeto não esta 99% pronto então para quer lançar, isso é um erro mesmo grave por parte da fabricante.


      • Leonardo Dias 22/02/2018 Link para o comentário

        Sim. Faz sentido até certo ponto, não estou dizendo que um produto não deve ser testado. Mas você imaginaria que wearables pudessem apresentar erros de leitura em pele de pessoas negras? Eu nunca imaginei. O mais importante é que o erro foi percebido e todos parecem estar correndo para saná-lo..Em tempo, sou negro e meu iX acabou de desbloquear ao receber uma notificação, mesmo estando a cerca de uns 35º do meu rosto em cima da mesa. Esse recurso, pra mim, funciona até mesmo no escuro. Esse assunto me deixou curioso, vou buscar saber mais relatos sobre isso.


      • Alax Ricard de Souza S. 22/02/2018 Link para o comentário

        Ah, então peço desculpas pois o erro então não é generalizado com todos os tipos de pessoas negras, mais você é pessoa negra mais clara como da imagem na postagem ou é mais escura amigo.
        Eu sou pardo mais não tenho o iPhone por isso que fiz que falei isso generalizando todos os defeitos por falta teste antes do lançamento e colocar para venda.
        Mais peço até perdão se cometi um erro grave.


  • Alax Ricard de Souza S. 20/02/2018 Link para o comentário

    Precisa melhorar muito isso, pois isso se caracteriza em racismo e as fabricantes pode ser prejudicada.


  •   41
    Conta desativada 20/02/2018 Link para o comentário

    Ah, que grande novidade!!!!!


  • Paulo Ferreira 20/02/2018 Link para o comentário

    Conclusão, os 0s e os 1s são racistas.


  • J H Gouveia 20/02/2018 Link para o comentário

    prefiro o leitor digital/pin


    • Ilan E. 20/02/2018 Link para o comentário

      São mais seguros.


  • Luiz Henrique 20/02/2018 Link para o comentário

    Estão tentando empurrar essa tecnologia de reconhecimento facial "guela abaixo" sendo que ela existe há anos e continua imperfeita. Deveriam aprimorar mais antes de tentarem fazer virar tendência.


  • Deivis Schuman 20/02/2018 Link para o comentário

    E tem quem paga 7 Mil em um Smartphone pra ser um testador dessa tecnologia beta!


    • Ilan E. 20/02/2018 Link para o comentário

      Tem louco para tudo.


  • Phelipe B. 20/02/2018 Link para o comentário

    As câmeras/softwares atuais mal conseguem realizar o efeito retrato (desfoque dos segundo plano), que dirá fazer um bom trabalho com reconhecimento facial.


  • Jairo rios 20/02/2018 Link para o comentário

    Ainda prefiro a velha e boa biometria ou comando de voz


  • Edson Matheus 20/02/2018 Link para o comentário

    ha tempos q penso, a mais evolução no marketing que no hardware, compramos mais hardware q martekting, enquanto tiver bobos q vende seu aparelho depois de 6 meses, as fabricantes vão ficar na sua com seus lucros


  • Guilherme 20/02/2018 Link para o comentário

    Tecnologia vergonhosa. Não sei qual o problema em manter a biometria digital.

Mostrar todos os comentários
Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.