NextPit

Softwares de reconhecimento facial ainda são bastante falhos com negros

Face ID iPhone X
© Apple

Reconhecimento facial é um tema que é bastante comum atualmente, pois se trata de um mecanismo que está presente nas mãos daqueles que utilizam diferentes modelos de smartphones. De softwares do Google que classificam gêneros em fotos, passando pelo hardware capaz de reconhecer usuário como forma de desbloqueio, o reconhecimento facial e a Inteligência Artificial são duas tecnologias que andam de mãos dadas. Mesmo com o avanço tecnológico ao longo dos últimos anos, ainda são frequentes os casos de erros na identificação de pessoas de pele negra, conforme mostra uma pesquisa do MIT divulgada pelo O Globo.

NextPit Logo white on transparent Background
NEXTPITTV

Os casos envolvendo problemas com coloração de pele e raça a partir de software de reconhecimento facial são muitos. Os exemplos mais memoráveis aconteceram com o Google e com a HP, quando seus sistemas não foram capazes de catalogar e reconhecer o rosto de pessoas negras.

No caso do Google, com o Fotos, foi atribuído a figura de uma mulher negra a tag "gorila". É claro que essas particularidades não colocam em jogo o futuro do Aprendizado de Máquina, da Inteligência Artificial ou dos softwares de reconhecimento facial. Mas é bastante preocupante quando lembramos que esses sistemas também são usados em computadores e instituições com a finalidade de contribuir em investigações criminais, por exemplo.

O MIT (Instituto de Tecnologia de Massachussetts) colocou à prova três grandes softwares comerciais de reconhecimento facial para entender como o mecanismo consegue diferenciar raças e gêneros. Os testes feitos com homens e mulheres brancos não apresentaram erros superiores a 0,8% nos três sistemas testados, enquanto que com mulheres negras essa margem subiu para 20% em um dos softwares e para mais de 34% nos outros dois. Em todos os testes feitos as taxas de erros foram maiores para mulheres que para homens e, com relação ao tom de pele, maiores para negros que para brancos.

O instituo conseguiu constatar que os softwares perdiam precisão quando condições adversas de gênero eram apresentadas, escolhendo aleatoriamente os perfis com tons de pele mais escuros. A pesquisa utilizou um banco de dados com 1,2 mil imagens que foram classificadas por um cirurgião dermatológico que utilizou a escala de Fitzpatrick como base de classificação:

  • Tipo I: pele muito clara , sempre queima, nunca bronzeia
  • Tipo II: pele clara, sempre queima e algumas vezes bronzeia
  • Tipo III: pele menos clara, algumas vezes queima e sempre bronzeia
  • Tipo IV: pele morena clara raramente queima e sempre bronzeia
  • Tipo V: pele morena escura, nunca queima e sempre bronzeia
  • Tipo VI: pele negra, nunca queima, sempre bronzeia

Para mulheres de pele negra classificadas como níveis IV,V ou VI as taxas de erros em um dos softwares foi de 20,8%, 34,5% e 34,7%, respectivamente. Nos outros dois softwares, contudo, os problemas de reconhecimento chegaram a 46,5% e 46,8%.

A pesquisa revelou que, apesar desses softwares contarem com uma base enorme de dados para aprendizado, a diversidade dos dados em si não é muito ampla. Uma das empresas que desenvolve um dos softwares testados alega que a precisão de reconhecimento do seu sistema é de 97%, contudo, a base usada pela mesma era composta 77% por homens e 83% por brancos.

A Google, que já esteve no centro dessa polêmica, já afirmou através de um engenheiro da empresa, Yonatan Zuner, que aprimora seu mecanismo de realidade aumentada frequentemente para evitar esse tipo de engano.  A vice-presidente de políticas públicas da Apple para as Américas, Cynthia Hogan, chegou a afirmar na época do lançamento do iPhone X que o banco usado pela empresa para alimentar o software de reconhecimento facial é composto por mais de 1 bilhão de imagens que compõem a rede neural do Face ID.

Que as fabricantes continuem fazendo a lição de casa bem feita!

Você já teve problemas com o reconhecimento facial?

Via O Globo

Gostou do artigo? Então compartilhe!
Comentar agora

Artigos recomendados

Os comentários favoritos dos leitores

  • Stella Dauer 20/02/2018

    Lembro também de algo que aconteceu com o Apple Watch e outros leitores de função cardíaca, que não liam direito em pele negra também.

    Mas temos que ver que, no final, a "culpa" não é da Google ou das OEMs. No geral, o que rola de verdade é que não há banco da dados no Face ID e outros porque essa tecnologia ainda não pode ser adquirida por pessoas com menos renda. E, geralmente, pessoas com menos renda são negras.

    Então e muito mais profundo do que falar sobre problemas de raça por parte das fabricantes. É um problema econômico generalizado.

  • Sidney 20/02/2018

    Se existe essa margem tão grande de erro, nem deveriam lançar os softwares. Deveriam passar por muito mais aprimoramento antes de irem para o mercado. É uma falha grave.

  • airton 20/02/2018

    Confio mais na impressão digital mesmo!
    Pessoas as vezes se confundem nas ruas imagine uma máquina, vai falhar sempre!

  • Léo Walk 20/02/2018

    Minha esposa usa a voz de confiança no Moto G4 Play dela para desbloquear o aparelho. Funciona muito bem!!! Mas o reconhecimento facial é uma tecnologia magnifica.

  • Agnaldo 20/02/2018

    Eu não consigo confiar em nada disso, pra min é só biometria o metodo infalível até que se prove o contrário

66 Comentários

Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.
Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.

  • Jofran Martins 21/02/2018 Link para o comentário

    Reconhecimento por análise sanguinea é muito mais confiável!😁


  • Leonardo Dias 21/02/2018 Link para o comentário

    Isso não tem absolutamente nada a ver com racismo por parte das empresas. Tecnologias novas precisam ser aprimoradas sempre, só isso. É um processo de aprendizagem e aprimoramento constante e, por isso, não considero um "erro" lançar um recurso que ainda não esteja absolutamente provado/testado, desde que funcione de maneira satisfatória. É um erro pensar que somos absolutamente iguais em todos os aspectos e que a etnia não pode exercer nenhuma influência em alguns aspectos de nossas vidas ou em fatores tecnológicos, como foram os casos citados. Foi até uma surpresa saber desses casos de erros envolvendo pessoas negras. No máximo havia visto alguns casos de gêmeos, parentes etc. Atualmente uso o reconhecimento facial no iPhone X sem problemas e com pouquíssimos erros, e é tão rápido e natural que eu quase não "percebo" o recurso. Que venham as melhorias.


    • Alax Ricard de Souza S. 21/02/2018 Link para o comentário

      Pra mim antes de lançar uma coisa ou um projeto deveria ser testado antes por funcionários internos por todos os tipos de etnias para não acontecer esta falha muito grande de uma pessoa negra comprar um aparelho caro e não poder usufruir da tecnologia porque o aparelho não o reconhece pessoas negras isso é um erro grave sim, porque se o projeto não esta 99% pronto então para quer lançar, isso é um erro mesmo grave por parte da fabricante.


      • Leonardo Dias 22/02/2018 Link para o comentário

        Sim. Faz sentido até certo ponto, não estou dizendo que um produto não deve ser testado. Mas você imaginaria que wearables pudessem apresentar erros de leitura em pele de pessoas negras? Eu nunca imaginei. O mais importante é que o erro foi percebido e todos parecem estar correndo para saná-lo..Em tempo, sou negro e meu iX acabou de desbloquear ao receber uma notificação, mesmo estando a cerca de uns 35º do meu rosto em cima da mesa. Esse recurso, pra mim, funciona até mesmo no escuro. Esse assunto me deixou curioso, vou buscar saber mais relatos sobre isso.


      • Alax Ricard de Souza S. 22/02/2018 Link para o comentário

        Ah, então peço desculpas pois o erro então não é generalizado com todos os tipos de pessoas negras, mais você é pessoa negra mais clara como da imagem na postagem ou é mais escura amigo.
        Eu sou pardo mais não tenho o iPhone por isso que fiz que falei isso generalizando todos os defeitos por falta teste antes do lançamento e colocar para venda.
        Mais peço até perdão se cometi um erro grave.


  • Alax Ricard de Souza S. 20/02/2018 Link para o comentário

    Precisa melhorar muito isso, pois isso se caracteriza em racismo e as fabricantes pode ser prejudicada.


  •   41
    Conta desativada 20/02/2018 Link para o comentário

    Ah, que grande novidade!!!!!


  • Paulo Ferreira 20/02/2018 Link para o comentário

    Conclusão, os 0s e os 1s são racistas.


  • J H Gouveia 20/02/2018 Link para o comentário

    prefiro o leitor digital/pin


    • Ilan E. 20/02/2018 Link para o comentário

      São mais seguros.


  • Luiz Henrique 20/02/2018 Link para o comentário

    Estão tentando empurrar essa tecnologia de reconhecimento facial "guela abaixo" sendo que ela existe há anos e continua imperfeita. Deveriam aprimorar mais antes de tentarem fazer virar tendência.


  • Deivis Schuman 20/02/2018 Link para o comentário

    E tem quem paga 7 Mil em um Smartphone pra ser um testador dessa tecnologia beta!


    • Ilan E. 20/02/2018 Link para o comentário

      Tem louco para tudo.


  • Phelipe B. 20/02/2018 Link para o comentário

    As câmeras/softwares atuais mal conseguem realizar o efeito retrato (desfoque dos segundo plano), que dirá fazer um bom trabalho com reconhecimento facial.


  • Jairo rios 20/02/2018 Link para o comentário

    Ainda prefiro a velha e boa biometria ou comando de voz


  • Edson Matheus 20/02/2018 Link para o comentário

    ha tempos q penso, a mais evolução no marketing que no hardware, compramos mais hardware q martekting, enquanto tiver bobos q vende seu aparelho depois de 6 meses, as fabricantes vão ficar na sua com seus lucros


  • Guilherme 20/02/2018 Link para o comentário

    Tecnologia vergonhosa. Não sei qual o problema em manter a biometria digital.


    • Deivis Schuman 20/02/2018 Link para o comentário

      Pois é!


    •   54
      Conta desativada 20/02/2018 Link para o comentário

      ânsia de querer tirar mais dinheiro das pessoas.

      Conta desativada


  • José Luís Silva Martiniano 20/02/2018 Link para o comentário

    Esse recurso ainda está engatinhando, falta muito para se ter um sistema confiável.

    Conta desativadaConta desativadaDeivis SchumanConta desativada


    • Deivis Schuman 20/02/2018 Link para o comentário

      Falta mesmo!


    •   54
      Conta desativada 20/02/2018 Link para o comentário

      Muito mesmo.


  • Ilan E. 20/02/2018 Link para o comentário

    Confio mais na biometria por digital, pelo menos reconhece as digitais de pessoas de todas as raças.


    • Deivis Schuman 20/02/2018 Link para o comentário

      Essa funciona bem!


    •   54
      Conta desativada 20/02/2018 Link para o comentário

      Bem melhor mesmo.


  • Sidney 20/02/2018 Link para o comentário

    Se existe essa margem tão grande de erro, nem deveriam lançar os softwares. Deveriam passar por muito mais aprimoramento antes de irem para o mercado. É uma falha grave.


    • Deivis Schuman 20/02/2018 Link para o comentário

      Concordo plenamente brother Sidney!
      Deveriam aprimorar primeiro ao invés de lançar uma versão beta!


      •   54
        Conta desativada 20/02/2018 Link para o comentário

        Aí vão lançar uma versão beta só para brancos? Porque os demais vão passar raiva, fica difícil isto. Também concordo, deveriam aprimorar primeiro.


    •   54
      Conta desativada 20/02/2018 Link para o comentário

      Infelizmente nesses dias atuais as coisas são feitas ou lançadas sem averiguar seu real funcionamento.


    • André Rosalen 20/02/2018 Link para o comentário

      Pois é. Mas a verdade é que as empresas precisam do marketing da inovação pra vender, e como não aparece nada muito relevante, elas empurram tecnologias em desenvolvimento como se já fosse algo pronto, e de quebra aproveitam pra testar outras bobagens, vide o FaceId da Apple e aqueles animojis... coisa ridícula.


  • airton 20/02/2018 Link para o comentário

    Confio mais na impressão digital mesmo!
    Pessoas as vezes se confundem nas ruas imagine uma máquina, vai falhar sempre!


    •   54
      Conta desativada 20/02/2018 Link para o comentário

      Por isso não confio em tecnologia nenhuma, uso mais com desconfiança. Um exemplo é as travas do carro fechando pelo sistema de alarme, quantas vezes deixou uma porta aberta. Por isso sempre confiro mesmo com as mãos. Da mesma forma, não confio demasiadamente nestas inovações. Sempre falham.


  • Léo Walk 20/02/2018 Link para o comentário

    Minha esposa usa a voz de confiança no Moto G4 Play dela para desbloquear o aparelho. Funciona muito bem!!! Mas o reconhecimento facial é uma tecnologia magnifica.


    • Agnaldo 20/02/2018 Link para o comentário

      Eu não consigo confiar em nada disso, pra min é só biometria o metodo infalível até que se prove o contrário


      • Sidney 20/02/2018 Link para o comentário

        Também acho. E , se perguntar para uma pessoa de pele escura, com certeza não vai achar magnifica não, brother Léo.


      • Léo Walk 20/02/2018 Link para o comentário

        Pois é, Sidney, mas não esqueçamos que essa tecnologia está sendo aprimorada a cada ano justamente pra não acontecer os erros do presente.


      • Sidney 20/02/2018 Link para o comentário

        E verdade. Mas acho que só deveriam liberar quando já estivesse aprimorada. Se eu fosse negro não gostaria nada disso.


      • Giordano Santiago 20/02/2018 Link para o comentário

        Eu sou negro. Não ligo pra isso. Mas não ligo mesmo. Ligar pra isso seria como legitimar uma inferioridade, que, eu não possuo.


    • Marcelo Neri 20/02/2018 Link para o comentário

      Principalmente o reconhecimento facial do OnePlus 5T Léo, o melhor e mais rápido do mercado até o momento!


    • Deivis Schuman 20/02/2018 Link para o comentário

      Pra mim o método infalível é o lendário PIN! ^^


      • Léo Walk 20/02/2018 Link para o comentário

        Quando eu tinha um Moto G4 Play, eu usava o desbloqueio por um dispositivo de segurança via bluetooth. No meu caso a Mi Band 2 e em casa, eu configurava a minha rede wifi como ponto seguro. Nisso, quando o meu aparelho estava em um desses pontos seguros, o PIN era desativado e o aparelho poderia ser desbloqueado sem nenhum problema. Gostava muito desse serviço até comprar o Muv Up com biometria.


      • Sidney 20/02/2018 Link para o comentário

        Para mim é a digital. Não tem igual. Rimou e ficou legal...kkkkk


  • Agnaldo 20/02/2018 Link para o comentário

    Não demora as oems receberem a visita do amigo processinho


  • Jeffersom Benvindo 20/02/2018 Link para o comentário

    Minha mi band não lê meus batimentos cardiacos por esse motivo kkk


  • Stella Dauer 20/02/2018 Link para o comentário

    Lembro também de algo que aconteceu com o Apple Watch e outros leitores de função cardíaca, que não liam direito em pele negra também.

    Mas temos que ver que, no final, a "culpa" não é da Google ou das OEMs. No geral, o que rola de verdade é que não há banco da dados no Face ID e outros porque essa tecnologia ainda não pode ser adquirida por pessoas com menos renda. E, geralmente, pessoas com menos renda são negras.

    Então e muito mais profundo do que falar sobre problemas de raça por parte das fabricantes. É um problema econômico generalizado.


    • Sidney 20/02/2018 Link para o comentário

      Isso é verdade, mas eles deviam intensificar os testes com pessoas de pele negra voluntárias, por exemplo.


    • Tiago P.
      • Blogger
      20/02/2018 Link para o comentário

      Mesma coisa acontece com a MI Band 2, teve muita noticia em sites sobre isso.


    • Felipe de Carvalho 21/02/2018 Link para o comentário

      Desta vez discordo de sua opinião, Stella. Noto que em sua análise, você sugere que os bancos de dados são compostos por informações dos consumidores, razão pela qual você faz a relação da "cor de pele x capacidade de renda", para concluir que o número de pessoas com a pele negra tem menor acesso aos produtos, e logo menor inclusão no banco de dados.

      Em que pese eu discordar categoricamente da relação "cor de pele x capacidade de renda", acreditando que sua conclusão é generalista e ultrapassada em face da distribuição de renda atual no mundo (não podemos tratar apenas de Brasil, por óbvio), tenho outras considerações a fazer.

      Acredito que a alimentação dos bancos de dados não se dá através do cadastro dos consumidores, e sim através de dados inseridos pelos desenvolvedores de pessoas aleatórias (talvez, dados de redes sociais públicas). Fato é, que conforme informado pela Apple, "o software de reconhecimento facial é composto por mais de 1 bilhão de imagens que compõem a rede neural do Face ID", todavia, mesmo que somassem todos os produtos já comercializados pela Apple na história, não se alcança tal número de usuários (nem perto).

      Portanto, descarto sua tese sobre cadastro de consumidores e relação com renda, e fico imaginando ainda, por quanto tempo você refletiu antes de criar tal tese.

      Ademais, no ápice da minha incapacidade técnica sobre o assunto, presumo que as dificuldades em reconhecimento da pele negra, se dê por 2 fatores:

      1º Fator: Cores escuras refletem menos luz e dificultam a percepção nítida de pequenos detalhes. Isso pode ser observado em roupas, por exemplo, naquelas de cor escura é muito mais difícil de se observar as linhas e fios, que em uma roupa de cor clara. Na pele também é possível observar tal fato, em uma pessoa de pele mais clara, mostram-se mais evidentes traços, marcas e linhas de expressão. Dispensando a análise se a pele negra é mais ou menos propensa a apresentar linhas de expressão, afirmo que comparando duas pessoas que possuem tais linhas, mas com cor de pele diferentes, naquela de cor clara tais detalhes são mais perceptíveis.

      2º Fator: Se tratando de tons de pele mais claros, há centenas de etnias diferentes, que trazem traços faciais muitíssimo distintos, mas que carregam tons de pele parecidos. Em escala de cor, podemos encontrar japoneses, uruguaios e alemães com o mesmo tom de pele, mas com os traços faciais absurdamente diferentes. Por outro lado, as peles negras possuem traços menos distintos, mais parecidos entre si, em razão da imensa maioria possuir traços étnicos africanos homogeneizados (não todos claro, mas a grande maioria, por questões históricas não pertinentes no momento). Portanto, não obstante os desenvolvedores alimentarem os bancos de dados com menos imagens negras que brancas, as poucas que utilizam ainda possuem uma variação menor entre si.

      Gosto muito de suas postagens Stella, mas acho que você "falou abobrinha" agora.


      • Leo DG 25/02/2018 Link para o comentário

        Não haveria resposta melhor. Excelente análise, com exceção da Stella ter falado abobrinha, ela apenas foi curta demais em sua opinião, mas ainda assim, uma opinião. Sua análise foi perfeita, penso ser esse o motivo mesmo.


      • Alax Ricard de Souza S. 27/02/2018 Link para o comentário

        Hum


  • Henrique P. 19/02/2018 Link para o comentário

    Esquerdistas, feministas, e defensores dos direitos humanos extremistas, e outras pessoas que são de extremissíma posição dirão que é racismo por parte das OEMs
    :-P...


  •   54
    Conta desativada 19/02/2018 Link para o comentário

    Ainda não usei o reconhecimento facial. Mais não é nada bom isso de não reconhecer.


  •   84
    Conta desativada 19/02/2018 Link para o comentário

    Com negros e asiaticos ja cansei de ve videos do iphone X sendo desbloqueado por pessoas parecidas .


  •   47
    Conta desativada 19/02/2018 Link para o comentário

    Os ajustes serão feitos com o passar do tempo, essas IA precisam aprender, mesmo que seu banco de dados seja enorme.... O problema é que a IA irá acabar pendendo pro que já está existente em sua memória e que seja o mais comum na busca de resultados.

    Resultados 100% não existem, mas o mais próximo da realidade acredito que dê pra chegar


    •   54
      Conta desativada 19/02/2018 Link para o comentário

      Verdade.


    • Deivis Schuman 20/02/2018 Link para o comentário

      Então o que precisa é mais banco de dados de pessoas negras?

Escreva um comentário:
Todas as mudanças foram salvas. Não há rascunhos salvos no seu aparelho.