Avaliando vieses de gênero e raça no reconhecimento facial automático em modelos de aprendizagem profunda

Abstract

Modelos de detecção e reconhecimento facial já são uma realidade nos dias atuais, porém existem ressalvas para sua utilização. Dentre estas ressalvas, surgem a baixa na acurácia do reconhecimento e identificação de faces em diferentes raças e gêneros, identificada como um possível viés no processo de reconhecimento facial automático. Com a intenção de demonstrar e procurar uma explicação para um possível existência destes vieses, esse trabalho propõe a realização do uso dos principais modelos e bibliotecas treinados na tarefa de reconhecimento facial, disponibilizados em (SERENGIL, S. I.; OZPINAR, 2020a). No uso dos modelos de detectores faciais (localizar a região da face na imagem) para identificar diversas raças em nos dois gêneros, masculino e feminino, o resultado teve pior desempenho para a raça indiana, o gênero feminino e no agrupamento de mulheres negras, indianas e homens indianos. Já no processo de reconhecimento facial entre duas imagens analisadas, em uma das faces é realizada uma cobertura em cada característica essencial da face: boca, olho direito, olho esquerdo e nariz. Neste processo foi feito para avaliar a influência de cada característica de modo a tentar identificar a possível relação entre alguma destas características e os agrupamentos com piores desempenhos demonstrados na detecção facial obtidos neste trabalho. Em todos os agrupamentos de raças e gêneros a cobertura do nariz resultou na redução da acurácia no reconhecimento facial, sendo um resultado geral, não podendo ser usado para analisar o viés em uma dada classe específica. Estudos feitos neste trabalho sobre como e quando foram treinados apontam como principal problema como bases de dados não-balanceadas e com pouca diversidade utilizadas para treinamento dos modelos, podem ser uma das principais fatores influenciadores no processo de redução da acurácia para estes grupamentos.