Trabalho de investigação conclui que a utilização de modelos de inteligência artificial comprimidos para reconhecimento facial pode resultar num viés racial. O estudo, que identifica também uma potencial estratégia para resposta a esta problemática, através do uso de dados sintéticos, foi distinguido com um Best Paper Award na conferência internacional BIOSIG.
O artigo “Compressed Models Decompress Race Biases: What Quantized ModelsForget for Fair Face Recognition” da autoria de Pedro Neto, Eduarda Caldeira, Jaime Cardoso e Ana Sequeira, investigadores do INESC TEC, foi distinguido na edição de 2023 da International Conference of the Biometrics Special Interest Group (BIOSIG). A equipa estudou o impacto da utilização de versões comprimidas de algoritmos de reconhecimento facial e denotou que “o desfasamento de desempenho que resulta da compressão não é igual para todos os grupos étnicos”.
Por outras palavras, esta análise permitiu aos investigadores perceber que os modelos comprimidos demonstram uma tendência para “esquecer” com maior facilidade elementos relacionados com determinados grupos étnicos. “Desta forma, certas etnias são notoriamente prejudicadas. Além disso, a compressão leva a uma maior taxa de erro do algoritmo na verificação de identidade intra-classe étnica”, refere Pedro Neto.
Mas, se se verifica este desfasamento, porque são consideradas versões comprimidas dos algoritmos em vez das originais? O investigador do INESC TEC explica: “os modelos de deep learning são, cada vez mais, modelos de elevada complexidade e bastante exigentes relativamente ao poder computacional e à memória. Desta forma, a compressão é essencial para que se consiga utilizar estes modelos de inteligência artificial em sistemas com restrições computacionais e de memória”. Ou seja, para usar os algoritmos em máquinas de menor capacidade, é necessário convertê-los em versões mais leves e menos exigentes. “Este processo apresenta, como esperado, um trade-off entre eficiência e precisão”, acrescenta o investigador.
Daí a necessidade de analisar as versões originais e comprimidas para perceber as implicações da conversão. O estudo concluiu que a compressão pode levar a um viés racial. No entanto, esta equipa de investigadores do INESC TEC já está a trabalhar numa possível solução. “Neste trabalho fomos capazes de identificar o problema e detetar uma potencial estratégia de mitigação”, avança Pedro Neto.
Esta estratégia poderá passar, segundo o investigador, pela utilização de um dataset – isto é, um conjunto de dados – sintético de faces. “Mesmo que não seja equilibrado em termos de etnias, promove um modelo resultante com uma performance mais justa e equilibrada entre os diferentes grupos. No futuro, gostaríamos de continuar a fazer avanços nestas estratégias de mitigação e a propor novos algoritmos de compressão que promovam fairness entre os diferentes grupos”, conta.
Este reconhecimento alcançado na conferência internacional BIOSIG, com um Best Paper Award, reforça a vontade de avançar com uma solução para o impacto da compressão de algoritmos de reconhecimento facial. “Ver o trabalho distinguido no meio de tantos outros trabalhos extraordinários foi uma experiência gratificante e que permite validar os esforços que temos dedicado a esta linha de investigação”, remata o investigador.
A BIOSIG decorreu em setembro, na cidade de Darmstadt, na Alemanha.
Notícias, atualidade, curiosidades e muito mais sobre o INESC TEC e a sua comunidade!
