Uma tese de mestrado e um artigo científico, ambos vencedores de prémios e que tocam numa das principais preocupações quando se fala de investigação em inteligência artificial (IA): o viés presente nos modelos de machine learning. Inês Martins e Eduarda Caldeira estão a estudar soluções para sistemas de inteligência artificial mais inclusivos, transparentes, justos e éticos.
“Evaluating the Impact of Pulse Oximetry Bias in Machine Learning under Counterfactual Thinking” é o título do artigo de Inês Martins, que venceu o “Best Student Paper” no MICCAI 2025, com o objetivo de avaliar os dispositivos médicos com viés, como oxímetros de pulso, e que afetam o desempenho de modelos de machine learning (ML) utilizados em cuidados de saúde. Como? Foi criada uma comparação “mundo ideal” (SaO₂ sem viés) versus “mundo real” (SpO₂ com viés) e utilizou-se um conjunto de dados de saúde para treinar modelos de ML em tarefas como previsão de mortalidade hospitalar e falhas de órgãos. Concluiu-se que os oxímetros de pulso tendem a superestimar os níveis de oxigênio em pessoas com pele mais escura, devido a limitações na forma como absorvem luz.
“O nosso trabalho veio reforçar resultados de estudos anteriores que sugeriam que as leituras enviesadas dos oxímetros de pulso podem levar a resultados adversos e a desigualdades nos diagnósticos clínicos. Mostra ainda como estas podem exacerbar as disparidades existentes em populações mais vulneráveis, se utilizadas em modelos de ML sem o devido cuidado”, explica Inês Martins.
A solução passa por desenvolver novas abordagens, como algoritmos que corrijam ou considerem esses vieses. Estas abordagens são facilmente adaptáveis a outros dispositivos, como termómetros, e podem ser usadas para criar sistemas de IA mais justos e transparentes. “A ferramenta desenvolvida poderá ser valiosa na promoção de soluções de ML mais justas na área da saúde, uma vez que a nossa abordagem contra factual aumenta a transparência e a explicabilidade da degradação do desempenho entre subgrupos de doentes”, acrescenta.
Já Eduarda Caldeira quer reduzir o viés racial em sistemas de reconhecimento facial através de uma abordagem inovadora de knowledge distillation (transferência de conhecimento). A tese de mestrado “Adapting Biased Teachers for Fair Knowledge Distillation in Face Recognition” venceu o Prémio de Melhor Dissertação de Mestrado, uma distinção atribuída anualmente durante o evento RecPad pela Associação Portuguesa de Reconhecimento de Padrões. A tese teve como foco principal a criação de um modelo de reconhecimento facial mais justo, que tenha um desempenho equilibrado entre diferentes grupos étnicos, reduzindo o viés racial sem comprometer a precisão geral.
“É muito comum estes modelos terem um nível de desempenho excelente no geral, mas, quando analisamos em detalhe, é fácil de verificar que a sua performance é significativamente mais reduzida em minorias étnicas. E, num mundo ideal, queremos que o modelo funcione igualmente bem para toda a gente”, adianta a investigadora.
Há já vários trabalhos desenvolvidos nesta área que, em certa medida, podem contribuir para mitigar as discrepâncias, nomeadamente raciais. O que torna a abordagem de Eduarda inovadora é o facto de usar a transferência de conhecimento: “nesta estratégia, um ou mais modelos “professores” são responsáveis por guiar o modelo final, o “aluno”, durante a sua aprendizagem, encaminhando-o numa direção desejada. Neste caso, usei quatro “professores” diferentes, cada um treinado em imagens de indivíduos de uma etnia específica. Isto garante que os modelos “professores” aprendem a etnia em causa com confiança, e podem auxiliar o “aluno” na sua área de especialização, durante o seu processo de aprendizagem”. Desta forma, introduz-se uma forma única de combinar múltiplos modelos especializados para melhorar a imparcialidade e reduzir desigualdades raciais em aplicações reais de reconhecimento facial.
Tanto Eduarda como Inês fizeram as suas teses de mestrado no INESC TEC e acreditam que os reconhecimentos recebidos podem abrir caminho nas suas áreas de investigação.
Notícias, atualidade, curiosidades e muito mais sobre o INESC TEC e a sua comunidade!
