Artigo do INESC TEC que mostra viés em modelos de linguagem ganha prémio em conferência IEEE

Um artigo científico sobre viés cognitivo em grandes modelos de linguagem (LLM) liderado pelo INESC TEC foi distinguido entre mais de 1000 submissões, numa das maiores conferências da IEEE, na China.  

O trabalho de investigação avança que o viés de confirmação em Sistemas de Apoio à Decisão Clínica é transversal a vários modelos, “variando de 15% a 67%”, e foi reconhecido com o prémio de “Best Conference Paper Award” na CSCWD – Conference on Computer Supported Cooperative Work in Design.  

O investigador do INESC TEC Rafael Ris-Ala é o autor principal do artigo intitulado Confirmation Bias in Large Language Models: Risks for Clinical Decision Support Systems, que será publicado em breve. O paper conta com coautoria dos investigadores do INESC TEC Gonçalo Gonçalves, Dennis Paulino, Thiago Netto, Diogo Guimarães, Olavo Teixeira, Artur Rocha e Hugo Paredes.    

“Este resultado foi possível graças ao apoio e à colaboração entre o INESC TEC, a Universidade de Trás-os-Montes e Alto Douro (UTAD), a Universidade Federal do Rio de Janeiro (UFRJ), do Brasil, e a Universidade de Cabo Verde/RS2Lab”, adianta Rafael Ris-Ala.  

Os investigadores argumentam, no artigo, que o enviesamento nos LLM pode ser fruto da “base de dados, da arquitetura Transformer, da configuração ou da própria engenharia de prompt”.    

“Particularmente no contexto da saúde, onde essa tecnologia integra Sistemas de Apoio à Decisão Clínica (SADC), o processo de validação torna-se essencial para garantir a segurança do paciente e a confiabilidade da tomada de decisão com o apoio da Inteligência Artificial”, sustenta o investigador do INESC TEC.  

A 29.ª edição da CSCWD 2026 teve lugar na cidade chinesa de Fuzhou entre 13 e 15 de maio e discutiu temas estratégicos como inteligência artificial, Internet das Coisas, indústria 4.0 e segurança digital. Organizada pela Universidade de Fuyao, reforçou a necessidade da cooperação multidisciplinar no desenvolvimento de tecnologias e sistemas cada vez mais complexos.  

O investigador do INESC TEC e docente na UTAD Hugo Paredes esteve em Fuzhou em representação dos autores e trouxe a distinção para Portugal.