O Prémio “Vencer o Adamastor” saiu de Lisboa para mostrar, pela primeira vez, que o Adamastor se vence em todo o país, nas mais diversas áreas. Sérgio Jesus venceu-o agora perante uma plateia repleta e os aplausos do Presidente da República, António José Seguro. A investigação que efetuou durante o doutoramento focou-se na “avaliação robusta de equidade e explicabilidade em sistemas de Inteligência Artificial no mundo real” e trouxe para a mesa questões como a importância de a auditar e de assegurar a justiça dos modelos.
Ainda antes de o evento começar, já Sérgio Jesus se destacava. Discreto, sorriso no rosto e conversa animada no canto do Auditório Ferreira da Silva, na Faculdade de Ciências da Universidade do Porto, o vencedor da quarta edição do prémio “Vencer o Adamastor”, promovido pelo INESC e pelo jornal Público, deixava no ar a afinidade com dois dos orientadores com quem conversava. João Gama e Rita Ribeiro, ambos investigadores do INESC TEC, juntamente com Pedro Saleiro- na altura na Feedzai, atualmente na Opnova – Pedro Bizarro, que lidera o departamento de investigação da Feedzai, foram os mentores com quem Sérgio pôde sempre contar num percurso que, mais tarde, Ana Cristina Freire, Diretora da Faculdade de Ciências da Universidade do Porto, apelidava de único. Percurso esse que contou ainda com a colaboração do professor Rayid Ghani, da Carnegie Mellon University.
Todos os olhos se fixaram na conquista de Sérgio, “na sua dedicação e esperança”. A diretora da Faculdade preferiu olhar para trás, por acreditar que “o mérito nunca é apenas um resultado, é uma longa caminhada, feita de trabalho, persistência, escolhas difíceis e da confiança de quem acredita que vale a pena continuar”.
As referências literárias inevitáveis transformaram as metáforas nas dificuldades que se debatem na atualidade, na necessidade de fazer as perguntas certas. “Não apenas as perguntas técnicas, mas as perguntas que têm consequências para a vida das pessoas”. Afinal, dizia António José Seguro, “a conversa política sobre inteligência artificial precisa de ser alimentada pelo conhecimento científico”.
Sérgio perguntou: “quando um sistema de inteligência artificial oferece uma explicação para a decisão que tomou, essa explicação é útil para o decisor ou é apenas uma forma de o sistema aparentar responsabilidade?”. E perguntou ainda: “quando um algoritmo erra, porque erra sempre, erra da mesma forma para toda a gente ou erra de formas diferentes para grupos diferentes, concentrando o ónus nos mesmos que já carregam mais?”
O presidente da República veio ao Porto dizer aos portugueses que as perguntas que levaram Sérgio Jesus a vencer a quarta edição do prémio “são perguntas de justiça, são perguntas que semeiam democracia” e que o simples facto de “serem feitas por um investigador português, na cidade do Porto, em colaboração com as melhores universidades do mundo, publicadas nas revistas científicas mais exigentes da sua área, diz-nos algo sobre o país que somos e sobre o país que podemos ser”.
Ferramenta de intervenção
Na era da Inteligência artificial, os modelos de linguagem tomam decisões a cada segundo. A área “está a explodir em termos de utilização”, como diz Sérgio Jesus, do mesmo púlpito de onde agradece o apoio dos orientadores. “Já está a ser utilizada em sistemas financeiros, já está a ser utilizada como apoio a diagnóstico médico e também como ferramenta de filtragem de candidatos para um emprego”. Com esta utilização, cresce também a informação sobre os seus perigos, nomeadamente múltiplos casos de discriminação, em que os sistemas, sem intenção explícita, acabam por penalizar determinados grupos.
O diretor do jornal Público, David Pontes, puxou pelos princípios “éticos e responsáveis”, moralmente exigidos e democraticamente necessários neste contexto. A ciência, garante, “tem uma voz e uma missão que transforma a busca de conhecimento numa poderosa ferramenta de intervenção”. Sérgio Jesus, sentado no lugar mais à esquerda da primeira fila, ouvia, atento, elogios e descrições detalhadas do impacto de um trabalho ao qual se dedicou anos.
David Pontes destacava a investigação que se esforça por “levantar barreiras e acordar consciências para a utilização correta de tecnologias que se vão tornar omnipresentes e irão moldar o mundo nos próximos anos”. Pedro Nuno Teixeira, o novo reitor da Universidade do Porto, focava-se na resposta perante a Inteligência Artificial, que, acredita, “não deve ser dominada nem pelo medo, nem pelo fascínio, mas sim pelo desenvolvimento da nossa capacidade de compreensão crítica dessas realidades”.
Numa cerimónia onde as opiniões dos diversos intervenientes se misturaram com os factos científicos que Sérgio Jesus tornou impossível ignorar, o reitor destacou-lhe a relevância. Falou de como demonstrar cientificamente os lapsos e as injustiças de uma ferramenta com presença crescente nas mais diversas áreas é, em si, uma forma de contribuir para o seu aperfeiçoamento, tornando o seu uso mais responsável e ético.
A verdade é que “os modelos de inteligência artificial generativa e a sua aplicação estão a mudar a sociedade”, como dizia Helena Canhão, Secretária de Estado da Educação, Ciência e Inovação.
Tanto, que Sérgio explicou a pertinência do trabalho premiado contrapondo com o que é feito atualmente. Enquanto a resposta habitual perante a discriminação algorítmica passa por corrigir vieses já identificados nos modelos, Sérgio quis ir mais longe, aplicando à IA a lógica dos stress tests usados em engenharia de software, testando os sistemas até ao ponto de falha, sendo aqui a discriminação o critério de falha. Para isso, pegou em dados reais e exacerbou artificialmente três tipos de vieses que podem ocorrer no mundo real. “No primeiro, tentámos reduzir a representação de um grupo: por exemplo se tivéssemos dados equilibrados entre homens e mulheres, reduzíamos para 5% os dados das mulheres”, referiu.
No segundo, inspirado no trabalho da Feedzai em deteção de fraude, aumentaram de forma desproporcional a taxa de fraude atribuída a um grupo específico. No terceiro, tornaram artificialmente mais ambígua e difícil a decisão do modelo apenas para um dos grupos.
Ao testar vários métodos de “IA justa” contra estes cenários, Sérgio percebeu que “nenhum dos métodos era capaz de resolver todos estes tipos de vieses”. A conclusão, garante, é que os modelos precisam de ser testados contra diferentes formas de enviesamento para revelar pontos de falha específicos, e que aplicar um algoritmo de justiça não garante, por si só, um resultado justo.
A investigação incluiu ainda a questão da explicabilidade dos modelos, com Sérgio a defender que a avaliação deve focar-se no impacto real das explicações nas decisões das pessoas, e não apenas em indicadores indiretos.
Mas importante é também o futuro. Arlindo Oliveira, Presidente do INESC, projetou-o com base no objetivo definido no passado: “O modelo pioneiro proposto pelo INESC, de criação de instituições científicas e técnicas privadas e sem fins lucrativos permitiu ultrapassar muitas das limitações, à data, do sistema científico e universitário da altura. Esse modelo veio a vingar e foi adotado por muitas instituições que hoje existem, prosperaram e muito desenvolveram o sistema científico nacional”.
O presidente da República voltou a Camões. Lembrou que o Adamastor de hoje não é o mesmo d’Os Lusíadas. “O Adamastor muda sempre de forma, não desaparece. Nunca desaparece, mas tem sempre um nome diferente. Hoje chama-se opacidade. Chama-se caixa negra. Chama-se algoritmo que decide sem explicar. E é por isso que precisamos sempre de quem tenha a coragem e o rigor de o enfrentar”.
Sérgio Jesus teve. Pela frente vê, agora, dois grandes desafios: adaptar estas avaliações a modelos de âmbito muito mais alargado, como os grandes modelos de linguagem, e democratizar estes métodos de avaliação, “para que toda a gente consiga avaliar os seus modelos de forma mais completa e robusta para que não haja risco quando estão abertos ao público”.
Vivemos, hoje, momentos em que nem sempre a sociedade sabe a excelência da investigação que se faz em Portugal. E “uma sociedade que não conhece as suas capacidades, não consegue fazer escolhas informadas sobre o seu futuro”, acredita Seguro.
E é como quem vence o próprio gigante que o Presidente da República remata: “o prémio Vencer o Adamastor existe para corrigir essa invisibilidade, para dizer em voz alta que há investigadores portugueses a trabalhar na fronteira das questões mais decisivas do nosso tempo. Que não precisamos de ir buscar fora o que temos dentro e que a ciência portuguesa não é apenas capaz de competir com o mundo, é capaz de liderar as perguntas que o mundo ainda não sabe fazer”.
O júri do prémio foi liderado por José Tribolet, fundador do INESC, e integra personalidades do INESC TEC, incluindo João Peças Lopes, José Carlos Marques dos Santos e Pedro Guedes de Oliveira.
Notícias, atualidade, curiosidades e muito mais sobre o INESC TEC e a sua comunidade!
