No futuro da inteligência artificial, o protagonista ainda é humano

Imagine que precisa de fazer uma pesquisa na web. Usa um navegador ou recorre a um chatbot de inteligência artificial (IA)?

 De acordo com o artigo “Will AI Destroy the World Wide Web?”, publicado na Communications of the ACM, as pessoas estão a deixar de visitar páginas web porque preferem obter respostas geradas por grandes modelos de linguagem (Large Language Models – LLM). O problema? Isso pode destruir web como nós a conhecemos:  pessoas a escreveram em blogues, a responderam em fóruns e a partilharam conhecimento. Há um ecossistema que foi mantido durante mais de três décadas, construído sobre o modelo económico de “tráfego gera dinheiro”. Quando deixamos de fazer uma pesquisa exaustiva (sim, sabemos que ter oito separadores abertos no browser pode ser aborrecido) e passamos a confiar numa só resposta, os anunciantes vão deixar de querer pagar, quem escreve online perde o incentivo para continuar a publicar e, com o tempo, deixaremos de ter conteúdo humano. Em junho de 2026, a Forbes noticiou que mais de metade do tráfego da web já é gerado por bots e agentes de IA que pesquisam, comparam e compram sem nunca verem um anúncio.

Este cenário ganhou uma nova dimensão com o lançamento público do ChatGPT, pela OpenAI, em novembro de 2022. Em poucos meses, a inteligência artificial generativa deixou os laboratórios para entrar nas salas de aula, nos escritórios, nos hospitais e nas casas de milhões de pessoas. O AI Index Report, publicado anualmente pelo Stanford Institute for Human-Centered Artificial Intelligence, descreve este período como um dos momentos de adoção tecnológica mais rápidos de que há registo. Tarefas que, até há pouco tempo, pareciam exclusivamente humanas passaram a poder ser automatizadas ou apoiadas por sistemas de IA, empresas reformularam processos de trabalho, multiplicaram-se as discussões sobre o futuro do trabalho, da educação, da criatividade e da produção de conhecimento.

Um crescimento que trouxe consigo uma nova realidade: a tecnologia evoluiu mais depressa do que a nossa capacidade de compreender as suas implicações. E quanto mais evolui a inteligência artificial, mais importante se torna o fator humano. É difícil não pensar em Terminator, de James Cameron. Não porque estejamos à beira de uma revolta das máquinas, mas porque o filme mostra o que acontece quando uma tecnologia deixa de ser concebida em função das pessoas e passa a evoluir segundo a sua própria lógica.

O que significa, então, desenvolver uma IA verdadeiramente centrada no humano? Vamos descobrir?

Entramos num consultório médico do futuro. A primeira coisa a desaparecer não é o médico; é o computador. O ecrã deixa de disputar a atenção com o paciente, o médico mantém o olhar na pessoa à sua frente, enquanto um sistema de IA escuta, organiza a informação clínica, atualiza o processo e prepara um resumo da consulta.

Para o investigador do INESC TEC Hugo Paredes este cenário (ainda que onírico) representa muito mais do que uma evolução tecnológica. É uma inversão de paradigma. Durante décadas, fomos nós que aprendemos a adaptar-nos às máquinas; agora, espera-se que sejam as máquinas a adaptar-se às pessoas.

“Preencher campos, escrever notas ou navegar em aplicações não faz parte do verdadeiro trabalho de um médico.  A tecnologia deve estar presente, deve ser possível interagir com ela, mas deixar de ser o centro da atenção do profissional. Não queremos uma tecnologia invasiva, constantemente a interromper-nos, como acontece hoje com muitos sistemas. Queremos que esteja lá apenas quando faz falta e que desapareça quando o mais importante é a interação entre pessoas”, defende o também docente da Universidade de Trás-os-Montes e Alto Douro (UTAD).

Embora a expressão Human-Centered AI tenha ganhado maior visibilidade nos últimos anos, a ideia de colocar as pessoas no centro da tecnologia não é nova (já foi chamada de tecnologia ubíqua, computação pervasiva ou seamless computing). Um dos seus principais impulsionadores é Ben Shneiderman, professor da Universidade de Maryland, que argumenta que os sistemas inteligentes devem reforçar a autonomia, a criatividade e a capacidade de decisão humana, em vez de procurarem substituí-las. A mesma perceção tem Carla Teixeira Lopes, investigadora do INESC TEC, que defende que a IA deve ser concebida como uma ferramenta de ampliação das capacidades humanas (augmentation), e não de automação indiscriminada.

“Estamos a falar de interfaces omnipresentes, mas invisíveis; sistemas intuitivos e fáceis de utilizar que interfiram o menos possível na relação entre as pessoas. E isso exige que estes sistemas sejam concebidos envolvendo todas as partes interessadas: investigadores, programadores, empresas, decisores políticos e, sobretudo, os utilizadores. Só assim é possível garantir que as soluções respondem às necessidades reais das pessoas. O utilizador não pode aparecer apenas no fim, para testar um sistema que já está feito”, explica. “Tem de fazer parte de todo o processo.”

Isto ganha um novo sentido e dimensão quando milhões de pessoas interagem diariamente com sistemas capazes de manter conversas aparentemente naturais, responder a perguntas complexas ou produzir textos que, à primeira vista, parecem mesmo escritos por um ser humano. Cria-se assim uma ilusão difícil de desfazer. Tal como em The Prestige, de Christopher Nolan, o truque não está na magia, mas na forma como somos levados a acreditar nela. E acontece à vista de todos: os modelos aprendem padrões a partir dos dados que lhes damos e devolvem previsões extremamente sofisticadas e coerentes. Não é magia; estamos só a olhar para o sítio errado.

Mas será que estes sistemas compreendem realmente as pessoas?

“Eu diria claramente que não”, responde Carla Teixeira Lopes. Apoiada no trabalho On the Dangers of Stochastic Parrots, publicado em 2021, a docente da Faculdade de Engenharia da Universidade do Porto explica que estes modelos produzem respostas extremamente convincentes, mas fazem-no através da identificação de padrões estatísticos aprendidos a partir de enormes volumes de texto, sem compreenderem o significado das palavras ou das ideias que articulam.

É difícil conversar durante alguns minutos com um chatbot sem cair na tentação de lhe atribuir características humanas. Mas a investigadora insiste: “Os modelos não compreendem o mundo como nós o compreendemos. O que fazem é prever, com enorme eficácia, qual é a sequência de palavras mais provável”. Isso permite gerar textos surpreendentemente naturais, mas leva a que estes sistemas continuem a cometer erros factuais, a inventar referências ou a apresentar informação incorreta. A ilusão resulta precisamente da fluidez da resposta, que nos leva a confundir linguagem convincente com compreensão, quando uma não implica necessariamente a outra.

A diferença pode parecer subtil, mas tem consequências profundas. Há um estudo que compara as interações entre pessoas com interações entre pessoas e sistemas de IA e que mostra que, nas conversas com IA existe uma taxa de concordância muito superior. “Isso gera uma sensação de satisfação. O problema é que nos podemos habituar a esse comportamento. Se passarmos demasiado tempo a conversar com sistemas que raramente nos contradizem, podemos começar a estranhar quando outra pessoa questiona as nossas ideias ou apresenta uma perspetiva diferente”, assevera Carla Teixeira Lopes.

Estamos, portanto, a confiar demasiado, sem verificar respostas e a perder o espírito crítico, o que pode reforçar enviesamentos em vez de os desafiar.

Durante décadas, uma pesquisa na web significava abrir várias páginas, comparar fontes, confrontar perspetivas e construir gradualmente uma resposta. As pessoas partilhavam experiências, esclareciam dúvidas e aprendiam umas com as outras. Era um processo mais demorado, mas também uma forma de aprendizagem. Na área da recuperação de informação existe, aliás, uma subárea que estuda precisamente esse fenómeno: search as learning. Hoje, com respostas fornecidas diretamente por sistemas de IA, esse equilíbrio altera-se.

Se colocássemos os óculos de They Live, de John Carpenter, iríamos ver a verdade:  conteúdos produzidos por IA, texto otimizado para algoritmos, publicidade disfarçada, recomendações automáticas ou informação reciclada por sucessivos modelos. A realidade digital tornou-se muito mais fragmentada e difícil de interpretar do que aquilo que vemos à superfície.

Se essa tendência continuar, poderá diminuir ainda mais o incentivo para produzir conteúdos e para partilhar experiências pessoais na web. E isso pode empobrecer o próprio ecossistema de informação.

“Começamos a entrar num ciclo em que a inteligência artificial aprende, em parte, a partir de conteúdos gerados por inteligência artificial e não por humanos. Isto é uma mudança profunda”, nota a investigadora.

Estas transformações mostram que o desafio da IA já não é apenas tecnológico, mas poderá ter impacto, na forma como interagimos com outros humanos.

“A minha maior preocupação são as futuras gerações que vão aprender desde cedo neste contexto. Há o risco de começarem a aceitar aquilo que a inteligência artificial lhes apresenta como verdade única. Fazem uma pergunta, recebem uma resposta. É cómodo, mas não estimula o pensamento”, acrescenta.

Hugo Paredes sublinha que a grande questão está mesmo na forma como vamos educar: “se até agora o espírito crítico já era importante, daqui para a frente será absolutamente essencial”. Durante muitos anos, recorda, os estudantes perguntavam porque precisavam de aprender teoria. A resposta tornou-se mais evidente do que nunca: se uma pessoa não compreender os conceitos fundamentais, não consegue avaliar criticamente aquilo que a IA lhe apresenta. Não consegue perceber se faz sentido, se está errado, se há inconsistências ou sequer formular as perguntas certas.

E fazer as perguntas certas é uma competência cada vez mais importante. “Os prompts influenciam profundamente as respostas que recebemos. Como estes modelos funcionam com base em probabilidades, tendem a atribuir maior peso à informação que o utilizador lhes fornece, sobretudo quando não existe conhecimento suficientemente sólido para contrariar essa hipótese. Ou seja, as respostas refletem o viés que foi colocado na pergunta”, refere o investigador, que considera essencial olhar para a própria academia, que, apesar de ser um espaço onde nasce novo conhecimento continua a ser muito conservadora, dificultando a adaptação a mudanças tão rápidas como aquelas que estamos a viver.

Supervisão é a palavra de ordem

Em grande parte da história da computação, recorda Hugo Paredes, foram as pessoas a aprender a linguagem das máquinas. Dos primeiros computadores, programados através de cartões perfurados e linhas de código, às interfaces gráficas que popularizaram o computador pessoal, cada avanço tecnológico representou também um esforço de adaptação por parte dos utilizadores.

“Hoje estamos a inverter esse paradigma. Percebemos que a tecnologia deve adaptar-se às pessoas e não o contrário. É daí que surgem conceitos como a cocriação, a personalização e as interfaces centradas no utilizador”.

Mais do que perguntar que tarefas podem ser entregues à IA, importa garantir que as pessoas continuam a supervisionar esses sistemas, sobretudo quando falamos de IA generativa. O objetivo é simples: a inteligência artificial pode propor, explicar, sugerir, mas a decisão continua a ser humana.

“Quando uma pessoa recebe um diagnóstico médico, raramente aceita a primeira opinião sem questionar. Muitas vezes procura um segundo médico. Porque faz parte da nossa natureza questionar, procurar outras perspetivas, confrontar diferentes opiniões antes de tomar uma decisão. Com a inteligência artificial deve acontecer exatamente o mesmo”, defende o docente.

A inteligência artificial deve libertar-nos das tarefas repetitivas para que possamos dedicar mais tempo àquilo que exige julgamento humano. E isto tem especial peso quando o tema é a saúde. Nos últimos anos, multiplicaram-se os exemplos de sistemas capazes de analisar exames médicos, apoiar diagnósticos ou responder a perguntas sobre sintomas, com desempenhos comparáveis – ou até, em muitos casos, superiores – aos de especialistas em tarefas muito específicas. Mas Hugo Paredes e Carla Teixeira Lopes querem desenvolver sistemas que, mesmo evoluindo ao longo do tempo, nunca consigam retirar completamente o ser humano do processo.  Esta ideia está, aliás, alinhada com várias recomendações internacionais. A Organização Mundial da Saúde defende que sistemas de inteligência artificial utilizados em contexto clínico devem apoiar profissionais de saúde, preservando sempre a supervisão humana, a transparência e a responsabilidade pelas decisões tomadas. A tecnologia pode melhorar os cuidados prestados, mas não elimina a necessidade de julgamento clínico nem a relação entre médico e paciente. “Quando as decisões têm impacto direto na vida das pessoas, o ser humano não pode desaparecer da equação”, conclui Carla Teixeira Lopes. [1]

A lógica de supervisão está também presente num dos projetos em que Hugo Paredes participa, na área da saúde mental: o DeepVybe.  A realidade é que, para muitos jovens, é mais fácil falar com um chatbot do que marcar uma consulta com um psicólogo. Portanto, porque não aproveitar esta maior disponibilidade dos jovens para conversar com um sistema digital, sem retirar o profissional de saúde do processo?

“Em vez de colocarmos um modelo de inteligência artificial generativa a conversar diretamente com um adolescente, criámos um sistema em que toda a conversa é supervisionada por um psicólogo. A inteligência artificial conduz a interação, colocando perguntas e reformulando respostas. Mas antes de cada nova interação existe sempre um psicólogo que pode aceitar a sugestão do sistema, alterá-la ou decidir seguir outro caminho”, descreve o investigador.

A arquitetura do sistema prevê que toda a comunicação passe primeiro por uma infraestrutura que permite integrar os psicólogos no processo. Ou seja, existe sempre supervisão clínica humana. Desta forma, é possível garantir interações mais confortáveis, sem comprometer a segurança, mesmo que exista um atraso no tempo de resposta.

Tirar partido da informação que geramos com privacidade e controlo dos dados

Hoje, cada pessoa produz uma quantidade crescente de informação sobre si própria. Aplicações móveis, relógios inteligentes, análises clínicas, exames, consultas e relatórios médicos geram dados que acabam, muitas vezes, dispersos por diferentes plataformas e instituições. O desafio, segundo Carla Teixeira Lopes, passa por transformar esse conjunto de informação numa representação coerente do percurso clínico de cada indivíduo. “Estamos a utilizar grafos de conhecimento para representar informação clínica através de factos estruturados. O objetivo é construir uma representação coerente do histórico clínico de uma pessoa. Depois, sobre essa informação, podemos utilizar modelos de linguagem que funcionem localmente e que ajudem o utilizador nas tarefas do dia a dia. Em vez de enviar informação sensível para serviços externos, procuramos desenvolver soluções em que os dados permaneçam sob controlo da própria pessoa, garantindo maior privacidade e transparência”, explica.

Sem retirar autonomia ao utilizador, o sistema pode ajudar a gerir melhor questões de saúde, relembrando, por exemplo a marcação de uma consulta ou renovação de uma receita médica. Esta visão não é nova no percurso da investigadora. Há alguns anos, participou no desenvolvimento do projeto Health Talks, uma aplicação que permitia gravar consultas médicas e transcrevê-las automaticamente, motivada pela incapacidade de muitos doentes entenderem o que tinha sido explicado em consultório. Hoje, com os grandes modelos de linguagem, esse conceito pode ir muito mais longe. Já não se trata apenas de transcrever uma conversa, mas de adaptar automaticamente a informação ao nível de literacia de cada utilizador, traduzindo linguagem médica complexa para explicações mais claras e acessíveis.

A confiança não se resume a boas respostas

À medida que os sistemas de inteligência artificial se tornam mais competentes, surge também uma pergunta inevitável: porque devemos confiar neles? Para Hugo Paredes, a resposta não pode assentar apenas na precisão dos algoritmos. “Quando um algoritmo sugere uma determinada ação, nós queremos perceber porquê. Se pensarmos num médico, ele continua a ser responsável pela decisão clínica. Não pode simplesmente aceitar aquilo que um algoritmo lhe apresenta. Precisa de compreender em que informação essa recomendação se baseia.”

É por isso que conceitos como a interpretabilidade e a explicabilidade, discutidos, durante anos, sobretudo no meio académico, passaram a ocupar um lugar central no desenvolvimento da IA generativa. Quanto maior for a confiança depositada nestes sistemas, maior terá de ser também a sua capacidade para justificar as decisões que produzem. Um estudo do Berkeley RDI, de 2026, mostrou modelos de IA de topo a falsificar avaliações para proteger outros sistemas, sem que ninguém lho tivesse pedido. A explicabilidade ajuda-nos a perceber o porque destas decisões. Revolta das máquinas?

Carla Teixeira Lopes recorda que esta mudança já começou a tornar-se visível. Os primeiros modelos limitavam-se a apresentar uma resposta; hoje é cada vez mais comum incluírem referências, ligações para as fontes utilizadas ou explicações adicionais sobre o raciocínio seguido. Ainda não é suficiente, mas representa um passo importante para tornar a tecnologia mais transparente. No entanto, a confiança não depende apenas da forma como os algoritmos explicam as suas respostas. Depende também da forma como as pessoas compreendem a tecnologia. Na área da recuperação de informação e da interação humano-computador, a investigadora estuda precisamente a forma como os utilizadores se relacionam com estas novas ferramentas. “Não basta criar algoritmos mais sofisticados; é necessário garantir que são acessíveis a diferentes públicos, incluindo pessoas com baixa literacia digital, idosos, pessoas com deficiência ou utilizadores de línguas menos representadas”, refere.

Compreender como estas tecnologias funcionam, quais são as suas limitações e que informação recolhem tornaram-se competências essenciais numa sociedade onde a IA começa a fazer parte do quotidiano. Só podemos falar em Human-Centered AI quando houver inclusão.

O futuro da IA são as pessoas

Apesar da evolução dos grandes modelos de linguagem, há uma convicção que os dois investigadores partilham: o sucesso da IA não será determinado apenas pela sua capacidade de resolver problemas, mas pela forma como preserva aquilo que continua a distinguir os seres humanos.

“Acho que a IA vai desaparecer. Não no sentido de deixar de existir, mas no sentido de deixar de ser visível. Tal como hoje ninguém pensa na eletricidade quando liga um computador.  Estará simplesmente integrada em tudo”, remata Hugo Paredes.

Hoje a discussão começa lentamente a deslocar-se. A pergunta já não é “o que consegue fazer a inteligência artificial?”, mas sim “como é que esta tecnologia melhora a vida das pessoas?”.

Na perspetiva dos dois especialistas, o problema não reside na tecnologia, mas nas escolhas que fazemos enquanto sociedade sobre a forma como a utilizamos. Exemplo: algumas empresas começam a reduzir a contratação de profissionais em início de carreira, confiando que equipas mais pequenas, apoiadas por ferramentas de IA, conseguirão manter os níveis de produtividade. Mas quem serão os especialistas de amanhã, se deixarmos de formar os profissionais de hoje?

“No INESC TEC não fazemos investigação para substituir pessoas”, resume Carla Teixeira Lopes. “Fazemos investigação para perceber como a tecnologia pode apoiar médicos, professores, engenheiros, psicólogos ou qualquer outro profissional nas suas tarefas. Queremos que a inteligência artificial liberte tempo para aquilo que é verdadeiramente humano.”

Não queremos máquinas que se comportem como pessoas, nem uma Skynet a controlar-nos. Queremos máquinas que permitam às pessoas continuarem humanas.

[1] Para aprofundar o tema do uso da IA na saúde:  “Can you trust AI for health advice?”, Mayo Clinic, abril de 2026.