Numa altura em que já existem máquinas capazes de escrever peças de teatro ou simular amizades, e temas como a reconstrução de memórias já são abordados, somos forçados a refletir sobre a tal questão incómoda, que se desdobra em outras dúvidas: será que ainda controlamos a nossa criatividade, a forma como damos e recebemos afeto, a nossa própria identidade? Seremos capazes de estabelecer uma relação simbiótica com as soluções de Inteligência Artificial (IA)? Ou estaremos a deixar que a IA molde o que significa, atualmente, ser humano, em diferentes vertentes?
Nesta edição do INESC TECWatch, exploramos os debates internacionais em torno destas temáticas. Por isso, e à boleia do Financial Times, iremos focar-nos em diferentes temas sobre a influência crescente da IA: primeiramente, no que diz respeito ao processo criativo, passando pelas relações afetivas mediadas por chatbots e terminando no impacto destas tecnologias na memória e na identidade.
Protagonista invisível: a criatividade na era da IA
O artigo do Financial Times sobre a peça “Doomers” foca-se na questão – ou problemática – da intervenção da IA no processo criativo.
“Os mais recentes avanços na área comumente designada por ‘Inteligência Artificial’, e em especial a emergência dos modelos generativos, têm vindo a relançar o debate (porém, longe de ser novo) acerca das noções de autoria, originalidade e criatividade, em especial a partir da hipótese de ‘obras’ geradas exclusivamente ou com recurso intensivo àqueles modelos de IA, por vezes difíceis de distinguir, ao menos superficialmente, de criações exclusivamente humanas”, refere Vasco Dias, advogado e Encarregado de Proteção de Dados (DPO) do INESC TEC.
Tal como é referido no próprio trabalho do Financial Times, o autor contou com o apoio de ferramentas como o ChatGPT para tarefas de pesquisa e edição – colocando em causa a noção de autoria, e suscitando dúvidas sobre quem detém a responsabilidade quando o conteúdo resulta da colaboração humano-máquina. Esta combinação acaba por desafiar a noção tradicional de autoria, e emerge aqui como algo composto, um processo híbrido, quiçá diluindo os limites entre agente e ferramenta.
“A resposta que até hoje vem sendo dada em termos de direito de autor (com nuances no contexto da programação informática, por exemplo) tem sido a de que o autor há de ser um humano, uma vez que visa essencialmente proteger o resultado da sua atividade criativa, garantindo-lhe uma compensação económica. Protege-se por esta via a expressão das ideias do autor (não as ideias elas mesmas), sejam obras literárias, artísticas ou programas de computador, quando na medida em que se lhes reconheça originalidade”, explica.
Poderá, então, continuar a existir verdadeira criatividade se esta for mediada por ferramentas de IA? E que tipo de impacto terá esta forma de criação para os artistas, sobretudo no que diz respeito ao seu valor e reconhecimento perante os seus públicos? Mais do que dramatizar a estória de Sam Altman, CEO da OpenAI, a peça acaba por nos desafiar a refletir sobre de que forma as máquinas podem redefinir o que entendemos por criatividade, autoria e valor artístico, e quais as consequências – para o agente criador e para quem “consome” arte e cultura.
A friend to all is a friend to none
O mesmo jornal publicou um artigo sobre a plataforma Character.ai, um chatbot de companheirismo, onde os utilizadores podem simular relações com “personalidades” da sua preferência; e que, segundo o próprio criador, pode contribuir para “um mundo utópico” onde este tipo de ferramentas serve para testar hipóteses e “tornar as relações reais mais profundas”. Desde logo, emergem questões éticas relevantes sobre a relação entre a tecnologia e a intimidade humana, e quão legítima é a criação de vínculos com entidades sem consciência (sendo que as relações implicam elementos como reciprocidade, confiança, subjetividade, etc.).
“A tendência para a antropormofização dos sistemas de IA (espelhada nas formas como muitas vezes são representados e nomeados) constitui um risco acrescido no contexto da sua utilização”, alerta Vasco Dias.
Focando na subjetividade, uma relação – seja de amizade ou mesmo romântica – com uma entidade de IA é um conceito que desafia os limites do que entendemos por relação humana (e autêntica). E entram aqui questões como a dependência emocional, e possível isolamento social, bem como a facilidade com que se “trocam” laços humanos genuínos por “artificiais”, que podem influenciar negativamente a formação de identidade, a empatia, e a definição de limites próprios e para com outrem (este artigo refere vários exemplos disso mesmo, como o papel que esta ferramenta pode ter tido numa tentativa de suicídio).
“Com garantias adequadas, a tecnologia pode contribuir para aproximar-nos, e certas utilizações de assistentes virtuais poderão mesmo revestir-se de enorme utilidade na resolução prática e acompanhamento de problemas sociais e humanos em certos contextos – incluindo alguns que se revestem de reconhecida sensibilidade e elevado risco; mas também poderão isolar-nos mais, se passarmos a substituir relações humanas por algoritmos programados para nos ‘entender’”, diz Vasco Dias, ainda sobre a questão da relação humano-máquina.
Sistemas como o Chatbot.ai, desenvolvidos para providenciar companhia e combater a solidão, podem reforçar padrões de comportamentos divergentes, criando uma “ilusão” de ligação que não substitui o valor das relações humanas, e talvez ter o efeito precisamente contrário.
Entre memória e algoritmo
Já a curta-metragem “Recall Me Maybe” (Financial Times) aborda as repercussões da IA na reconstituição de memórias e na formação da identidade pessoal; nesta obra, a Inteligência Artificial é utilizada para preencher falhas nas memórias de um homem que sofre de demência, num enredo que envolve a sua família – enredo esse focado na forma como “navegam” todo o processo e se questionam se as memórias serão verdadeiras ou artificiais.
“O que são memórias verdadeiras e memórias falsas, sabendo que são elas que nos ‘compõem’? É toda a nossa identidade pessoal que está em causa; e é essa a questão desta curta-metragem”, refere Sofia Miguens, professora catedrática e investigadora no departamento de Filosofia da Faculdade de Letras da Universidade do Porto (FLUP), questionada sobre as questões filosóficas que podemos depreender desta obra. “Aquilo que pensamos que somos é, em grande medida, aquilo que recordamos, a nossa história pessoal e os eventos contingentes que esta contém (…) A nossa memória é, por essa razão, fundamental para aquilo que somos enquanto humanos”, continua, reconhecendo o papel estrutural da memória e a forma como intervenções de IA neste domínio podem colocar dúvidas sobre a veracidade das recordações e a integridade da identidade.
Ao longo do seu vasto e reconhecido percurso académico, a investigadora tem vindo a explorar estes temas, e admite que estas preocupações tornam-se mais relevantes – e atuais – com o desenvolvimento de projetos como o Synthetic Memories, que recorre a IA generativa para criar “fotografias” a partir de relatos individuais, dando imagem a recordações sem documentos visuais, e expandindo os limites do que entendemos por memória. Será algo que aumenta o bem-estar de quem sofre de perdas cognitivas, ou passou por eventos traumáticos? Ou um ataque à autenticidade das memórias, com um profundo impacto emocional? A este exemplo podemos juntar os deepfakes, e outras formas como a IA pode criar ilusões visuais que nos contam “histórias” falsas, que podem subverter o nosso conhecimento do passado – e influenciar, quiçá, a forma como iremos agir no futuro. São tecnologias com um grande risco de manipulação de confiança, a nível pessoal e coletivo, e que ampliam questões éticas e psicológicas associadas ao uso de tecnologias de Inteligência Artificial.
O debate internacional necessário
E, como estas temáticas não podiam ser mais atuais, numa sala que se espera cheia, e num palco onde irão estar presentes especialistas de renome na área, será discutida uma questão: O que é ser humano na era da Inteligência Artificial? Foi assim lançado o mote para a 10.ª edição do Fórum INESC TEC do Outono – no ano em que se celebram os 40 anos do INESC TEC.
Uma pergunta feita em jeito de desafio; a resposta pode não ser imediata ou concreta; se calhar, a maioria já a sabe, mas ainda se sente desconfortável em assumir. A Inteligência Artificial (IA) deixou de ser uma simples ferramenta; é um espelho que nos revela – de forma clara ou mais distorcida – aquilo que somos e o que procuramos ser. No dia 17 de novembro, na Casa da Música, saberemos mais – sobre o que é ser humano na era da IA (pelo menos, é essa a nossa expectativa).
Notícias, atualidade, curiosidades e muito mais sobre o INESC TEC e a sua comunidade!
