“A tecnologia está em constante evolução, mas, não raras vezes, os engenheiros e os designers de tecnologia tendem a pensar apenas nos benefícios das soluções que estão a desenvolver. Temos de estar preparados para lidar não só com os benefícios, mas com os aspetos negativos da tecnologia que desenvolvemos”. Quem o diz é Nicola Dell, uma investigadora norte-americana que se dedica ao desenvolvimento de soluções tecnológicas para ajudar vítimas, particularmente de violência doméstica e, ainda, soluções para apoio a profissionais de saúde que prestam cuidados ao domicílio. Nicola Dell é também uma das 22 pessoas galardoadas, em 2024, pela Fundação MacArthur, que, através do programa MacArthur Fellows, atribui, anualmente, um apoio financeiro a pessoas cujo trabalho se distingue pela sua excecional criatividade e pelo seu potencial. Falamos de pessoas com carreiras nas mais diversas áreas de atividade, desde escritores, artistas, cientistas, professores, empresários, entre muitos outros. No caso de Dell, o trabalho que tem em mãos ajuda vítimas de abuso, salvaguardando-as e protegendo-as do partido que os agressores podem tirar – e tiram – da tecnologia. A forma como o faz, vamos explicar de seguida.
Nesta edição do INESC TECWatch, partimos do trabalho de Dell para analisar o papel das tecnologias de informação na predição dos comportamentos de pessoas violentas ou na identificação de padrões de risco. Para o fazer, desafiamos Hugo Paredes, investigador do INESC TEC na área da Computação Centrada no Humano e docente na Universidade de Trás-os-Montes e Alto Douro (UTAD), e Ricardo Barroso, psicólogo, com especialização em psicologia clínica e em psicologia forense, e também docente na UTAD.
Antes de avançarmos com a análise, deixamos alguns números apresentados, este ano, pela Associação Portuguesa de Apoio à Vítima (APAV), a propósito do Dia Internacional da Mulher: entre 2021 e 2023, a Associação ajudou 31 117 vítimas de violência doméstica e contabilizou 64 899 crimes, sendo que a maior parte dos autores do crime de violência doméstica que chegou ao conhecimento da APAV era cônjuge da vítima. 68,8% dos autores do crime era do sexo masculino. Neste período, a maior parte das vítimas do crime de violência doméstica apoiadas na APAV era do sexo feminino (81,1%); o número de homens vítimas de violência doméstica apoiados pela Associação era de 17,3%. Já a Comissão para a Cidadania e a Igualdade de Género (CIG), que disponibiliza indicadores entre 2019 e 2022, dá conta de que, em 2022, houve 30 389 ocorrências participadas à PSP e à GNR, e 26 homicídios voluntários em contexto de violência doméstica – 42 mulheres e duas crianças.
Quais são os aspetos negativos da tecnologia?
Recuamos ao início de setembro de 2024. De França, chega-nos um nome: Gisèle Pelicot – e um rosto. E chegam-nos notícias que nos dão conta de que Gisèle Pelicot foi, ao longo de uma década, sucessivamente drogada pelo marido e violada por dezenas de homens – tudo orquestrado a partir de uma plataforma online chamada Coco. Um chat ilícito, sem moderação e que se acredita ter contribuído para a perpetração de vários crimes. Este ano, foi desativado.
Em Portugal, no dia 22 de outubro, o jornal Público traz-nos, numa grande reportagem, informação sobre o funcionamento de um grupo de Telegram português: 70 mil pessoas trocam, sem consentimento, fotografias íntimas de mulheres.
Num estudo publicado em 2021 – Abusive Sexting in Adolescence: Prevalence and Characteristics of Abusers and Victims – com autoria de Ricardo Barroso (UTAD e Universidade do Porto), Eduarda Ramião e Patrícia Figueiredo (Universidade do Porto), e Alexandra M. Araújo (Universidade Portucalense), os investigadores analisaram a prevalência de sexting não consentido, ou seja, a partilha de fotos ou vídeos com conteúdo sexualmente explícito através de dispositivos digitais, habitualmente imagens de amigas/os ou ex-namoradas/os, de forma não autorizada, em adolescentes portugueses – assim como as características quer de agressores, quer de vítimas. A equipa realizou um estudo com 4.281 participantes (2.264 raparigas e 2.017 rapazes), com idades entre 12 e 20 anos, e concluiu que 4,8% dos adolescentes portugueses assumiram ter sido agressores da prática de sexting não consentido. 4,3% dos adolescentes revelou ter sido vítima de sexting não consentido. Deste estudo, resultaram ainda outras conclusões: o sexting abusivo era mais comum entre rapazes; há maior probabilidade de as vítimas desta prática pertencerem a famílias monoparentais; o envolvimento em sexting não consentido – quer por parte de agressores, quer por parte de vítimas – está relacionado com problemas comportamentais e emocionais, experiências de negligência e abuso na infância, assim como outras formas de agressão.
Certo é que o sexting não consentido, que como vimos inicia ainda na adolescência, parece estar a dar origem a um fenómeno mais completo – o Sextortion.
Será a utilização de chats, como o Coco, com objetivos que configuram crime, um dos aspetos negativos aos quais Nicola Dell se refere? E, como estes, tantos outros grupos de WhatsApp, Telegram e outras plataformas digitais, nos quais circulam, de forma não autorizada e abusiva, imagens e vídeos do foro íntimo de várias pessoas? Afinal, que partido podem os agressores tirar das tecnologias digitais?
No seu trabalho de investigação, esta nova MacArthur Fellow, centra-se na segurança e na privacidade das vítimas. Considerando que os agressores usam, muitas vezes, a tecnologia para, por exemplo, monitorizar a atividade online das vítimas ou para as ameaçarem ou assediarem usando plataformas digitais, a equipa de Dell conduziu um estudo para perceber que táticas são usadas por estas pessoas. Foram analisadas centenas de publicações em fóruns online – onde são discutidas, por exemplo, formas de usar softwares maliciosos (spyware) para aceder a computadores de outras pessoas. Segundo a informação disponibilizada no website da Fundação MacArthur, esta investigação revelou que “os mecanismos de segurança e privacidade de dispositivos e plataformas amplamente utilizados não conseguem antecipar e prevenir ataques ou o acesso à pessoa visada”. Pessoa com quem o agressor mantém um contacto muito próximo, íntimo. Por outras palavras, as vítimas não se encontram em segurança no uso dos seus dispositivos, como computadores ou telemóveis. Para além de expor estas falhas nos sistemas, o trabalho de Dell também contribuiu para o desenvolvimento de novas frameworks para investigação em segurança e privacidade, de forma a abordar ameaças mais próximas e mais pessoais.
Para levar os seus resultados de investigação para um plano de aplicação prática, Nicola Dell cofundou a CETA – Clinic to End Tech Abuse, onde apoia vítimas, através de um acompanhamento individual que visa a segurança dos seus dispositivos. Ou seja, a equipa da CETA analisa os computadores das vítimas, para perceber se existe spyware, ajuda-as a libertarem-se de contas conjuntas e dá-lhes orientações sobre privacidade e segurança.
Por fim, com base nestas descobertas, a investigadora norte-americana aconselha empresas de tecnologia, como a Google, a Apple ou a Meta em matéria de abuso tecnológico, dando sugestões de como podem conceber produtos mais seguros, e apresenta um contributo muito significativo para o desenho de leis que possam proteger as pessoas desse mesmo abuso.
A privacidade, a aquisição pervasiva de dados e a identificação de padrões de comportamentos de risco
As questões de privacidade trabalhadas por Dell levam-nos aos dados, à forma como são adquiridos e ao desenvolvimento de modelos preditivos, que possam ajudar a identificar padrões de comportamento de risco, por exemplo. De acordo com Hugo Paredes, neste domínio das tecnologias de informação, há um conjunto alargado de desafios, desde logo a aquisição de dados com qualidade para que possam ser desenvolvidos modelos preditivos. “Os dados são nucleares para o desenvolvimento de modelos. Acredito que, nestas áreas, os instrumentos tradicionais para aquisição de dados sejam baseados em questionários que nem sempre têm a melhor aceitação por parte do público-alvo. Desta forma, técnicas pervasivas de aquisição de dados, como é o caso da forma como as pessoas interagem com os smartphones ou os computadores, no seu quotidiano, podem estar associadas a potenciais comportamentos de risco”, explica o investigador, deixando um alerta: “existem, no entanto, preocupações éticas e de privacidade associadas à sua aquisição pervasiva, que devem ser devidamente salvaguardadas”.
Antes de avançarmos, convém dar um exemplo daquilo que pode ser uma forma de aquisição pervasiva de dados: os nossos smartwatches recolhem dados sobre o nosso sono, a nossa atividade física, o nosso nível de stress. Usamo-los no pulso, durante horas, e eles, de forma invisível aos olhos, recolhem um sem fim de informação – de forma pervasiva.
Em todo o caso, e voltando ao trabalho de Dell, Ricardo Barroso acredita que o principal benefício de trabalhos como o da investigadora Nicola Dell está relacionado com o potencial de predição dos comportamentos de pessoas violentas, ou seja, a monitorização em tempo real dos comportamentos de agressores. “Depreendo que possa ser possível antecipar episódios de violência e ativar intervenções específicas, alertando as autoridades ou os próprios indivíduos em risco. Esta é uma necessidade técnica que surge no terreno, em todos os países, e os mecanismos atualmente existentes têm muitos erros. Pode assim ser utilizada para identificar padrões de comportamentos de risco através de dados provenientes de redes sociais, mensagens de texto ou outros”, avança o especialista.
Com isto, e compreendendo os padrões e as dinâmicas de funcionamento, sobretudo em faixas etárias mais baixas, torna-se possível atuar de forma preventiva. “Este sistema poderá permitir experiências educativas imersivas e personalizadas sobre violência interpessoal e no namoro, através do uso de simulações interativas que ensinem adolescentes sobre relacionamentos saudáveis e ajudem a reconhecer sinais de abuso, melhorando a eficácia das campanhas de sensibilização”, refere Ricardo Barroso. Uma opinião partilhada por Hugo Paredes, que considera que a intervenção precoce e a educação são domínios onde a tecnologia pode ser “uma ferramenta útil”, capaz, não só, de chegar a um significativo número de pessoas, como de tornar as soluções escaláveis.
O investigador avança mesmo dois cenários, nos quais a utilização de tecnologias digitais se pode revelar uma importante mais-valia. “Nas novas gerações, os jogos digitais são uma importante ferramenta, permitindo de uma forma lúdica transmitir conteúdos educacionais orientados. O comportamento dos jovens nos jogos digitais, o papel que assumem, pode também representar tendências comportamentais que podem ser estudadas[1]. Por outro lado, os Large Language Models (LLM) e os assistentes virtuais apresentam-se como uma oportunidade para explorar intervenções de monitorização continua preventiva, automatizando com “humanidade” algumas tarefas e permitindo escalar as soluções para abranger uma mais vasta população”.
Antes de darmos um exemplo de utilização dos assistentes virtuais, voltamos a Ricardo Barroso, que nos diz, sobre a análise do comportamento de adolescentes ou jovens adultos, que estas ferramentas podem mesmo ajudar a prever situações de risco de violência interpessoal e agressões em relacionamentos. “A predição e identificação de padrões linguísticos ou de comportamentos violentos podem ativar mecanismos específicos de proteção e apoio, como por exemplo, alertar pais, escolas, identificando sinais precoces de violência, (cyber)-bullying ou comportamentos abusivos em relacionamentos de namoro, indicadores de assédio ou abuso emocional. A ideia é haver ação interventiva e especializada antes que a situação ocorra, ou se agrave”, admite.
Voltando agora à questão dos assistentes virtuais, segundo Hugo Paredes, um dos exemplos deste tipo de aplicação decorre do trabalho de follow up realizado no projeto WalkingPAD, que contou com o envolvimento do INESC TEC, e que teve como objetivo desenvolver uma solução para pessoas com doença arterial periférica, que as pudesse não só ajudar a praticar exercício físico – no caso, caminhadas –, como a fazê-lo diminuindo a dor – “as entrevistas motivacionais realizadas semanalmente por telefone estão a ser recriadas por um avatar no smartphone, deixando a intervenção humana para situações mais específicas”, explica.
Ainda no campo da identificação precoce, o investigador dá igualmente como exemplo a plataforma WebTraceSense[2], que foi originalmente desenvolvida para a personalização cognitiva de microtarefas[3],[4], mas cuja utilização tem vindo a ser testada noutros contextos, nomeadamente com um trabalho – ainda em fase exploratória – para a sinalização precoce de depressão.
Mesmo do ponto de vista da intervenção, parece haver uma oportunidade na utilização das tecnologias da informação. “Parece-me existir, desde logo, um benefício importante em termos de apoio psicológico, direcionado a vítimas e a agressores, especialmente em momentos críticos, como por exemplo, situações de ativação emocional, raiva, impulsividade, medo, incentivando mudanças de comportamento de forma personalizada, entre outras, antecipando assim apoio clínico urgente ou, por outro lado, no caso das vítimas um pedido de ajuda mais rápido, como meio de denúncias”, conclui Ricardo Barroso.
Partimos do trabalho de Nicola Dell, que, no caso do apoio às vítimas de violência, se foca na segurança e na privacidade destas pessoas, para analisarmos o potencial de aplicação das tecnologias de informação, tanto na prevenção, como na intervenção em situações de risco – e como é que, se houver, no desenvolvimento de tecnologia, uma abordagem centrada nas pessoas, essa abordagem pode ajudar a responder a problemas reais e impactar positivamente a sua vida.
Agora, ao longo dos próximos cinco anos, Dell vai beneficiar de um apoio concedido pela Fundação MacArthur, no valor de 800 mil dólares (cerca de 740 mil euros), para avançar com o seu trabalho de investigação. Será que antes de 2030 ainda vamos ouvir falar de Nicola Dell? Será que o trabalho desta investigadora vai inspirar outros/as investigadores/as? Deste lado, acreditamos que sim.
A Fundação MacArthur e os/as MacArthur Fellows
Antes de fecharmos esta edição do INESC TECWatch, vamos numa viagem rápida aos anos 70 do século XX para conhecermos um pedaço da história da Fundação MacArthur. Diz-nos a resenha histórica publicada no website da Fundação que, ao conselho de administração da fundação por si criada, John D. MacArthur disse: “I made the money; you guys will have to figure out what to do with it”. Dirigia-se à sua esposa, Catherine T. MacArthur, a Roderick, filho de ambos, ao seu amigo e advogado William T. Kirby, a Paul Harvey, seu amigo e comentador de rádio, e a Louis Feil, seu sócio.
A frase não só deu o mote para o início da atividade de uma organização focada no apoio a projetos que pudessem mudar o curso da história, dando resposta aos desafios da sociedade, como ficou também ela para a história. Certo é que, fundada por conselho de William T. Kirby, para garantir o bom uso do património de John MacArthur após a sua morte, a Fundação MacArthur já concedeu apoios que somam mais de 8 mil milhões de dólares nos Estados Unidos da América e noutros 40 países espalhados pelo mundo. Entre as atividades da Fundação, encontramos o MacArthur Fellows, um programa de financiamento que já conta com mais de 40 anos de existência, que já foi atribuído a mais de 1100 pessoas e que é comumente, mas de forma absolutamente informal, conhecido como a “bolsa dos génios”. Em 2024, foram distinguidas 22 pessoas “excecionais, criativas e inspiradoras”, que, apesar de no seu dia-a-dia se dedicarem a áreas muito distintas, têm em comum o facto de desenvolverem um trabalho pioneiro, com um impacto e um potencial significativos. Em suma, este Programa visa alavancar ideias, pensamentos e estratégias inovadoras e criativas.
[1] Paulino, D., Ferreira, J., Netto, A., Correia, A., Ribeiro, J., Guimarães, D., … & Paredes, H. (2024, August). Probing into the Usage of Task Fingerprinting in Web Games to Enhance Cognitive Personalization: A Pilot Gamified Experience with Neurodivergent Participants. In 2024 IEEE 12th International Conference on Serious Games and Applications for Health (SeGAH) (pp. 1-8). IEEE.
[2] Paulino, D., Netto, A. T., Brito, W. A., & Paredes, H. (2024). WebTraceSense—A Framework for the Visualization of User Log Interactions. Eng, 5(3), 2206-2222.
[3] Paulino, D., Guimarães, D., Correia, A., Ribeiro, J., Barroso, J., & Paredes, H. (2023). A Model for Cognitive Personalization of Microtask Design. Sensors, 23(7), 3571.
[4] Paulino, D., Correia, A., Barroso, J., & Paredes, H. (2023). Cognitive personalization for online microtask labor platforms: A systematic literature review. User Modeling and User-Adapted Interaction, 1-42.
Notícias, atualidade, curiosidades e muito mais sobre o INESC TEC e a sua comunidade!
