Tecnologia e direito: a construção de uma relação virtuosa

Fui convidada a escrever sobre a relação entre a tecnologia e o direito, para o que contei com contributos e sugestões dos colegas do Serviço de Apoio Jurídico (AJ) do INESC TEC. Optei por uma abordagem deste tema em duas perspetivas simétricas: por um lado, como é que a tecnologia pode influenciar ou contribuir para o trabalho jurídico propriamente dito; e, por outro, como pode o direito ajudar a responder aos desafios da investigação e do desenvolvimento. Em ambas as perspetivas poderemos encarar esta relação como virtuosa, no sentido de proporcionar mais benefícios do que inconvenientes e fomentar o progresso científico e técnico, ou, pelo contrário, como conflituosa, ameaçadora ou restritiva daquele progresso.

Sendo incontornável nos nossos dias o debate sobre o enorme potencial da inteligência artificial (IA), mas também sobre os seus limites e perigos, não poderíamos deixar de abordar a IA como tecnologia que pode ser aplicada ao mundo do direito e ao trabalho jurídico. Desde logo, a mera possibilidade de ser aplicada ao processo de tomada de decisão, que é o cerne da justiça e do poder judicial, tem suscitado acesos debates na comunidade jurídica e fora dela. Poderá a justiça ser mais “justa e imparcial” se o processo de decisão recorrer a métodos de inteligência artificial, deixando as decisões de ser “poluídas” pelos preconceitos e enviesamentos, ainda que inconscientes, das pessoas que são os juízes? Ou, de uma forma mais contida, a IA apenas será útil para ajudar a melhor fundamentar e explicar uma decisão judicial ao cidadão comum e, em particular, aos diretamente afetados por tal decisão, com as devidas garantias de transparência? Poderá proporcionar também uma maior coerência das decisões sobre casos idênticos. Ou seja, “o algoritmo é utilizado de modo a assegurar que, verificado determinado nexo de causalidade, a decisão deverá ser sempre a mesma. Claro está que é um método bastante falível e que, por isso, acarreta riscos, mas por outro lado, quando aplicável a tarefas e tomadas de decisão mais rotineiras, pode ser muito vantajoso. Não é por acaso que está a ser aplicado em matéria de injunções, por exemplo” (Rita Barros, AJ). “Como contraponto, neste domínio, coloca-se o risco de poder vir a acentuar, de forma subliminar, os mesmos enviesamentos e desigualdades presentes na sociedade, ou de sobrepor o valor da coerência à dimensão criativa, ao sentido normativo e, no limite, à própria independência das decisões” (Vasco Dias, AJ).     

Outra área em que as organizações, sobretudo as de maior dimensão têm vindo a investir recentemente, é a utilização da IA em matéria de cumprimento normativo (compliance), dada a profusão de legislação e regulamentação aplicável a diversas matérias da vida das organizações. “Muitas empresas utilizam sistemas informáticos de acordo com a política da empresa, que fazem a avaliação da respetiva compatibilidade com regulamentos e normas legais aplicáveis caso a caso, em função da atividade levada a acabo por cada serviço/setor” (Rita Barros, AJ).

A crescente abertura do mundo jurídico a tecnologias que facilitem ou automatizem certo tipo de tarefas morosas, fastidiosas e ainda em grande medida manuais, é exemplificada pela iniciativa “Desafios da Justiça – Govtech Justiça”, que pretende contribuir para o desenvolvimento de soluções tecnológicas inovadoras que respondam a necessidades concretas dos serviços da Justiça para melhorar a resposta aos cidadãos e empresas. Refira-se que o INESC TEC já é parceiro em pelo menos um dos projetos selecionados.

Contudo, não há bela sem senão e acontece que, como referimos, os algoritmos também não são neutros nem transparentes, antes são suscetíveis de enfermar de enviesamentos de quem o programa ou manda programar, além dos perigos de manipulação, cujas consequências são inimagináveis. A consciência de tais perigos e a crescente dificuldade em antecipá-los e avaliar corretamente os seus riscos poderá explicar “a proposta inusitada da suspensão por 6 meses de certa investigação em IA (treino de modelos mais avançados que GPT 4), na carta aberta subscrita por personalidades como Elon Musk, Yuval Harari, entre outros. A que se somaram várias outras cartas (como a de KU Leuven) na sequência de um caso de suicídio na Bélgica no contexto da utilização de uma aplicação com recurso ao ChatGPT” (Vasco Rosa Dias, AJ).

A proposta de Regulamento da União Europeia (UE) sobre a Inteligência Artificial (“AI Act”), na sequência de vários compromissos éticos e outros instrumentos que não se revelaram suficientes para acautelar os perigos da IA, assenta numa abordagem de análise de risco e tem como principal objetivo assegurar um nível elevado de proteção dos direitos fundamentais. Aí se afirma que “dadas as suas características específicas (por exemplo, a opacidade, a complexidade, a dependência dos dados, o comportamento autónomo), a utilização da inteligência artificial pode afetar negativamente um conjunto de direitos fundamentais consagrados na Carta dos Direitos Fundamentais da UE”, desde logo o direito à dignidade do ser humano (artigo 1.º), o respeito pela vida privada e familiar e a proteção de dados pessoais (artigos 7.º e 8.º), a não discriminação (artigo 21.º) e a igualdade entre homens e mulheres (artigo 23.º), entre muitos outros.

“(…) As obrigações relativas à testagem ex ante, à gestão de riscos e à supervisão humana também facilitarão o respeito de outros direitos fundamentais, graças à minimização do risco de decisões assistidas por IA erradas ou enviesadas em domínios críticos como a educação e a formação, o emprego, serviços essenciais, a manutenção da ordem pública e o sistema judicial”.

Aqui já vemos o direito como instrumento regulador da tecnologia, o que sempre sucede quando a tecnologia, não obstante as suas vantagens e avanços extraordinários, comporta riscos elevados, quer para as pessoas e os seus direitos, quer para o ambiente, quer para outros bens maiores que a sociedade pretende preservar. Em suma, o direito, através de legislação, regulamentação, doutrina e jurisprudência relevante surge em defesa de valores maiores que, de alguma forma, possam ser ameaçados por determinada tecnologia, procurando promover um adequado equilíbrio entre ambos.

Quanto à perspetiva de como pode o direito ajudar a responder e até a impulsionar os desafios da investigação e desenvolvimento, o que nos surge como mais evidente e mais concretamente ligado ao desenvolvimento tecnológico, é a “discussão das chamadas “sandboxes regulatórias”, para o desenvolvimento de tecnologia” (Vasco Rosa Dias, AJ). Como exemplo, temos em Portugal as “Zonas Livres Tecnológicas (ZLT)”, que são “ambientes físicos para testes, geograficamente localizados, em ambiente real ou quase-real, destinadas à realização, pelos seus promotores, de testes de tecnologias, produtos, serviços e processos inovadores de base tecnológica, de forma segura, com o apoio e acompanhamento das respetivas entidades competentes, nomeadamente ao nível da realização de testes, da prestação de informações, orientações e recomendações, correspondendo ao conceito de sandbox regulatória”. A primeira ZLT aprovada, denominada “Infante D. Henrique”, foi proposta pela Marinha, situa-se numa área delimitada na zona de Tróia e “destina-se a testar, em mar aberto e em circunstâncias reais, sistemas de segurança e de defesa não tripulados e outras tecnologias em ambientes de subsuperfície, superfície (terrestre e molhado) e aéreo. Pelas características geofísicas do local, esta ZLT permitirá, ainda, o acesso e o estudo do mar profundo, que será alavancado com a instalação de uma ilha artificial”. O INESC TEC, através do seu Centro de Robótica e Sistemas Autónomos (CRAS), já tem vindo a beneficiar das vantagens desta ZLT, estando em preparação o teste de um cabo no âmbito de um projeto em curso.

Outro caso muito conhecido neste domínio é o da Revolut, hoje uma das FinTechs mais valiosas da Europa que, muito beneficiou da criação de uma sandbox regulatória pela Autoridade Financeira britânica, em 2015. É uma das matérias que o legislador europeu deverá saber acautelar no futuro Regulamento da IA.

Pelos exemplos que abordei, e que estão muito longe de esgotar as possibilidades de relação entre a tecnologia e o direito, entendo que poderemos encarar esta relação como virtuosa, no sentido de proporcionar mais benefícios do que inconvenientes e fomentar o progresso científico e técnico. Contudo, também acredito que, para que a relação não se torne conflituosa e os atores da ciência e  tecnologia não encarem o direito apenas como um entrave ao progresso científico e técnico, é fundamental que os juristas tentem compreender melhor a tecnologia e as especificidades da atividade de investigação, desenvolvimento e inovação e procurem encontrar os enquadramentos  legais, institucionais e contratuais mais adequados para os problemas, assumindo a missão de fazerem a ponte entre os dois mundos, tornando-os reciprocamente inteligíveis. O Serviço de Apoio Jurídico do INESC TEC tem, desde sempre, procurado desempenhar o melhor possível essa missão.

Maria da Graça Barbosa, Administradora Executiva