Criar um ecossistema aberto que reúna representantes da academia, de centros de investigação, de centros de supercomputação e empresas, que se encontrem a desenvolver, treinar e utilizar modelos de Inteligência Artificial (IA) de grande escala, assim como a construir e a operar sistemas de computação de grande escala, também – este é o propósito do TPC – The Trillion Parameter Consortium. O INESC TEC foi a primeira entidade portuguesa a juntar-se a esta parceria, que conta com mais de 70 entidades e que visa promover a partilha de experiências, ferramentas e dados, a colaboração entre equipas, e as melhores práticas no desenvolvimento responsável da IA.
O desenvolvimento de modelos de Inteligência Artificial de grande escala acarreta desafios para a comunidade científica, desde logo o elevado custo computacional que o treino de modelos com milhões, biliões e, eventualmente, triliões de parâmetros, implica, tornando-se um sério constrangimento para a de investigação nesta área. Porém, traz, também, uma série de oportunidades. Para dar resposta a estes desafios e para tirar o melhor proveito das oportunidades, um conjunto de entidades, de diferentes partes do globo, uniu-se para acelerar a utilização de IA generativa na ciência e na engenharia.
O The Trillion Parameter Consortium (TCP) pretende, através da colaboração entre especialistas nas áreas de IA e de computação de alto desempenho, construir uma comunidade aberta e diversificada, que junte quer entidades que desenvolvam modelos de IA generativos de grande escala, quer entidades que operem sistemas de computação.
“O TPC junta três grandes grupos de entidades. Por um lado, aquelas que trabalham no desenvolvimento, treino e avaliação de modelos de grande escala. Por outro, entidades que desenham e constroem sistemas de hardware e software. E, por fim, as organizações que vão utilizar os sistemas de IA que resultem desta colaboração para dar resposta a problemas na ciência, na engenharia, na medicina e em muitos outros domínios”, explica Rui Oliveira, investigador do INESC TEC, reforçando que o objetivo desta aliança é unir esforços para potenciar o impacto de muitos projetos e iniciativas já em curso.
Desta forma, a parceria vai promover a partilha de experiências, ferramentas e dados, a colaboração entre a academia, os centros de I&D, as empresas e os centros de supercomputação, e a defesa das melhores práticas no desenvolvimento, integração e avaliação responsável da IA. Projetos colaborativos, encontros, hackathons, seminários, visitas, white papers ou escolas de verão estão entre as muitas atividades previstas pelo consórcio.
“Ao integrarmos uma rede global de recursos, conhecimentos e experiências, estamos também a contribuir para dar resposta a um grande desafio para o desenvolvimento da IA, atualmente, que é o acesso aberto – incluindo a dados, a códigos-fonte ou workflows. Esse acesso é fundamental para o progresso em todas as áreas relacionadas com a IA generativa”, refere Rui Oliveira.
A participação do INESC TEC no TPC foi formalizada por altura da reunião de lançamento deste Consórcio, na Europa, que teve lugar no Centro de Supercomputação de Barcelona, em junho, e que reuniu as comunidades europeias de IA, computação de alto desempenho e investigação. Neste encontro, foram apresentados vários projetos, como por exemplo, o “AuroraGPT: Building an Interdisciplinary Foundation Model”, operacionalizado pelo supercomputador Aurora. O INESC TEC apresentou a sua atividade recente relacionada com “Growing and Training a diverse, global AI For Science Community”, assim como projetos internacionais nos quais já participou ou ainda participa, nomeadamente, BigHPC, RISC2, EPICURE e HANAMI – com vista ao desenvolvimento da computação de alto desempenho.
O investigador referido na notícia tem vínculo ao INESC TEC e à U.Minho.