Otimização de Fábricas de IA Sustentáveis por Compartilhamento de GPU - Costa, Matheus M.; Rigo, Sandro; Osthoff, Carla; Rizzi, Silvio; Navaux, Philippe O. A.; Lorenzon, Arthur (Anais do Simpósio em Sistemas Computacionais de Alto Desempenho (SSCAD); 2025: Anais do XXVI Simpósio em Sistemas Computacionais de Alto Desempenho, 2025)
O uso de Inteligência Artificial (IA) em larga escala tem crescido rapidamente, aumentando a pressão sobre infraestruturas de computação de alto desempenho (HPC). Em particular, com o surgimento de AI Factories, é necessária a adoção de estratégias eficientes de alocação de recursos para maximizar o throughput e reduzir o consumo energético. Nesse cenário, o compartilhamento de GPUs surge como uma alternativa promissora para melhorar a utilização dos aceleradores e equilibrar desempenho e eficiência energética. Este artigo investiga o impacto do compartilhamento da GPU na eficiência energética durante a inferência de modelos de IA usando o acelerador Intel Data Center GPU Max 1550 no supercomputador de classe exascale Aurora. Avaliamos quatro modelos distintos de IA de diferentes domínios de aplicação, como visão computacional, processamento de linguagem natural e geração de texto. Os resultados mostram que a co-localização de aplicações com perfis de uso de recursos complementares pode reduzir o tempo de execução em até 50% e o consumo de energia em até 43%. Por fim, demonstramos que a alocação de tarefas concorrentes em GPU, baseada na caracterização prévia das aplicações, é uma estratégia promissora para maximizar a eficiência em ambientes HPC.