Em 2024, aproximadamente 2,6 bilhões de pessoas ainda não têm acesso à internet, representando 32% da população mundial, segundo a União Internacional de Telecomunicações (UIT) “ConvergenciaDigital “.Essa exclusão digital é mais acentuada em regiões da África, Ásia e América Latina.
No Brasil, cerca de 29 milhões de pessoas permanecem desconectadas, a maioria em áreas urbanas “Mobile Time”. A falta de acesso à internet implica também a ausência de contato com tecnologias emergentes, como a Inteligência Artificial (IA), ampliando ainda mais as desigualdades sociais e econômicas.
Desde 1999, tenho atuado nas áreas de visão computacional e otimização de processamento de alto desempenho. Atualmente, enfrentamos desafios significativos relacionados ao custo e ao consumo energético das aplicações de IA. Estudos indicam que gerar um texto de 100 palavras no ChatGPT consome, em média, 519 mililitros de água para resfriamento dos servidores “National Geographic Portugal”.
Além disso, a criação de uma única ilustração por IA pode demandar uma quantidade de energia equivalente à necessária para carregar completamente um smartphone, e a geração de mil imagens pode consumir energia comparável à utilizada por um carro a combustão percorrendo 6,5 km “desinformante”.
Para mitigar esses desafios, a computação heterogênea surge como uma abordagem promissora. Ao utilizar aceleradores como por exemplo o AVX2, presentes em processadores Intel i5 de sexta geração (lançados aproximadamente em 2015) ou superiores, é possível otimizar o desempenho de aplicações de IA em hardware considerado obsoleto. Nesse contexto, desenvolvemos o MultiCortex Linux, uma distribuição baseada no openSUSE Linux 15.6, que permite a execução de modelos de IA com 3 bilhões e parâmetros em máquinas que, de outra forma, seriam descartadas.
Explorando o desenvolvimento de baixo nível do sistema operacional e trabalhando com memória compartilhada e comunicação entre processos em diferentes aceleradores, podemos aproveitar ao máximo as capacidades de cada hardware. Isso resulta em maior eficiência energética e desempenho computacional, alinhando-se aos princípios da “IA Verde”.
O projeto “IA PARA TODOS” possibilita o uso de inteligência artificial de forma offline, inicializando totalmente a partir de um pendrive, sem a necessidade de modificar as partições de um computador com Windows. Essa solução é especialmente útil para pessoas com recursos computacionais limitados ou baixa conectividade à internet, contribuindo para a redução da exclusão digital.
Nem sempre é necessário dispor de GPUs para executar modelos de linguagem de grande porte (LLMs) menores. Estamos iniciando trabalhos de inferência federada para distribuir o processamento de LLMs em diferentes aceleradores, tornando a IA mais acessível e sustentável.
Outra aplicação relevante é a eliminação do aprisionamento tecnológico em sistemas integrados ao ChatGPT. Ao utilizar servidores de IA privados, os custos estão relacionados à carga computacional processada no hardware, proporcionando maior previsibilidade financeira para projetos. No link do vídeo “Trocando chatGPT por MultiCortex, a IA para todos!”, meu filho, uma criança de 11 anos, demonstra como substituir as chamadas da API do ChatGPT por IAs de código aberto do MultiCortex.
O sistema operacional pode ser baixado na “página do projeto”. Os requisitos são apenas um pendrive de 4 GB, um processador Intel i5 de sexta geração ou superior e 8 GB de RAM. As instruções para gravar o sistema no pendrive a partir de uma máquina Windows estão disponíveis no “Video Tutorial” ou no “página com tutorial”.
A MultiCortex é uma empresa especializada em soluções modulares de IA, com o objetivo de disponibilizar o processamento de inteligência artificial em diversos modelos de aceleradores do mercado. Nosso diferencial é a tecnologia baseada em computação heterogênea, uma das abordagens mais avançadas para o processamento de soluções de IA disponíveis atualmente.
Ao democratizar o acesso à inteligência artificial e otimizar o uso de recursos computacionais
existentes, buscamos reduzir a exclusão digital e promover uma tecnologia mais sustentável e
acessível para todos.
Alessandro de Oliveira Faria Co-fundador da MultiCortex