O ecossistema de inteligência artificial acaba de dar um passo surpreendente rumo à acessibilidade com o lançamento de uma ferramenta desenvolvida pela JustVugg. Trata-se de um software de inferência concebido para contornar uma das maiores barreiras do setor: a dependência de infraestruturas dispendiosas baseadas em placas gráficas de gama alta.

Este avanço demonstra que o hardware doméstico pode voltar a ter um papel ativo na execução de tecnologias de ponta.

Arquitetura inovadora e gestão de memória

A grande proeza desta tecnologia reside na capacidade de lidar com o GLM-5.2, uma arquitetura complexa do tipo Mixture-of-Experts com 744 mil milhões de parâmetros, utilizando apenas cerca de 25 GB de memória RAM. Em vez de carregar a estrutura completa para o sistema, o software mantém residentes apenas os elementos essenciais e dinâmicos através de quantização avançada.

Os restantes blocos de dados são descarregados e geridos diretamente a partir do armazenamento secundário de forma fluida. O uso eficiente de mecanismos de cache e a otimização de instruções matemáticas garantem que o processamento decorre sem travagens abruptas. Podes explorar mais detalhes sobre hardwares compatíveis na nossa secção de componentes de hardware para PC.

Desempenho prático e impacto na comunidade

Embora as velocidades obtidas em ambientes de teste convencionais fiquem aquém do rendimento típico de servidores dedicados, o facto de arrancar rapidamente com uma pegada de memória reduzida abre portas a entusiastas, programadores e investigadores. A total ausência de dependências externas e a construção baseada numa linguagem de programação pura conferem-lhe uma portabilidade excecional, gerando já enorme entusiasmo nas plataformas especializadas em código aberto.


Se estiveres à procura de um PC para trabalho em Inteligência Artificial sem teres de pagar uma fortuna, consulta a nossa área de PC’s no site da Globaldata.pt.

0 0 votes
Classificação do Artigo
Subscrever
Notify of
guest
0 comentários
Oldest
Newest Most Voted