Inteligência Artificial em Computadores Antigos: Um Feito Inédito
A IA geralmente é associada a data centers, servidores robustos e placas gráficas de última geração. Mas uma equipe de especialistas liderada por Andrej Karpathy e EXO Labs, formada por engenheiros da Universidade de Oxford, conseguiu rodar um modelo baseado no Llama 2 em um PC com Pentium II de 350 MHz, 128 MB de RAM e Windows 98.
Mesmo com configurações extremamente limitadas, o computador atingiu 39,31 tokens por segundo ao executar um modelo com 260.000 parâmetros — tudo isso sem GPU. A chave desse sucesso foi uma arquitetura chamada BitNet, que compacta os modelos e os torna leves o suficiente para rodar em CPUs convencionais.
BitNet: A Revolução dos Modelos de IA Compactos
A tecnologia BitNet utiliza pesos ternários, o que reduz drasticamente o tamanho e a complexidade dos modelos de linguagem. Com isso, modelos com 7 bilhões de parâmetros ocupam apenas 1,38 GB de armazenamento. Segundo a EXO Labs, é possível escalar para modelos de 100 bilhões de parâmetros usando apenas uma CPU, sem sacrificar eficiência.
Além de economizar memória e processamento, essa arquitetura pode ser até 50% mais eficiente do que os modelos tradicionais de IA, oferecendo uma alternativa sustentável e acessível para o desenvolvimento de aplicações inteligentes.
O Futuro da IA: Acessível, Sustentável e Democrática
Este experimento com um PC antigo dos anos 90 é mais do que uma curiosidade: é um sinal claro de que a IA pode ser democratizada. Ao invés de depender de infraestrutura cara, empresas e desenvolvedores poderão utilizar hardware mais simples para criar soluções inteligentes em escala.
A inteligência artificial está caminhando para se tornar uma tecnologia inclusiva, acessível em qualquer lugar — até mesmo nos dispositivos mais improváveis.
Com informações de Gizmodo.
Achou útil essa informação? Compartilhe com seus amigos!
Deixe-nos a sua opinião aqui nos comentários.
