Novas IAs Abertas da Nvidia e Meta Exigem Hardware Caro
A onda de modelos abertos nos EUA ganhou força com os lançamentos da Nvidia e da Meta. Conforme apurado pelo The Decoder e pelo ZDNET, ferramentas como o Nemotron 3.5 Super VL e o Muse Spark Open prometem alta performance para automação, mas cobram o preço em infraestrutura física.
O que muda na prática para quem usa IA?
A principal vantagem desses modelos é a autonomia. A Nvidia projetou o Super VL com 120 bilhões de parâmetros para rodar agentes corporativos contínuos, entregando processamento até cinco vezes mais rápido que concorrentes abertos. Já a Meta apostou no Muse Spark Open com 816 bilhões de parâmetros, otimizado para rodar localmente no Apple M5 Ultra.
No entanto, a promessa de rodar tudo localmente esbarra na realidade financeira do hardware. A versão menor da Nvidia, o Bolt 74B, exige placas com no mínimo 24 GB de VRAM. Isso exclui a maioria dos computadores comuns e restringe o uso local a estações de trabalho profissionais de alto custo.
Passo a passo: como testar os novos modelos
Para colocar essas ferramentas para rodar no seu fluxo de trabalho, siga as diretrizes técnicas divulgadas pelos desenvolvedores:
- Acesse os pesos oficiais: Baixe os modelos base ou compactados diretamente no Hugging Face, onde a Nvidia disponibiliza o Nemotron e a Meta o Muse Spark.
- Configure o ambiente de inferência: Utilize frameworks compatíveis como Ollama, llama.cpp ou o mecanismo Dynamo da Nvidia para otimizar o uso de memória e acelerar o tempo de resposta inicial.
- Para geração de imagens: Utilize o FLUX 3 Image Klein da Black Forest Labs via ComfyUI, que roda em placas de vídeo de consumo com 8 GB de VRAM usando uma versão INT8.
Veredito: quem deve (e quem não deve) usar?
Esses modelos valem a pena para empresas de médio e grande porte que lidam com volumes massivos de documentos confidenciais, auditorias ou triagem de sinistros e que precisam de privacidade total sem depender de APIs pagas de terceiros.
Por outro dada, se a sua operação roda em máquinas padrão de escritório sem GPUs dedicadas robustas, o custo para atualizar o parque de hardware anula a economia de utilizar software de código aberto. Nesse cenário, manter-se em soluções baseadas em nuvem continua sendo a escolha mais pragmática.
Fontes
- Muse Spark Open is Meta's answer to Qwen, GLM, and Kimi in the open-weight race — the-decoder.com
- Black Forest Labs' open-weights image model FLUX 3 Image Klein runs on consumer GPUs with just 8 GB of VRAM — the-decoder.com
- Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop — the-decoder.com
- Nvidia’s new Nemotron 3.5 Super VL is another step forward for US open-weight AI — zdnet.com
Perguntas frequentes
- É possível rodar o Nemotron da Nvidia em um computador comum?
- Não para a versão principal. O modelo Bolt exige pelo menos 24 GB de VRAM, exigindo placas de vídeo de alto padrão ou estações de trabalho dedicadas.
- Quais são as restrições comerciais para usar o Muse Spark Open da Meta?
- O uso é gratuito, mas empresas que faturam mais de US$ 20 milhões por ano (cerca de R$ 115 milhões na conversão aproximada) e desejam ofertar o modelo como API precisam de um acordo separado com a Meta.
- O modelo de imagem FLUX 3 Image Klein exige muita memória?
- Não necessariamente. Ele consegue rodar em GPUs de consumo com apenas 8 GB de VRAM utilizando uma construção INT8, gerando imagens em menos de nove segundos.
Comentários
0 comentáriosDeixe seu comentário
Seja o primeiro a comentar.
