Uma placa de 12GB consegue rodar um modelo de 125 bilhões de parâmetros?
Se você tenta rodar IA localmente em uma placa de 12GB, este teste interessa.
Um teste com a Intel Arc B580 indica que o software faz uma diferença grande no desempenho.
A PC Watch, publicação tecnológica japonesa, publicou os resultados em 26 de outubro. A Notebookcheck repercutiu o caso.
> “O software que gere a carga de trabalho pode fazer uma diferença substancial no desempenho.”
Os números do teste
Na mesma placa, a velocidade mudou bastante conforme o motor de inferência usado.
- XeStrata: 31,1 tokens por segundo
- Strata: 10,9 tokens por segundo
- Diferença: cerca de 2,85 vezes, ou melhoria de cerca de 185%
Segundo o relato, a placa gráfica não foi trocada entre os dois casos. O XeStrata é um motor de inferência de código aberto derivado do Strata.
Como foi a configuração
A fonte lista os componentes usados no teste. Esses detalhes ajudam a entender o resultado.
- Placa: ASRock Intel Arc B580 Challenger 12GB OC
- Processador: Intel Core Ultra 5 250KF Plus
- Memória: 64GB DDR5
- Sistema: Ubuntu 26.04 LTS
- Modelo: Qwen3.8-Flash-Next, com quantização IQ3_S
- Contexto e cache: 64K tokens e cache KV de 8 bits
A fonte explica que quantização, contexto e alocação de memória podem afetar a inferência. A versão original em português traz o mesmo relato.
Os limites do teste
Esse é o ponto que pede cuidado. A GPU de 12GB é só parte da equação.
> “Apesar de o modelo ser apresentado como tendo 125 bilhões de parâmetros, o teste não demonstra que o modelo inteiro caiba em 12GB de VRAM.”
Isso sugere que o ganho de velocidade não responde, sozinho, se o modelo completo roda na placa.
Quer reproduzir em casa?
A fonte não traz um passo a passo de instalação, comandos ou arquivos de configuração do XeStrata.
Também não menciona erros comuns, limites de hardware além dos citados ou alternativas gratuitas comprovadas. Não há informação sobre a licença do Strata.
Para quem quer testar, o ponto de partida é a matéria da Notebookcheck em alemão, que repete o relato.
O que fica do teste?
O resultado reportado é de 31,1 tokens por segundo com XeStrata, contra 10,9 com o Strata, na mesma placa.
O número é forte, mas o teste reúne configuração específica, quantização IQ3_S e contexto de 64K. Não é um benchmark geral da Arc B580.
Quanto do modelo cabe de fato na memória da placa? Essa resposta, a fonte não dá.
