Granite 4.0 H-Small 32B-A9Bvsgpt-oss 20B
Comparativo completo entre Granite 4.0 H-Small 32B-A9B (32 bilhões de parâmetros, IBM) e gpt-oss 20B (21B, OpenAI). VRAM necessária por nível de quantização, tokens por segundo medidos em 4 GPUs de referência, veredito por caso de uso, licença, comandos de instalação. Todos os números são calculados a partir dos dados do catálogo — nada é copiado e colado entre páginas.
Em resumo
| Característica | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| Parâmetros | 32B | 21B |
| Família | Granite | gpt-oss |
| Autor | IBM | OpenAI |
| Origem | US | US |
| Licença | Apache 2.0 | Apache 2.0 |
| Contexto | 128 000 tokens | 128 000 tokens |
| Data de lançamento | outubro de 2025 | abril de 2025 |
Uso de memória
VRAM aproximada necessária para inferência com uma janela de contexto média. O vencedor (em verde) é o modelo que consome menos — vantagem para os menores.
| Quantização | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| Q4_K_M (leve) | 19 GB | 13 GB |
| Q5_K_M (equilíbrio) | 23 GB | 16 GB |
| Q8 (quase sem perdas) | 35 GB | 23 GB |
| FP16 (qualidade máxima) | 64 GB | 42 GB |
| RAM para execução somente na CPU | 32 GB | 18 GB |
Velocidade estimada (tokens/segundo)
Estimativas baseadas na melhor quantização viável em cada GPU. Os números reais dependem do prompt, do contexto e do motor (llama.cpp, vLLM, MLX). Metodologia.
| GPU de referência | Granite 4.0 H-Small 32B-A9B | gpt-oss 20B |
|---|---|---|
| RTX 4090 (24 GB) | 75 tok/s · Q5_K_M | 130 tok/s · Q8 |
| RTX 4080 (16 GB) | ✗ pesado demais | 55 tok/s · Q5_K_M |
| RTX 3060 12GB (12 GB) | ✗ pesado demais | ✗ pesado demais |
| Apple M4 Pro (48 GB) (36 GB) | 30 tok/s · Q8 | 55 tok/s · Q8 |
Veredito por caso de uso
Para cada uso comum, indicamos qual dos dois é o mais adequado com base em suas tags, tamanho e especialização.
Seu ChatGPT privado e gratuito na sua máquina em 1 hora — LM Studio, Ollama, Open WebUI, seus documentos, sem nuvem.
- Espaço online vitalício
- PDF + arquivos
- Atualizações vitalícias
Pontos fortes e fracos
Granite 4.0 H-Small 32B-A9B
Híbrido Mamba-2 + MoE 32B/9B ativos. ~70% menos RAM com contextos longos. Apache 2.0.
- 70% a menos de RAM em contexto longo
- Apache 2.0
- Enterprise-ready
- É necessário suporte em uma versão recente do llama.cpp
Instalação
gpt-oss 20B
Irmão menor do gpt-oss 120B. 21B/3.6B ativos. Empata com o3-mini em laptop.
- Licença MIT
- 13 GB VRAM Q4
- Qualidade OpenAI em um formato acessível
- Contexto de 128k
- MoE — mais VRAM que um equivalente denso
- Menos fine-tunes que Llama/Qwen
Instalação
Perguntas frequentes
Qual modelo funciona melhor em RTX 4090 (24 GB): Granite 4.0 H-Small 32B-A9B ou gpt-oss 20B?
Em uma RTX 4090, Granite 4.0 H-Small 32B-A9B roda a Q5_K_M (~75 tok/s), gpt-oss 20B em Q8 (~130 tok/s). Considerando apenas a taxa de geração, gpt-oss 20B vence. Consulte o configurador para testar sua GPU exata.
Qual consome menos VRAM?
Em Q4_K_M, gpt-oss 20B cabe em 13 GB contra 19 GB para seu concorrente — uma diferença de 6 GB, significativa se você pretende usar uma RTX 3060 ou uma 4060 Ti 8 GB.
Granite 4.0 H-Small 32B-A9B ou gpt-oss 20B para programar?
gpt-oss 20B é o mais adequado (especializado em código, melhores pontuações no HumanEval). Para um copiloto de IDE, combine-o com Continue ou Aider.
É possível usar esses modelos em produção comercial?
Granite 4.0 H-Small 32B-A9B está sob Apache 2.0 — livre para uso comercial. gpt-oss 20B está sob Apache 2.0 — também livre. Para SaaS, prefira Apache 2.0 ou MIT.
Qual escolher em 2026?
Depende da sua restrição principal. Menor / mais rápido: gpt-oss 20B (21B). Mais capaz: Granite 4.0 H-Small 32B-A9B (32B). Se estiver em dúvida, execute o configurador com sua GPU e seu caso de uso — ele decidirá com base nos dois.
Alternativas a considerar
Se nenhum dos dois for adequado, aqui estão os modelos semelhantes que você pode explorar.