01O que ele sabe fazer
- Denso 7B: cabe em GPU de 6 a 8 GB em Q4
- Especializado em código, alinhado com DPO
- Licença Apache 2.0 permissiva
- Contexto nativo de 128k
- —Modelo de 2024: fica atrás dos modelos de código mais recentes
- —Pesos com acesso restrito no Hugging Face (aceitação necessária)
- —Sem tag Ollama — instalação via Hugging Face
04Instalar
Instale Ollama para seu SO. Verifique o modelo e sua quantização antes do download. Comece com 4096 tokens de contexto, depois verifique a alocação com ollama ps. Um comando abaixo não é prova de teste executado na sua máquina.
02Memória necessária
Quantidade aproximada de VRAM da GPU necessária para executar este modelo, incluindo a memória adicional para um contexto de 4k tokens. Para um contexto mais longo, adicione ~1 GB a cada 8k tokens.
Qual hardware usar para IBM Granite Code 7B DPO?
Para executar IBM Granite Code 7B DPO localmente com quantização Q4, você precisa de aproximadamente 4.1 GB de VRAM. Uma opção para comparar: RTX 5060 Ti 16 GB — mantenha uma margem para o sistema e o contexto; verifique a compatibilidade do motor com a GPU.
Links afiliados — comissão possível sem custo adicional para você, recomendação independente. Como Parceiro Amazon, QualLLM obtém lucro com compras que atendem às condições exigidas.
Em deslocamento: IBM Granite Code 7B DPO também roda em um Notebook RTX (16 GB de VRAM) →
03Velocidade estimada
Tokens gerados por segundo em Q4_K_M, contexto 4k. Acima de 20 t/s, a leitura é confortável. Abaixo de 10 t/s, é apenas para testar.