01O que ele sabe fazer
- Contexto muito amplo de até ~1M tokens
- Orientada para código e raciocínio agêntico
- Licença MIT permissiva
- Versão oficial (ultrapassa a prévia)
- —Modelo muito grande: ~176 GB VRAM em Q4, fora do alcance do público geral
- —Velocidade local modesta (~5 tok/s em Q4)
- —Sem tag Ollama — instalação via HuggingFace
04Instalar
Instale Ollama para seu SO. Verifique o modelo e sua quantização antes do download. Comece com 4096 tokens de contexto, depois verifique a alocação com ollama ps. Um comando abaixo não é prova de teste executado na sua máquina.
02Memória necessária
Quantidade aproximada de VRAM da GPU necessária para executar este modelo, incluindo a memória adicional para um contexto de 4k tokens. Para um contexto mais longo, adicione ~1 GB a cada 8k tokens.
Qual hardware usar para DeepSeek V4 Flash 0731 304B?
Para executar DeepSeek V4 Flash 0731 304B localmente com quantização Q4, você precisa de aproximadamente 176 GB de VRAM. Uma opção para comparar: GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) — este modelo excede a capacidade de GPU deste mini-PC: escolha um modelo menor ou uma infraestrutura adequada.
Por que essa escolha? Nossa ficha completa sobre GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) →
Links afiliados — comissão possível sem custo adicional para você, recomendação independente. Como Parceiro Amazon, QualLLM obtém lucro com compras que atendem às condições exigidas.
03Velocidade estimada
Tokens gerados por segundo em Q4_K_M, contexto 4k. Acima de 20 t/s, a leitura é confortável. Abaixo de 10 t/s, é apenas para testar.