Qwen 3.6 27B local: memória por quantização

#Qwen 3.6 27B: a resposta curta

Para usar Qwen 3.6 27B sem transbordar para o processador, planeje uma placa com 24 GB de VRAM ou um Mac com pelo menos 32 GB de memória unificada. Um Mac de 24 GB pode servir para um teste com contexto curto e poucos outros aplicativos abertos. Abaixo disso, o modelo ainda pode carregar, mas parte do processamento passa para o processador.

Commande

ollama run qwen3.6:27b. Le tag existe dans la bibliothèque officielle d'Ollama (relevé du 5 septembre 2026).

Arquivo

18 GB no Ollama (levantamento de 29 de setembro de 2026); 16,10 GB na página do LM Studio (levantamento de 5 de setembro de 2026).

Outras quantizações

Cerca de 19 GB em Q5, 29 GB em Q8 e 54 GB em FP16, segundo o catálogo QuelLLM. São estimativas, não tamanhos oficiais de arquivo.

Contexto

O Ollama aloca 4 k tokens abaixo de 24 GiB de VRAM, 32 k de 24 a 48 GiB e 256 k a partir de 48 GiB. Qualquer aumento consome memória além do arquivo.

Hábito de verificação

ollama ps: enquanto a coluna PROCESSOR não indicar 100% GPU, o modelo está transbordando.

#O que você está instalando

O Qwen 3.6 27B é um modelo denso da Alibaba, publicado em abril de 2026 sob a licença Apache 2.0. "Denso" significa que seus 27 bilhões de parâmetros participam do cálculo de cada token. A página do Ollama atribui a ele os recursos de visão, ferramentas e raciocínio (thinking), além de um contexto máximo anunciado de 256 k tokens. As especificações completas estão na página do /modele/qwen36-27b: este guia trata apenas da memória e da instalação.

Este modelo já não é o mais recente do seu tamanho: o Qwen 3.8 27B o sucedeu em agosto de 2026. O 3.6 ainda é interessante se os seus prompts já estiverem ajustados para ele ou se uma ferramenta que você usa o citar na documentação. Para uma primeira instalação, compare também com nosso guia sobre o Qwen 3.8 27B, que tem tags e configurações próprias.

#Memória do Qwen 3.6 27B por quantização

A quantização reduz a precisão dos pesos para diminuir o tamanho deles. Quanto mais forte ela for, menor será o arquivo, com risco de perda de qualidade. A tabela separa propositalmente os tamanhos publicados e as estimativas do catálogo, porque esses números não têm o mesmo valor.

A coluna "Tamanho + 15 a 25 %" aplica uma regra de prudência, idêntica à do nosso guia sobre Qwen 3.8 27B. Ela serve para antecipar o cache de contexto e a sobrecarga do mecanismo. É um cálculo, não uma medição: o consumo real depende do contexto escolhido, do mecanismo e do que estiver rodando ao mesmo tempo.

Por que 18 GB e 16,10 GB?

Ollama e LM Studio não distribuem necessariamente o mesmo pacote. Nosso levantamento não permite atribuir a diferença a uma causa precisa: considere o número exibido pela ferramenta que você usa.

Por que o catálogo indica 16 GB em Q4?

É uma estimativa baseada no número de parâmetros. Ela dá uma ordem de grandeza e fica 2 GB abaixo do arquivo anunciado pelo Ollama. Para esta tag, o número do Ollama prevalece.

Um ponto de comparação

Para o Qwen 3.8 27B, modelo do mesmo tamanho, o Ollama publicava 18 GB em Q4_K_M, 30 GB em Q8 e 56 GB em BF16 (levantamento de 18 de agosto de 2026). Esses valores se referem a outro modelo: indicam uma tendência, sem substituir um levantamento do 3.6.

Se várias variantes couberem na sua memória, comece pela Q4_K_M: é a configuração recomendada no QuelLLM. Só suba de nível se os seus próprios prompts mostrarem um defeito que a quantização explique. Nosso guia sobre a escolha da quantização detalha esse equilíbrio de modo geral.

#A margem a reservar para o contexto

O tamanho do arquivo é apenas o ponto de partida. O motor também reserva memória para a janela de contexto, ou seja, a conversa, os documentos e o raciocínio do modelo. O contexto anunciado de 256 k tokens é um máximo, não o que será realmente alocado.

Menos de 24 GiB de VRAM

O Ollama começa com 4 k tokens. Isso é suficiente para uma conversa curta, não para um documento longo.

De 24 a 48 GiB

32 k tokens por padrão: a faixa de uma RTX 4090.

48 GiB ou mais

256 k tokens por padrão. Essa alocação ocupa muito espaço: reduza-a se você não precisar dela.

Agentes, código, busca na web

O Ollama recomenda pelo menos 64 000 tokens para esses usos. Em 24 GB, esse valor não é garantido: teste-o com ollama ps.

O risco é duplo. Uma janela curta demais obriga o mecanismo a deixar de lado parte da entrada, e o modelo então responde com base em um texto incompleto. Uma janela longa demais pode fazer o modelo transbordar para o processador. Na falta de medições neste modelo, este guia não informa um número em GB por faixa de tokens: o método certo é aumentar aos poucos.

1. 01
   Comece pelo valor padrão

   Execute o modelo com uma solicitação habitual e depois leia ollama ps. Anote a memória ocupada, o contexto e a distribuição entre GPU/CPU.
2. 02
   Aumente em etapas

   Passe, por exemplo, de 8 k para 16 k, depois para 32 k e 64 k tokens. Recarregue o modelo a cada mudança: o contexto é definido no carregamento.
3. 03
   Pare antes de a memória transbordar

   Assim que PROCESSOR mostrar uma divisão entre CPU e GPU, volte à etapa anterior. Deixe um pouco de folga se você também enviar imagens, pois o processamento delas também usa memória.

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.6:27b",
  "prompt": "Résume ce texte en trois points : ...",
  "stream": false,
  "options": { "num_ctx": 32768 }
}'

Se o Ollama já estiver rodando como serviço, a variável deve ser definida na configuração do serviço, pois um comando executado em um terminal não o altera. O aplicativo Ollama também oferece um controle deslizante de contexto nas configurações.

#Sua máquina é suficiente?

A tabela de memória se traduz em hardware de forma bastante simples. As referências abaixo se aplicam à tag padrão de 18 GB. Elas decorrem desse cálculo de tamanho e não descrevem testes: nenhuma velocidade é informada.

RTX 3060 12 GB, RTX 4070 12 GB

O arquivo excede a VRAM: parte do modelo ficará no processador. Prefira um modelo menor, de tamanho 14B aproximadamente em Q4 (≈ 9 GB).

RTX 4080 16 GB

O arquivo de 18 GB ainda excede a VRAM, assim como os 16,10 GB de LM Studio depois que o contexto é adicionado. O uso continua possível com uma divisão entre GPU e CPU, mas sem ser confortável.

RTX 4090 24 GB

O primeiro patamar coerente: deixa cerca de 6 GB acima do arquivo para o contexto e a sobrecarga do motor.

Mac M4 Pro 24 GB

Possível para um teste: o sistema e os aplicativos usam a mesma memória que o modelo. Mantenha um contexto curto e feche os aplicativos pesados.

Mac de 32 a 48 GB

A escolha sensata para o uso diário, com uma folga real para o contexto.

Sem placa de vídeo

O catálogo QuelLLM estima em 28 GB a memória RAM necessária. O modelo pode funcionar, mas espere uma geração bem mais lenta do que em GPU.

Reserve também espaço em disco: no mínimo o tamanho do arquivo, com alguma folga se você mantiver várias variantes. Para a sua configuração específica, o configurador do QuelLLM fornece uma primeira estimativa, a ser confirmada com ollama ps.

#Instalar Qwen 3.6 27B com Ollama

O Ollama é indicado se você quer um serviço local acessível por API, no http://localhost:11434, possivelmente com o Open WebUI como interface.

1. 01
   Instale ou atualize o Ollama

   No Linux, use o script oficial abaixo. No macOS e no Windows, baixe o aplicativo em ollama.com. Uma versão antiga pode não reconhecer o modelo: atualizar é a primeira medida em caso de erro.
2. 02
   Baixe o modelo

   ollama pull qwen3.6:27b récupère le fichier. Si la connexion coupe, relancez la commande.
3. 03
   Confira o que você recebeu

   ollama show qwen3.6:27b affiche notamment la quantification, le contexte maximal et les capacités du paquet. C'est le moyen le plus sûr de savoir à quelle variante correspond le tag par défaut.
4. 04
   Inicie uma primeira conversa

   A primeira resposta chega depois que os pesos são carregados na memória. Enquanto o modelo é carregado, confira ollama ps em um segundo terminal.

# Linux : installer ou mettre à jour Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger le modèle
ollama pull qwen3.6:27b

# Vérifier la quantification, le contexte et les capacités
ollama show qwen3.6:27b

# Discuter avec le modèle
ollama run qwen3.6:27b

# Dans un second terminal : mémoire et répartition GPU/CPU
ollama ps

Em Mac Apple Silicon, a biblioteca também oferece qwen3.6:27b-mlx (levantamento de 5 de setembro de 2026), destinado ao mecanismo MLX. O tamanho pode ser diferente: consulte a página de tags antes de escolher.

#Instalar com LM Studio

O LM Studio é adequado se você prefere uma interface gráfica, com ajuste visível do contexto e do número de camadas enviadas à GPU. Sua ficha oficial traz o identificador qwen/qwen3.6-27b, informa 16,10 GB e confirma o uso de ferramentas, a visão e o raciocínio (dados coletados em 5 de setembro de 2026).

1. 01
   Procure o modelo

   Na busca de modelos, digite qwen/qwen3.6-27b. O LM Studio lista as variantes disponíveis e destaca a que considera adequada ao seu hardware.
2. 02
   Escolha o formato

   GGUF no PC, MLX ou GGUF no Mac. Compare o tamanho exibido com a sua memória, mantendo a folga da tabela anterior.
3. 03
   Ajuste o carregamento

   Antes de carregar o modelo, ajuste o comprimento do contexto e o descarregamento para a GPU. Comece com um valor modesto e depois aumente aos poucos, como no Ollama.
4. 04
   Monitore a memória

   Faça um teste com uma solicitação real e observe a memória usada. Se o sistema ficar lento, reduza o contexto antes de mudar a quantização.

# Variante GGUF (--mlx sur Mac pour le format MLX)
lms get qwen/qwen3.6-27b --gguf

Depois, você poderá expor o modelo a outros aplicativos por meio do servidor local do LM Studio: nosso guia dedicado à API dele detalha essa etapa. Para escolher entre as duas ferramentas, consulte nosso comparativo Ollama e LM Studio.

#Qwen 3.6 27B ou 35B-A3B: a escolha em princípio

Os dois modelos pertencem à mesma família, mas não são construídos da mesma forma. O 27B é denso. O 35B-A3B é um Mixture-of-Experts (MoE): ele tem 35 bilhões de parâmetros, dos quais cerca de 3 bilhões ficam ativos a cada token. A comparação a seguir se baseia nessa arquitetura e nos tamanhos publicados, sem benchmark.

Memória

Vantagem do 27B: 16,10 GB contra 20,40 GB nas fichas do LM Studio (dados coletados em 5 de setembro de 2026). Um MoE precisa manter todos os seus especialistas na memória, mesmo que poucos deles trabalhem a cada token.

Cálculo por token

Vantagem, em princípio, do 35B-A3B: menos parâmetros ativos significam menos cálculo por token, desde que todo o modelo caiba na memória. A diferença real depende da sua máquina.

Se você está no limite de 24 GB

O 27B deixa mais espaço para o contexto. O 35B-A3B deixa menos, o que pode fazer diferença em documentos longos.

Se você tem 32 GB ou mais

Os dois cabem. Faça o teste com suas próprias tarefas: o 35B-A3B se a capacidade de resposta for prioridade, o 27B se a visão for importante (os recursos dele são confirmados por nossos levantamentos).

Licença

Apache 2.0 para os dois: esse critério não os diferencia.

#Solução de problemas

“model not found” ao baixar

Verifique a grafia: qwen3.6:27b, com um ponto. Se um sufixo de quantização for recusado, talvez ele não exista: consulte a página de tags e atualize o Ollama se a tag constar nela.

Geração muito lenta

Verifique ollama ps. Uma divisão entre CPU/GPU indica transbordamento: reduza o contexto, feche os aplicativos que usam a GPU ou passe para um modelo menor.

O início do documento parece ser ignorado

O contexto provavelmente está curto demais, sobretudo com os 4 k tokens padrão abaixo de 24 GiB. Aumente num_ctx ou divida o documento.

A configuração OLLAMA_CONTEXT_LENGTH não tem efeito

A variável deve ser aplicada ao servidor, não ao cliente. Reinicie o serviço depois de alterá-la e, em seguida, recarregue o modelo.

Erro de memória ao carregar

Primeiro, reduza o contexto. Se o erro persistir, verifique a memória livre e o número de modelos carregados: ollama stop qwen3.6:27b libera este modelo.

Tamanhos diferentes dos deste guia

Os pacotes podem mudar. Confie na página oficial do momento e no que a sua ferramenta mostra e, depois, aplique a mesma folga.

#Para se aprofundar

Estas páginas complementam o guia sem repetir os números dele: a página do modelo para as especificações e os guias relacionados para os outros modelos e os conceitos gerais.