◆ Mac — IA local no seu Mac, ao máximo — memória unificada, MLX, o modelo certo para seu chip · 24 € · ou todos os kits 49 € →

Ferramenta · Apple Silicon M1 a M6

Qual LLM pode rodar no meu Mac ?

Escolha seu chip e sua memória: a ferramenta lista os modelos do catálogo que cabem, com a quantização a usar e a velocidade esperada.

Seu Mac

Carregando o catálogo…

O que roda conforme a memória do seu Mac

A memória unificada é compartilhada entre o macOS e os modelos. Por padrão, a GPU pode usar cerca de dois terços em configurações com até 32 GB e três quartos acima disso. Sugestão: o maior e mais recente modelo que caiba em Q4 com um contexto de 8K.

A velocidade depende do chip

A cada palavra gerada, o Mac relê todo o modelo na memória: a largura de banda define, portanto, o limite de velocidade. Com a mesma quantidade de memória, um chip Max ou Ultra é várias vezes mais rápido que um chip básico.

ChipLargura de bandaMemórias sugeridas
M168 GB/s8, 16 GB
M1 Pro200 GB/s16, 32 GB
M1 Max400 GB/s32, 64 GB
M1 Ultra800 GB/s64, 128 GB
M2100 GB/s8, 16, 24 GB
M2 Pro200 GB/s16, 32 GB
M2 Max400 GB/s32, 64, 96 GB
M2 Ultra800 GB/s64, 128, 192 GB
M3100 GB/s8, 16, 24 GB
M3 Pro150 GB/s18, 36 GB
M3 Max300 a 400 GB/s36, 48, 64, 96, 128 GB
M3 Ultra819 GB/s96, 256, 512 GB
M4120 GB/s16, 24, 32 GB
M4 Pro273 GB/s24, 48, 64 GB
M4 Max410 a 546 GB/s36, 48, 64, 128 GB
M5153 GB/s16, 24, 32 GB
M5 Pro307 GB/s24, 48, 64 GB
M5 Max460 a 614 GB/s36, 48, 64, 96, 128 GB
M5 Ultra1200 GB/s96, 256, 512 GB
M6170 GB/s16, 24, 32 GB

Dois valores: a versão com menos núcleos de GPU (e menos memória) tem menor largura de banda. Fontes: fichas técnicas da Apple; M5 e M6: nossas fichas Mac Studio M5 et Mac mini M6.

Perguntas frequentes

Um Mac com 8 GB consegue rodar um LLM?

Sim, mas apenas modelos pequenos: cerca de 5 GB estão disponíveis para os modelos, o que permite acomodar um modelo de 3 a 4 bilhões de parâmetros em Q4 (Qwen 3 4B, Gemma 3 4B). A partir de 16 GB, modelos de 7 a 8 bilhões de parâmetros passam a rodar com folga.

Que parte da memória unificada a GPU pode utilizar?

Por padrão, o macOS reserva cerca de um terço da memória para o sistema nos Macs com até 32 GB, e um quarto acima disso. Um Mac de 24 GB oferece, portanto, cerca de 16 GB para os modelos; um Mac de 96 GB, cerca de 72 GB. O comando sysctl iogpu.wired_limit_mb permite aumentar esse limite, deixando memória suficiente para o macOS.

Por que dois Macs com a mesma memória não têm a mesma velocidade?

Porque a velocidade de geração depende principalmente da largura de banda da memória: 120 GB/s em um M4, 273 GB/s em um M4 Pro e 546 GB/s em um M4 Max. A cada palavra, a máquina relê todo o modelo. Um M4 Max, portanto, é cerca de 4 vezes mais rápido que um M4 com um modelo que cabe em ambos.

MLX, Ollama ou LM Studio no Mac?

Os três funcionam. O MLX, framework da Apple, costuma ser o mais rápido no Apple Silicon; o LM Studio o disponibiliza com uma interface gráfica; o Ollama é o mais simples na linha de comando e se integra a muitas ferramentas.

Mais ferramentas gratuitas