Mistral Large 4 com pesos abertos: download, hardware e execução em 1 bit

O checkpoint completo do Mistral Large 4 ocupa cerca de 1.060 GB, enquanto a menor quantização utilizável tem 233 GB. Os pesos do Mistral Large 4 chegaram ao Hugging Face em 29 de outubro de 2026, sem restrição de acesso, com versões oficiais em FP8 e NVFP4, além de arquivos GGUF da comunidade. Para rodar o modelo localmente de forma viável, conte com uma workstation com 512 GB de memória unificada ou com um servidor equipado com várias GPUs.

Este é o guia de download que acompanha nossa análise prévia da API do Mistral Large 4. Aqui, o foco está apenas no que mudou em 29 de outubro: onde encontrar os arquivos, qual hardware dá conta deles, comandos para executar o modelo e limites da licença.

Escolha o arquivo certo do Mistral Large 4 antes de baixar

O repositório oficial é mistralai/Mistral-Large-4-1T-A52B: são 54 shards safetensors distribuídos em 68 arquivos, totalizando 1.060,6 GB, com gated: false. A versão NVFP4 está no repositório mistralai/Mistral-Large-4-1T-A52B-NVFP4, com 32 shards e 610,1 GB, também sem restrição de acesso. Os tamanhos e a quantidade de shards abaixo vêm das páginas desses repositórios no Hugging Face e do post de lançamento do Hugging Face.

pip install -U "huggingface_hub[cli]"
hf download mistralai/Mistral-Large-4-1T-A52B --local-dir ./ml4-fp8
hf download mistralai/Mistral-Large-4-1T-A52B-NVFP4 --local-dir ./ml4-nvfp4
hf download unsloth/Mistral-Large-4-1T-A52B-GGUF --include "UD-IQ1_S*" --local-dir ./ml4-gguf

A divisão dos shards — 52 dos 54 arquivos têm quase 20 GB cada, enquanto os dois últimos são menores — está detalhada na lista de arquivos da OrcaRouter. Se o download for interrompido, execute o mesmo comando novamente para retomar o shard incompleto.

Por que 52B de parâmetros ativos ainda exigem centenas de gigabytes

O Mistral Large 4 tem 1,05 trilhão de parâmetros, com 49 bilhões ativos por token nas camadas de computação — 52 bilhões incluindo os embeddings — segundo a Mistral e as notas de arquitetura do Hugging Face. O decoder usa 71 camadas MoE, cada uma com 128 especialistas; por token, são acionados 4 especialistas roteados e 1 compartilhado.

A esparsidade reduz o processamento, mas não o espaço necessário para armazenar o modelo: todos os especialistas precisam permanecer na memória, embora apenas cinco sejam acionados por token. Por isso, planeje o tamanho total dos arquivos, uma margem para a execução e o cache KV — não apenas uma conta de 52B multiplicada pelos bytes por parâmetro. O contexto de 1 milhão de tokens presente no config.json é um teto; a receita de endpoint do Hugging Face demonstra 131K tokens com 16 sequências simultâneas.

Configurações de hardware para o Mistral Large 4

Nenhuma GPU de 24 GB ou 48 GB comporta este modelo; até o menor arquivo de 1 bit ocupa cerca de 233 GB. Os números abaixo são as medições de lançamento publicadas no guia de implantação do Hugging Face, e não benchmarks próprios:

O DGX Spark, com 128 GB, e qualquer Mac com menos de 256 GB não conseguem carregar nem a versão de 1 bit para uso prático. Como o arquivo tem 233 GB, 256 GB é o limite mínimo ditado pelo tamanho do arquivo — a classe de equipamento que a Unsloth indica para esta versão. Na prática, prefira uma máquina da classe de 512 GB quando considerar o cache KV e o consumo do sistema operacional. Um proprietário de uma máquina com 445 GB de RAM unificada relatou que até a versão IQ2_XXS ficou difícil de usar:

"ugh trying to get le chonk (Mistral Large 4) to fit on my li'l 445GB unified RAM and even at IQ2_XXS it's roughhhhh...I need SPARKS dangit!" — @Nateemerson no X

Na prática, as faixas ficam assim: arquivos de 1 bit com 233-260 GB — uma máquina de 512 GB é o cenário realista —, versões de 2 bits a partir de ~302 GB e versões de 4 bits entre ~500 GB e 610 GB para o NVFP4, além do cache adicional em contextos longos.

Como rodar o 1-bit da Unsloth em um Mac Studio

O repositório da Unsloth, unsloth/Mistral-Large-4-1T-A52B-GGUF, oferece UD-IQ1_S (~233 GB) e UD-IQ1_M (~260 GB). A Unsloth afirma obter cerca de 91% de acurácia top-1 com uma redução de aproximadamente 80% no tamanho — uma alegação da própria fornecedora na página do modelo, não um resultado independente. Valide o desempenho com seus próprios prompts.

"The 1 trillion parameter model runs on a Mac Studio with our 1-bit GGUF which retains 91% top-1 accuracy. Le Chonk is the strongest Western open model to date." — @UnslothAI no X

Use o llama.cpp para a versão de 1 bit. O exemplo com Ollama na página da Unsloth faz referência ao arquivo maior UD-Q4_K_XL:

llama serve -m ./ml4-gguf/UD-IQ1_S.gguf --mmproj ./ml4-gguf/mmproj.gguf --ctx-size 8192 --port 8080
llama cli -m ./ml4-gguf/UD-IQ1_S.gguf --mmproj ./ml4-gguf/mmproj.gguf -p "Patch this Rust borrow error:"

Adicione --mmproj para aceitar imagens — o arquivo do projetor está listado no repositório da Unsloth —, mantenha o contexto entre 8K e 32K em máquinas com 256 GB e evite usar mistral.rs com arquivos IQ1: a documentação de GGUF lista IQ1, IQ2, IQ3 e IQ4 como incompatíveis. Nesse caso, use Q2_K ou Q4_K. A Unsloth também oferece um arquivo de rascunho DSpark para decodificação especulativa; ative-o somente depois que a execução básica estiver estável.

vLLM para equipes com Blackwell ou H200

O vLLM é o caminho de servidor documentado, com endpoint compatível com a API da OpenAI e reasoning_effort definido como low, medium ou high. O padrão é high e não pode ser desativado, segundo as notas do Hugging Face sobre vLLM. Ajuste o paralelismo de tensores à quantidade de GPUs: 8 para a configuração FP8 com 8x H200 e 4 para um nó NVFP4 com 4 GPUs:

# 4x Blackwell NVFP4 example
vllm serve mistralai/Mistral-Large-4-1T-A52B-NVFP4 --tensor-parallel-size 4 --enable-expert-parallel --max-model-len 131072 --max-num-seqs 16 --max-num-batched-tokens 2048 --gpu-memory-utilization 0.85 --enable-prefix-caching --enforce-eager --port 8000

A referência com 8x H200 e FP8 adiciona o tipo de cache KV em FP8 e o draft head do DSpark. O Enterprise Hub da Dell implanta NVFP4 em um nó B300 com 4 GPUs. Para fine-tuning com TRL e LoRA, a recomendação é usar FP8 — referência: 8x B300, rank 16, alpha 32 e lr 1e-4 — de acordo com as notas de fine-tuning do Hugging Face.

O limite da licença que você não pode ignorar

Os pesos usam a Mistral Ecosystem Open-Weight License, vinculada como LICENSE no repositório oficial. Trata-se de uma licença MIT modificada que permite executar, copiar, modificar, treinar, distribuir, sublicenciar e vender cópias ou derivados, sem um limite de receita declarado. A restrição está no Model-as-a-Service: vender a terceiros acesso a inferência ou pós-treinamento, dando controle relevante sobre entradas, parâmetros ou dados de treinamento, exige uma licença comercial separada da Mistral. Uso interno, produtos que incorporam o modelo em recursos específicos, encaminhamento para outro host e uso hospedado pela Mistral estão entre as exceções previstas.

Em geral, hospedar o modelo por conta própria e distribuí-lo dentro do seu aplicativo se enquadra nos usos excepcionados descritos na licença. Já vender acesso direto à API aponta para a necessidade de um acordo separado — confirme no texto da licença antes de lançar o produto.

Vale baixar o modelo ou usar a API?

As tarifas finais da API são de $0.70 por milhão de tokens de entrada / $2.10 por milhão de tokens de saída ($0.07 para tokens em cache), segundo a Mistral. É a forma mais rápida de testar o desempenho em cibersegurança e programação — com resultados reportados de 82% em reproduce-and-patch e 93% em 40 tarefas do Cybench, segundo o resumo de benchmarks do Hugging Face — antes de investir em armazenamento.

Baixe o modelo quando precisar de controle sobre residência de dados, auditoria, políticas personalizadas ou fine-tuning privado. Para reduzir a operação, alugue tokens: quatro GPUs Blackwell, energia, armazenamento e o trabalho de disponibilizar o serviço podem custar mais por token útil do que a API quando aluguel e operação entram na conta. Se a ideia é apenas avaliar o modelo, comece chamando mistral-large-4 e baixe o GGUF de 233 GB depois que uma máquina com 512 GB estiver pronta.

Perguntas frequentes

Onde baixar os pesos oficiais?

mistralai/Mistral-Large-4-1T-A52B (~1.060 GB) e mistralai/Mistral-Large-4-1T-A52B-NVFP4 (~610 GB). Ambos estão disponíveis sem restrição de acesso.

Uma única GPU de 24 GB consegue executá-lo?

Não. O menor arquivo tem cerca de 233 GB. Portanto, use no mínimo 256 GB de memória unificada — 512 GB é o cenário realista —, faça offload para uma máquina com muita RAM ou use servidores com várias GPUs.

Qual arquivo da Unsloth devo usar em um Mac Studio?

UD-IQ1_S (~233 GB) se a memória estiver apertada e UD-IQ1_M (~260 GB) em máquinas com 512 GB. As versões Q2_K/Q4_K_M precisam de 300-500 GB.

A versão de 1 bit oferece suporte a visão e Ollama?

Sim, usando --mmproj em um runtime compatível. O exemplo do Ollama usa UD-Q4_K_XL; para 1 bit, use o llama.cpp.

É possível fazer fine-tuning?

Sim, com TRL/LoRA em FP8 — a referência usa 8x B300. Reserve mais de 1 TB de armazenamento, além da memória necessária para o treinamento.

O contexto de 1M é real ao hospedar o modelo por conta própria?

Ele é o limite definido na configuração. As receitas demonstradas trabalham com 131K em 8x H200, 32K com NVFP4 em 4x RTX 6000 Pro ou até 800K com IQ2_XXS, mas com uma redução acentuada na velocidade.