AIREITERLançado em 13 de novembro de 2026, o llama.cpp v1.0.0 é a primeira versão estável do projeto sob versionamento semântico: mudanças incompatíveis na API pública em C agora exigem uma nova versão principal. O GitHub marca a tag Latest. As notas da versão descrevem uma versão de limpeza e compatibilidade, com remoção de APIs, novos caches e suporte a modelos.
v1.0 é uma promessa de compatibilidade, não de velocidade
Segundo a seção sobre mudanças de API nas notas da versão, a promessa documentada de compatibilidade vale para a API pública em C definida em llama.h. Considere que opções de CLI, rotas do servidor e o comportamento das versões nightly ainda podem mudar. Use a tag v1.0.0 para builds reproduzíveis e recorra às versões nightly por commit — a página da versão lista a nightly b12359 ao lado da v1.0.0 — apenas quando precisar de correções mais recentes.
"isso significa que eles vão estabilizar os parâmetros da CLI, em vez de mudá-los a cada versão a ponto de nenhum aplicativo conseguir depender do upstream?" — u/halvacoffee no r/LocalLLaMA
Antes de atualizar: 4 verificações para scripts e integrações antigas
Estas são as mudanças de compatibilidade que mais costumam afetar instalações antigas. Comece procurando por elas:
grep -rn "llama_set_warmup\|clip\.h\|--mmap\|--no-mmap\|--defrag-thold\|:8080\|localhost:8080" .Verificação 1: funções C removidas — atualize os bindings
De acordo com as notas da versão, a v1.0 remove 35 funções obsoletas de llama.h, incluindo llama_set_warmup, e também elimina o campo defrag_thold e a opção --defrag-thold. Um símbolo foi renomeado: llama_set_embd_state_src passou a ser llama_set_ctx_state_src. Além disso, a API NextN foi promovida para llama.h. A lista completa de remoções está no changelog da versão indicado acima.
Verificação 2: porta do servidor de 8080 para 9931 — atualize as URLs
O llama-server agora usa http://127.0.0.1:9931 por padrão. Exemplos antigos ainda assumem a porta 8080, como documentado no guia de configuração da Axiomi. Atualize os health checks e as URLs base do editor ou passe --port 8080 para manter o mapeamento antigo.
Verificação 3: --mmap rejeitado — use os modos de carregamento de -lm
Se o seu build rejeitar --mmap com error: invalid argument: --mmap, troque pela opção documentada -lm, --load-mode, que aceita auto, none, mmap, mlock, mmap+mlock e dio. Comece com -lm auto e depois confirme o comportamento usando llama-cli --help e um teste de carregamento representativo.
Verificação 4: clip.h foi removido — migre o código de visão para mtmd
Integrações de visão baseadas em clip.h precisam migrar para o mtmd consolidado, que compartilha buffers de computação entre subcontextos, segundo as notas da versão. Antes de atualizar pipelines de visão, consulte a seção de multimodalidade da versão para ver as observações específicas de cada modelo.
O que realmente chegou ao llama.cpp v1.0
De acordo com as notas da versão, cinco novidades são especialmente relevantes para executar modelos localmente.
| Recurso | O que ele faz | Para quem importa |
|---|---|---|
Cache KV em FP8 (-ctk/-ctv f8_e4m3) | Reduz a memória usada pelo cache KV em comparação com f16 em contextos longos | Chats com contexto longo e RAG com pouca VRAM disponível |
Cache de especialistas MoE (moe_cache_size, moe_cache_cpu_share) | Armazena especialistas em cache com participação configurável da CPU | Modelos MoE que ultrapassam a VRAM disponível |
/v1/audio/speech compatível com OpenAI + temperatura em /tts, TTS drama-3 | Adiciona geração de fala no servidor | Aplicativos de voz locais que não querem depender de TTS na nuvem |
Reforço de segurança do servidor (opt-ins --allow-unauthenticated-tools, --media-allow-private-urls; correções de CORS, DNS rebinding, SSRF e cancelamento do MCP) | Resolve vários problemas relacionados à exposição do localhost e à execução de ferramentas | Quem fizer o bind além de 127.0.0.1 |
Novos modelos compatíveis (Kimi-K3.1-Pro, Ripple-65B-Preview denso de 65B, xing4_0 e novidades em visão) | Amplia a cobertura de GGUF | Usuários que acompanham esses lançamentos |
Da instalação ao servidor compatível com a API da OpenAI
A sequência abaixo usa os novos padrões — porta 9931, llama-cli / llama-server e downloads com -hf — documentados na documentação oficial de instalação e no guia de configuração da Axiomi.
1. Instale:
curl -LsSf https://llama.app/install.sh | shTambém é possível usar um gerenciador de pacotes ou um ZIP pré-compilado na página de versões. Verifique a instalação com llama-cli --version. Para hardware sem suporte, patches personalizados ou correções ainda não integradas, compile o projeto a partir do código-fonte.
2. Converse pelo terminal:
llama-cli -hf ggml-org/Qwen3.5-0.8B-GGUF -c 8192Segundo o guia da Axiomi, -hf usa o cache do Hugging Face e escolhe Q4_K_M quando nenhum sufixo :quant é informado. Já o padrão --fit on ajusta os valores não definidos para caber na memória do dispositivo.
3. Disponibilize uma API local:
llama-server -hf ggml-org/Qwen3.5-0.8B-GGUF -c 8192
# open http://127.0.0.1:9931As rotas incluem /v1/chat/completions, /v1/responses, /v1/embeddings, /v1/messages e /v1/audio/speech (lista de rotas da Axiomi). Faça um teste rápido:
curl http://localhost:9931/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"messages":[{"role":"user","content":"Explain GGUF in one sentence."}]}'O exemplo em Python do mesmo guia usa base_url="http://localhost:9931/v1" com api_key="no-key" para servir um único modelo localmente. Para uso local, mantenha 127.0.0.1.
v1.0, nightly, wrappers ou API hospedada: qual escolher?
| Opção | Escolha quando | Fique atento |
|---|---|---|
Fixar a v1.0.0 | Você está distribuindo um aplicativo ou tutorial e precisa de builds reproduzíveis | Você ficará sem as correções integradas depois de 13 de novembro |
Acompanhar a nightly (b12359+) | Precisa do suporte mais recente a modelos ou de uma correção de backend | As opções e o comportamento ainda podem mudar |
| Ollama / LM Studio | Quer uma biblioteca ou interface gráfica sem lidar com opções | Em geral, oferecem menos controle direto sobre camadas, cache e opções do servidor |
| API hospedada | Precisa de serviço elástico ou não quer ficar limitado à VRAM local | Como regra geral: há custo por token e os dados deixam a máquina |
Perguntas frequentes
A v1.0 é estável? Minha instalação atual continuará funcionando?
A promessa de estabilidade vale para a API pública em C; opções da CLI, rotas do servidor e versões nightly não estão cobertas por ela. Antes de atualizar, procure por llama_set_warmup, clip.h, --mmap, --defrag-thold e ocorrências de 8080 definidas diretamente no código.
Quanta memória um modelo 8B precisa?
A tabela de tamanhos da Tech Insider indica cerca de 4,9 GB para o Q4_K_M 8B, contra 32,1 GB sem quantização, antes de considerar o contexto e o runtime. Como regra geral, meça na sua própria máquina com llama-bench, já que os números de CPU de modelos pequenos não podem ser transferidos diretamente para outros cenários.
Fixe a v1.0 em tudo o que você distribuir
Fixe a tag no CI, mantenha uma máquina acompanhando as versões nightly e faça novos testes dos wrappers contra o servidor fixado antes de atualizá-los.