SkillFonte verificada
Modelos locais com llama.cpp
Escolha quantização e runtime para rodar um modelo local
Ajuda a selecionar modelos GGUF e configurar a execução com llama.cpp. Considera hardware, tamanho de contexto e compromissos entre memória, velocidade e qualidade.
O que fazer com Modelos locais com llama.cpp
01
Escolha quantização e runtime para rodar um modelo local
Antes de começar
- Ambiente e dependências indicados no SKILL.md; acesso ao modelo ou dataset escolhido.
- llama.cpp, modelo GGUF compatível e memória suficiente para pesos e contexto.
Como começar
Abra a página de Modelos locais com llama.cpp e siga as instruções de configuração para o seu ambiente. Confirme as permissões e a compatibilidade com seu agente antes de instalar.
Ler a documentaçãoO que considerar
- Licenças dos modelos e dos dados são separadas da licença da skill; confira os termos de cada recurso.
- Rodar localmente não elimina o custo de hardware; velocidade e qualidade dependem da quantização e do dispositivo.
Fonte conferida em 29 de out. de 2026. A conferência da documentação não equivale a um teste completo da ferramenta pela Agentspedia.