# GGUF-модели для llama-planner / llama-diagram / llama-fill

Папка вне git. Имена: `{model}-{type}.{ext}`.

| Файл | Назначение |
|------|------------|
| `littlelamb-planner.gguf` | planner (`llama-planner`) |
| `littlelamb-diagram.gguf` | diagram IR (`llama-diagram`) |
| `littlelamb-fill.gguf` | fill arguments (`llama-fill`) |
| `tinyllama-tools.gguf` | TinyLlama tool-calling |

После train экспорт сам копирует сюда (`scripts/publish_gguf.sh`). На сервер:

```bash
rsync -avP models/ root@<stage>:/opt/unishift/llama-server/models/
```

Имя файла = `LLAMA_PLANNER_MODEL_FILE` / `LLAMA_DIAGRAM_MODEL_FILE` / `LLAMA_FILL_MODEL_FILE` в `.env`.
Compose монтирует `./llama-server/models` как `/models:ro` (каталог на диске, не имя сервиса).