Componenti Installati
- Ollama → un framework leggero ed estensibile per eseguire LLM in locale.
- Open WebUI → interfaccia web per interagire con Ollama.
Cartella di Installazione
Il file Docker Compose per Open WebUI si trova in:
/root/open-webui/docker-compose.yml
Directory di lavoro per il servizio systemd: /root/open-webui
Informazioni di Accesso
Interfaccia Web:
- Open WebUI:
http://<server-ip>:8080 - Potrebbero volerci alcuni minuti prima che l'interfaccia si avvii.
- Accedi subito per completare la configurazione iniziale e creare un utente amministratore.
API di Ollama:
- URL di base:
http://127.0.0.1:11434 - Accessibile localmente all'interno del server.
Utilizzo di Ollama
Esegui questi comandi direttamente nel terminale:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Esempio:
ollama pull llama3.1
ollama run llama3.1
Gestione del servizio
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
