Yüklü Bileşenler
- Ollama → LLM'leri yerel olarak çalıştırmak için hafif, genişletilebilir bir çerçeve.
- Open WebUI → Ollama ile etkileşim kurmak için web arayüzü.
Kurulum Dizini
Open WebUI için Docker Compose dosyası şurada bulunur:
/root/open-webui/docker-compose.yml
systemd hizmeti için çalışma dizini: /root/open-webui
Erişim Bilgileri
Web Arayüzü:
- Open WebUI:
http://<server-ip>:8080 - Arayüzün başlaması birkaç dakika sürebilir.
- İlk kurulumu tamamlamak ve bir yönetici kullanıcısı oluşturmak için erkenden erişin.
Ollama API:
- Temel URL:
http://127.0.0.1:11434 - Sunucu içinde yerel olarak erişilebilir.
Ollama Kullanımı
Bu komutları doğrudan terminalde çalıştırın:
# Pull a model
ollama pull <model_name>
# Run a model
ollama run <model_name>
Örnek:
ollama pull llama3.1
ollama run llama3.1
Servis Yönetimi
# Open WebUI
systemctl status open-webui
systemctl restart open-webui
# Ollama
systemctl status ollama
systemctl restart ollama
