Windows ve Linux için Aynı Dosyayla Docker Üzerinden Ollama ve Webui Çalıştırmak

Aşağıdaki docker-compose.yml kodu Toygar Aksoy tarafından hazırlandı.

Bu scripti bir klasör açıp içine kopyalayın ve o klasörün içinden aşağıdaki komutu verin (sisteminizde docker uygulamasının yüklü olduğunu varsayıyoruz):

docker compose up

Kod açıklamaları için https://youtube.com/live/i_dkI-4flTE adresindeki videoyuizleyebilir, yorum ve sorularınızı yorum alanından bizimle paylaşabilirsiniz.

---
services:
   ollama:
      volumes:
         - ./ollama/ollama:/root/.ollama
      container_name: ollama
      pull_policy: always
      tty: true
      restart: unless-stopped
      image: ollama/ollama:latest
      ports:
          - 7869:11434
      environment:
         - OLLAMA_KEEP_ALIVE=24h
      networks:
         - ollama-network
      deploy:
         resources:
            reservations:
               devices:
                  - driver: nvidia
                    count: 1
                    capabilities: [gpu]

   ollama-webui:
      image: ghcr.io/open-webui/open-webui:main
      container_name: ollama-webui
      volumes:
        - ./webui/webui:/root/.webui
      depends_on:
        - ollama
      ports:
        - 8080:8080
      environment:
        - OLLAMA_BASE_URLS=http://host.docker.internal:7869
        # - OLLAMA_BASE_URLS=http://ollama:11434
        # - DEFAULT_MODELS=deepseek-r1
        # - DEFAULT_MODELS=deepseek-r1:1.5b
        - DEFAULT_MODELS=deepseek-r1:2b-q4_0
        # - DEFAULT_MODELS=deepseek-v3
        # - DEFAULT_MODELS=deepseek-coder-v2
        - ENV=dev
        - WEBUI_AUTH=False
        - WEBUI_NAME=AI_Tester
        - WEBUI_URL=http://localhost:8080
        - WEBUI_SECRET_KEY=str0ngs3cr3t
      extra_hosts:
        - host.docker.internal:host-gateway
      restart: unless-stopped
      networks:
        - ollama-network

networks:
   ollama-network:
      external: false