# ADR-0001: Dedicated VM untuk Ollama (bukan di reverse proxy) | Field | Value | |-------|-------| | Status | Accepted | | Date | 2026-06-15 (konfirmasi audit 2026-07-06) | | Author | Infrastructure / AI Agent | | Version | 0.1.0 | --- ## Context Super Apps butuh AI on-prem (chat + embedding) untuk project search & fitur internal. Kandidat host: `10.100.1.24` (nginx + banyak Docker) atau VM dedicated `10.100.1.26`. `10.100.1.24` hanya ~15 GB RAM dengan Docker penuh (Zammad, geonet-console, n8n, dll.). --- ## Decision Jalankan **Ollama native di VM dedicated `10.100.1.26` (`aiopr`)**: - API bind `0.0.0.0:11434` dengan UFW **hanya** `10.100.1.0/24` - **Tidak** reverse proxy publik ke Ollama - Consumer (`geonet-console`) memanggil HTTP langsung via VLAN --- ## Alternatives Considered | Alternatif | Pro | Con | |------------|-----|-----| | Ollama di `.24` | Satu host | RAM/CPU penuh; risiko ganggu layanan produksi | | Cloud API (OpenAI) | Mudah | Data keluar jaringan — ditolak kebijakan | | GPU server terpisah | Performa | Belum ada hardware; fase CPU dulu | --- ## Consequences **Positif:** - Isolasi resource inference - Data tetap on-prem - VM sudah live dengan model production **Negatif / Trade-off:** - Satu VM lagi untuk maintain - CPU inference lebih lambat dari GPU - Perlu update `OLLAMA_BASE_URL` di consumer saat pindah IP --- ## References - `server-connection/server/ollama-nas-project-search-requirements.md` - `Ollama/docs/server.md` (audit 2026-07-06)