ADR-0001: Dedicated VM untuk Ollama (bukan di reverse proxy)

Field	Value
Status	Accepted
Date	2026-06-15 (konfirmasi audit 2026-07-06)
Author	Infrastructure / AI Agent
Version	0.1.0

Context

Super Apps butuh AI on-prem (chat + embedding) untuk project search & fitur internal. Kandidat host: 10.100.1.24 (nginx + banyak Docker) atau VM dedicated 10.100.1.26.

10.100.1.24 hanya ~15 GB RAM dengan Docker penuh (Zammad, geonet-console, n8n, dll.).

Decision

Jalankan Ollama native di VM dedicated 10.100.1.26 (aiopr):

API bind 0.0.0.0:11434 dengan UFW hanya 10.100.1.0/24
Tidak reverse proxy publik ke Ollama
Consumer (geonet-console) memanggil HTTP langsung via VLAN

Alternatives Considered

Alternatif	Pro	Con
Ollama di `.24`	Satu host	RAM/CPU penuh; risiko ganggu layanan produksi
Cloud API (OpenAI)	Mudah	Data keluar jaringan — ditolak kebijakan
GPU server terpisah	Performa	Belum ada hardware; fase CPU dulu

Consequences

Positif:

Isolasi resource inference
Data tetap on-prem
VM sudah live dengan model production

Negatif / Trade-off:

Satu VM lagi untuk maintain
CPU inference lebih lambat dari GPU
Perlu update OLLAMA_BASE_URL di consumer saat pindah IP

References

server-connection/server/ollama-nas-project-search-requirements.md
Ollama/docs/server.md (audit 2026-07-06)

1.5 KiB Raw Permalink Blame History