Panduan Lengkap Instalasi Ollama di Proxmox dan Dapat Di Akses Melalui Domain Publik

Proxmox adalah platform virtualisasi open-source yang kuat dan fleksibel, memungkinkan Anda untuk menjalankan mesin virtual dan container. Dalam panduan ini, kita akan membahas langkah-langkah detail untuk menginstal Ollama di Proxmox dan mengaksesnya melalui domain publik. Panduan ini dirancang untuk memberikan pemahaman yang mendalam, mencakup semua langkah penting dari awal hingga akhir.

Persiapan Awal

Sebelum memulai instalasi, pastikan Anda memiliki persyaratan berikut:

  • Server Proxmox yang sudah diinstal dan dikonfigurasi.
  • Akses root ke server Proxmox.
  • Domain yang sudah terdaftar dan dikelola melalui penyedia DNS.

Langkah 1: Instalasi Proxmox VE

Jika Anda belum menginstal Proxmox VE, ikuti langkah-langkah berikut:

  1. Unduh Proxmox VE dari situs resmi Proxmox.
  2. Buat bootable USB dengan menggunakan alat seperti Etcher.
  3. Boot dari USB dan ikuti instruksi instalasi Proxmox.
  4. Konfigurasi jaringan selama instalasi. Pastikan server terhubung ke internet.

Langkah 2: Membuat Mesin Virtual untuk Ollama

  1. Login ke Web Interface Proxmox: Akses antarmuka web Proxmox melalui browser Anda.
  2. Buat VM Baru:
    • Klik pada node Proxmox Anda.
    • Pilih "Create VM".
    • Isi detail VM seperti nama, ID, dan pilih template.
    • Pilih ISO image dari distribusi Linux yang Anda pilih (misalnya, Ubuntu).
  3. Konfigurasi Hardware VM:
    • Tentukan jumlah CPU, RAM, dan penyimpanan yang sesuai untuk Ollama.
    • Tambahkan jaringan virtual untuk konektivitas.
  4. Instal Sistem Operasi:
    • Boot VM dari ISO image dan ikuti instruksi untuk menginstal sistem operasi.
    • Setelah instalasi, login ke VM melalui console atau SSH.

Langkah 3: Instalasi Ollama di VM

  1. Update Sistem Operasi: 
    sudo apt update && sudo apt upgrade -y
  2. Instal Prasyarat:
    • Instal paket yang diperlukan: 
      sudo apt install curl git python3 python3-pip -y
  3. Instal Ollama:
    • Jika Ollama memiliki dokumentasi instalasi khusus, ikuti instruksi tersebut. Misalnya: 
      git clone https://github.com/ollama/ollama.git
cd ollama
sudo python3 setup.py install
  4. Konfigurasi Ollama:
    • Sesuaikan konfigurasi Ollama sesuai kebutuhan Anda.

Langkah 4: Konfigurasi Akses Publik

Untuk mengakses Ollama melalui domain publik, Anda perlu mengatur server web reverse proxy dan mengonfigurasi DNS.

  1. Instal Nginx: 
    sudo apt install nginx -y
  2. Konfigurasi Nginx sebagai Reverse Proxy:
    • Buat file konfigurasi baru untuk situs Anda: 
      sudo nano /etc/nginx/sites-available/ollama
    • Tambahkan konfigurasi berikut: 
      server {
    listen 80;
    server_name yourdomain.com;

    location / {
        proxy_pass http://localhost:port;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}
    • Ganti yourdomain.com dengan domain Anda dan localhost:port dengan alamat dan port di mana Ollama berjalan.
    • Aktifkan konfigurasi baru: 
      sudo ln -s /etc/nginx/sites-available/ollama /etc/nginx/sites-enabled/
sudo nginx -t
sudo systemctl restart nginx
  3. Konfigurasi Firewall:
    • Pastikan port 80 dan 443 terbuka: 
      sudo ufw allow 'Nginx Full'
sudo ufw enable
  4. Konfigurasi DNS:
    • Masuk ke penyedia DNS Anda dan tambahkan A record yang menunjuk ke IP publik server Proxmox Anda.

Langkah 5: Mengamankan Akses dengan HTTPS

Untuk memastikan keamanan data, gunakan Let's Encrypt untuk mendapatkan sertifikat SSL gratis.

  1. Instal Certbot: 
    sudo apt install certbot python3-certbot-nginx -y
  2. Dapatkan Sertifikat SSL: 
    sudo certbot --nginx -d yourdomain.com
    • Ikuti instruksi untuk menyelesaikan instalasi sertifikat.
  3. Otomatisasi Pembaruan Sertifikat:
    • Certbot secara otomatis memperbarui sertifikat sebelum kadaluarsa. Untuk memastikan, tambahkan ke crontab: 
      echo "0 3 * * * /usr/bin/certbot renew --quiet" | sudo tee -a /etc/crontab > /dev/null

Langkah 6: Verifikasi dan Uji Akses Publik

  1. Verifikasi Nginx dan SSL:
    • Pastikan Nginx berjalan dengan baik: 
      sudo systemctl status nginx
    • Verifikasi bahwa SSL telah terpasang dengan benar dengan membuka https://yourdomain.com di browser.
  2. Uji Koneksi:
    • Coba akses layanan Ollama melalui domain Anda untuk memastikan semuanya berfungsi.

Kesimpulan

Dengan mengikuti panduan ini, Anda berhasil menginstal Ollama di Proxmox dan mengonfigurasinya agar dapat diakses melalui domain publik. Menggunakan reverse proxy Nginx dan sertifikat SSL dari Let's Encrypt memastikan bahwa layanan Anda aman dan dapat diakses dengan mudah oleh pengguna. Pastikan untuk memelihara server dan layanan Anda dengan pembaruan rutin dan pemantauan untuk kinerja optimal.

Selamat mencoba dan semoga sukses dengan proyek Anda!

On

No comments:

Post a Comment