Kalau kamu punya Raspberry Pi 4 RAM 8GB, kamu bisa membuat chatbot AI yang berjalan langsung di perangkatmu sendiri. Tidak perlu bergantung ke cloud, dan setelah model terunduh, AI bisa dipakai tanpa internet.

Sebelum masuk ke instalasi, penting memahami dua komponen utama yang akan kita pakai: Ollama dan Qwen.

---

Apa Itu Ollama?

Ollama adalah aplikasi untuk menjalankan model AI secara lokal di komputer atau server sendiri.

Kalau dijelaskan dengan bahasa sederhana: Ollama adalah mesin yang menjalankan AI.

Bayangkan kamu ingin punya asisten pribadi.

Yang dibutuhkan:

• tempat kerja
• meja
• listrik
• sistem komunikasi
• cara memanggil asisten

Nah, Ollama adalah sistem yang menyiapkan semua itu.

Ollama bukan AI-nya, melainkan software yang mengelola AI.

Tugas Ollama:

• mengunduh model AI
• menyimpan model
• menjalankan model
• menerima pertanyaan
• mengirim jawaban kembali
• menyediakan API untuk aplikasi lain

Contoh:

Saat kamu menjalankan:

ollama run qwen2.5:0.5b

artinya:

“Ollama, jalankan model AI bernama Qwen.”

Jadi Ollama bisa dianggap seperti:

• mesin pemutar AI
• pengelola model AI
• server AI lokal

---

Apa Itu Qwen?

Qwen adalah model AI.

Kalau Ollama adalah mesin, maka Qwen adalah otaknya.

Qwen dibuat oleh Alibaba dan termasuk keluarga Large Language Model (LLM), mirip konsepnya seperti:

• GPT
• Llama
• Mistral
• Gemma

Tugas Qwen:

• memahami pertanyaan
• menghasilkan jawaban
• membantu coding
• membuat tulisan
• menjelaskan konsep
• menjawab percakapan

Jadi kalau Ollama itu mobil, maka Qwen itu mesin di dalam mobil.

Atau analogi lain:

• Ollama = pemutar video
• Qwen = file film yang diputar

Tanpa Ollama, Qwen sulit dijalankan dengan mudah.

Tanpa Qwen, Ollama tidak punya AI untuk dijalankan.

---

Hubungan Ollama dan Qwen

Singkatnya:

Ollama menjalankan Qwen.

Diagram sederhana:

Kamu
 ↓
Tanya sesuatu
 ↓
Ollama menerima pertanyaan
 ↓
Qwen memproses
 ↓
Jawaban kembali ke kamu

Jadi alurnya:

1. Kamu mengetik pertanyaan
2. Ollama menerima input
3. Qwen berpikir
4. Ollama menampilkan hasil

---

Apa yang Akan Kita Buat?

Setelah tutorial ini selesai, Raspberry Pi kamu bisa menjadi server AI kecil yang bisa:

• diajak ngobrol
• menjawab pertanyaan
• membantu coding ringan
• membuat teks sederhana
• berjalan lokal tanpa cloud

---

Kebutuhan

Hardware

Siapkan:

• Raspberry Pi 4 RAM 8GB
• microSD minimal 32GB
• adaptor power yang stabil
• internet untuk download awal

Kalau punya SSD, lebih bagus karena lebih cepat daripada microSD.

---

Sistem Operasi

Gunakan:

Raspberry Pi OS 64-bit

Penting karena model AI modern tidak nyaman berjalan di sistem 32-bit.

Cek:

uname -m

Kalau hasil:

aarch64

berarti sudah benar.

---

Update Sistem

Jalankan:

sudo apt update && sudo apt upgrade -y

Tunggu sampai selesai.

---

Install Ollama

Install dengan:

curl -fsSL https://ollama.com/install.sh | sh

Setelah selesai, cek:

ollama --version

Kalau muncul versi, instalasi berhasil.

---

Menjalankan Ollama

Aktifkan service:

sudo systemctl enable ollama
sudo systemctl start ollama

Cek status:

systemctl status ollama

Kalau muncul:

active (running)

berarti Ollama siap dipakai.

---

Install Qwen

Karena Raspberry Pi 4 punya keterbatasan, pilih model ringan.

Untuk pemakaian realistis:

Qwen 0.5B

Install:

ollama pull qwen2.5:0.5b

Atau langsung:

ollama run qwen2.5:0.5b

Kalau belum ada, model otomatis diunduh.

---

Qwen 1.5B

Kalau ingin kualitas lebih baik:

ollama run qwen2.5:1.5b

Tetapi ini lebih lambat.

---

Kenapa Tidak Pakai Model Besar?

Karena Raspberry Pi 4 itu komputer kecil.

Model AI besar butuh:

• RAM besar
• CPU kuat
• storage cepat

Kalau memaksa model besar:

ollama run qwen2.5:7b

kemungkinan:

• sangat lambat
• Raspberry Pi hang
• sistem swap ke SD card
• performa buruk

Untuk Pi 4 8GB, yang realistis:

• 0.5B
• 1.5B

---

Cara Pakai

Jalankan:

ollama run qwen2.5:0.5b

Lalu akan muncul prompt:

>>>

Sekarang tinggal ngobrol.

Contoh:

Tanya pengetahuan umum:

>>> siapa penemu lampu?

Minta penjelasan:

>>> jelaskan internet dengan bahasa sederhana

Minta bantuan coding:

>>> buatkan script python hello world

Minta ide:

>>> beri ide proyek raspberry pi

---

Cara Keluar

Untuk keluar:

/bye

atau:

Ctrl + D

---

Menjalankan Lagi

Besok kalau mau pakai lagi:

ollama run qwen2.5:0.5b

Tidak perlu download ulang.

---

Melihat Model yang Terpasang

Cek:

ollama list

Contoh:

NAME
qwen2.5:0.5b
qwen2.5:1.5b

---

Menghapus Model

Kalau storage penuh:

ollama rm qwen2.5:0.5b

---

Pakai Lewat API

Ollama juga menyediakan API lokal.

Alamat default:

http://localhost:11434

Contoh test:

curl http://localhost:11434/api/generate -d '{
  "model":"qwen2.5:0.5b",
  "prompt":"Halo"
}'

Artinya aplikasi lain juga bisa memakai AI ini.

Cocok untuk:

• chatbot
• assistant rumah
• IoT project
• home automation

---

Ekspektasi Realistis

Setup ini cocok untuk:

• belajar AI lokal
• chatbot sederhana
• eksperimen Raspberry Pi
• API lokal kecil

Tidak cocok kalau kamu berharap performa seperti ChatGPT premium.

Karena:

ChatGPT berjalan di server besar dengan hardware mahal.

Raspberry Pi adalah komputer kecil hemat daya.

Tetapi untuk eksperimen dan proyek rumahan, setup ini sangat berguna.

---

Rekomendasi Akhir

Untuk Raspberry Pi 4 8GB:

Kalau ingin stabil:

ollama run qwen2.5:0.5b

Kalau ingin kualitas sedikit lebih baik:

ollama run qwen2.5:1.5b

Kalau baru mulai, gunakan 0.5B dulu, lalu naik kalau dirasa masih kurang.