Fine-tuning: Menyetel Model untuk Karaktermu
RAG memberi model pengetahuan baru; fine-tuning membentuk perilaku dan gaya. Tahu kapan pakai yang mana menghemat puluhan juta rupiah.
Kesalahpahaman paling mahal di dunia aplikasi AI: orang mem-fine-tune model supaya "tahu data perusahaan". Padahal untuk itu ada RAG yang lebih murah, lebih cepat, dan lebih mudah di-update.
Jadi, apa gunanya fine-tuning?
Untuk apa sebenarnya
Gaya dan format yang konsisten. Selalu jawab dengan struktur tertentu, tone brand yang khas, format laporan internal yang baku — hal-hal yang capek ditulis ulang di prompt tiap kali.
Perilaku khusus yang susah di-prompt. Mengklasifikasikan tiket ke 40 kategori internal dengan ambang kepercayaan tertentu; memakai istilah internal dengan tepat.
Efisiensi di skala besar. Model kecil yang di-fine-tune bisa menyamai model besar untuk tugas sempit — dengan biaya per-request sepuluh kali lebih murah dan latency lebih rendah.
Bentuknya seperti apa
Fine-tuning = melatih lanjutan model yang sudah ada dengan dataset contoh kecil-kecil (biasanya ratusan sampai beberapa ribu pasangan input→output) sehingga bobotnya bergeser mengikuti pola datamu.
LoRA / PEFT membuatnya terjangkau: alih-alih melatih semua miliaran bobot, cuma dilatih "adaptor" kecil. Hasilnya file puluhan–ratusan MB, bisa dilatih di satu GPU dalam hitungan jam.
RAG vs Fine-tuning — tabel putuskan
| Kebutuhan | Pakai |
|---|---|
| Model tahu dokumen/fakta baru | RAG |
| Jawaban selalu bisa diaudit sumbernya | RAG |
| Gaya, tone, format yang khas | Fine-tuning |
| Klasifikasi domain spesifik dengan presisi tinggi | Fine-tuning |
| Data berubah tiap hari | RAG (fine-tune ulang tiap hari = gila) |
| Turunkan biaya di skala besar | Fine-tuning model kecil |
Dan ya, keduanya bisa digabung: model yang di-fine-tune untuk gaya + RAG untuk pengetahuan.
Checklist sebelum bayar fine-tuning
- Apa metrik keberhasilannya? ("akurasi klasifikasi 85% → 95%") — kalau tidak bisa diukur, jangan mulai.
- Sudah coba prompt engineering + few-shot maksimal? Sering kali gratis dan cukup.
- Dataset contohnya berapa dan bagus tidak? Sampah masuk, sampah keluar — dan kali ini sampahnya berbayar.
- Siapa yang mengevaluasi hasilnya secara rutin?
Urutan naik tangga biayanya yang sehat: prompt engineering → RAG → fine-tuning. Naik satu tangga hanya kalau yang di bawah sudah terbukti tidak cukup.