Ketika mulai bekerja dengan model, sering kali ingin "menyesuaikannya" - agar memahami konteks proyek, berbicara dengan nada yang tepat, dan lebih baik dalam menyelesaikan tugas tertentu. Hal pertama yang terlintas adalah melatih ulang model. Namun, ini tidak selalu merupakan langkah terbaik (dan pasti bukan yang pertama).
🍭 Fine-tuning itu kuat. Tetapi juga sangat mahal: membutuhkan data, sumber daya komputasi, dan waktu. Oleh karena itu, biasanya dilakukan setelah semua cara lain dicoba.
Inilah yang patut dicoba terlebih dahulu 👇
- Few-shot prompting - ketika Anda menunjukkan beberapa contoh jawaban yang benar langsung di dalam prompt. Ini membantu mengarahkan gaya dan logika model tanpa pelatihan tambahan.
- RAG (Retrieval-Augmented Generation) - pendekatan di mana model "diperkaya" dengan pengetahuan yang diperlukan dari sumber eksternal (misalnya, basis dokumen atau wiki).
- SGR (Schema-Guided Reasoning) - pendekatan yang relatif baru ini: menstrukturkan jawaban model agar formatnya lebih deterministik dan dapat diprediksi.
💡 Kadang-kadang bahkan penyesuaian sederhana pada temperatur (parameter "kreativitas") menyelesaikan setengah masalah:
- Temperatur lebih rendah → jawaban lebih akurat dan stabil
- Lebih tinggi → lebih banyak variasi dan kreativitas
Jika ingin bereksperimen dengan fine-tuning, Anda dapat menggunakan model ringan (misalnya, Qwen-8B atau Mistral) dan melatihnya pada tugas yang sempit. Banyak dataset yang sudah siap dapat ditemukan di HuggingFace.
Namun, seringkali cukup hanya dengan bekerja pada prompt, konteks, dan hiperparameter.
Kembali ke daftar isi
👩💻 Data Flow
Komentar
0Belum ada komentar.