PERBANDINGAN PERFORMA MODEL INDOBERT+GPT-2 DECODER DAN PEGASUS-LARGE UNTUK PERINGKASAN TEKS ABSTRAKTIF BERITA ONLINE BERBAHASA INDONESIA - Ketut Tutur Diatmika; Luh Joni Erawati Dewi; I Nyoman Saputra Wahyu Wijaya (Universitas Pendidikan Ganesha, 2026)
Penelitian ini membandingkan performa dua pendekatan fine-tuning untuk tugas peringkasan abstraktif berbahasa Indonesia. (1) IndoBERT yang dikombinasikan dengan GPT-2 sebagai decoder dan di-fine-tune secara penuh, serta (2) PEGASUS-Large yang diadaptasi menggunakan teknik parameter-efficient tuning Low Rank Adaptation (LoRA). Dataset yang digunakan berasal dari Indonesian News Dataset dengan jumlah 32.148 entri yang kemudian telah dipra-proses (pembersihan, normalisasi, tokenisasi, pemfilteran) hingga menjadi 29.985 entri yang kemudian dibagi secara stratifikasi menjadi train/val/test (70/15/15). Kedua model dilatih dengan konfigurasi learning rate 3e-5 dan effective batch size 8; IndoBERT dilatih selama 4 epoch sedangkan PEGASUS selama 3 epoch dengan LoRA yang menargetkan modul proyeksi attention. Pada tahap inferensi, konfigurasi decoding distandarkan (num_beams=5, max_new_tokens=128, no_repeat_ngram_size=3). Evaluasi kuantitatif menggunakan metrik ROUGE (R-1/2/L) dan BERTScore (F1). Hasil menunjukkan IndoBERT+GPT-2 mencapai ROUGE-1/2/L = 52.90% / 33.99% / 41.40% dan BERTScore-F1 = 91.55%, sedangkan PEGASUS-LoRA memeperoleh ROUGE-1/2/L = 39.71% / 22.12% / 31.07% dan BERTScore-F1 = 89.47%. Temuan ini mengindikasikan bahwa IndoBERT memiliki keunggulan pada kecocokan n-gram dan frasa (terutama ROUGE-2), sementara LoRA memberi penghematan parameter signifikan ( 1% trainable) dengan trade-off performa.