Claim Missing Document
Check
Articles

Found 22 Documents
Search

Implementasi Augmentasi Data pada Konversi Text-To-Gloss BISINDO Menggunakan FLAN-T5 dengan Low-Rank Adaptation Raisaputri, Dayang Alyssa; Fatyanosa, Tirana Noor; Sari, Irawati Nurmala
Jurnal Pengembangan Teknologi Informasi dan Ilmu Komputer Vol 10 No 3 (2026): Maret 2026
Publisher : Fakultas Ilmu Komputer (FILKOM), Universitas Brawijaya

Show Abstract | Download Original | Original Source | Check in Google Scholar

Abstract

Sistem text-to-gloss merupakan salah satu komponen dalam pengembangan teknologi komunikasi inklusif bagi komunitas ruli, khususnya untuk Bahasa Isyarat Indonesia (BISINDO). Penelitian ini mengimplementasikan model FLAN-T5 dengan teknik Low-Rank Adaptation (LoRA) untuk mengatasi keterbatasan dataset dalam tugas konversi text-to-gloss BISINDO. Augmentasi data berbasis combining preprocessing diterapkan untuk memperkaya dataset yang terbatas melalui lemmatisasi, menghasilkan dataset augmentasi sebesar 3000 pasangan text-gloss dari 1500 data asli. Model FLAN-T5 dikonfigurasi dengan LoRA rank 8 pada matriks Query dan Value, melatih hanya 0,44% dari total parameter. Evaluasi dilakukan menggunakan metrik BLEU, ROUGE-1, ROUGE-2, dan ROUGE-L untuk membandingkan performa model dengan data asli dan data augmentasi. Hasil eksperimen menunjukkan peningkatan signifikan pada seluruh metrik evaluasi untuk model yang dilatih dengan data augmentasi dibandingkan model dengan data asli. Analisis kualitatif terhadap 50 sampel prediksi mengidentifikasi tiga pola kesalahan utama, duplikasi kata yang mengindikasikan masalah stopping criteria decoder, kehilangan kata penting yang menunjukkan keterbatasan pemahaman semantik, dan error lemmatisasi pada preprocessing morfologi bahasa Indonesia. Penelitian ini membuktikan bahwa kombinasi FLAN-T5 dengan LoRA dan augmentasi data dapat meningkatkan performa sistem text-to-gloss BISINDO dengan mengurangi risiko overfitting pada kondisi dataset low-resource language, namun memerlukan pengembangan dataset yang lebih besar dan metode augmentasi yang lebih beragam untuk mencapai hasil yang lebih baik.
Perbandingan Variasi Prompt terhadap Kualitas Puisi menggunakan Model GPT-2 Fine-tuned Zenatmaja, I Wayan Ivan; Fatyanosa, Tirana Noor; Zulvarina, Prima
Jurnal Pengembangan Teknologi Informasi dan Ilmu Komputer Vol 10 No 3 (2026): Maret 2026
Publisher : Fakultas Ilmu Komputer (FILKOM), Universitas Brawijaya

Show Abstract | Download Original | Original Source | Check in Google Scholar

Abstract

Pemikiran abstrak dan kreatif merupakan ciri utama kecerdasan manusia yang memungkinkan penciptaan karya seni seperti puisi, yang memiliki struktur bahasa dan kedalaman makna yang kompleks. Perkembangan Natural Language Generation (NLG) telah mendorong penggunaan model bahasa generatif seperti GPT-2 dalam generasi puisi berbahasa Indonesia, meskipun kualitas, kealamian, dan keragaman hasilnya masih menjadi perdebatan, khususnya pada bahasa Indonesia yang tergolong low-resource language. Penelitian ini bertujuan untuk membandingkan variasi prompt (zero-shot, one-shot, dan few-shot) serta pengaturan hyperparameter terhadap kualitas puisi berbahasa Indonesia yang dihasilkan oleh model GPT-2 fine-tuned. Metode penelitian melibatkan tiga model GPT-2, yaitu GPT-2 Small Indonesia (pre-trained), GPT-2 Small Indonesia Fine-Tuning Poem (pre-trained), dan GPT-2 Small Indonesia Fine-Tuning Poem yang sudah melalui proses fine-tuning menggunakan SFTTrainer dan dataset puisi dari dua buku karya Goenawan Mohamad. Evaluasi dilakukan menggunakan metrik perplexity sebagai ukuran kealamian teks serta lexical diversity melalui distinct-1 dan distinct-2. Hasil penelitian menunjukkan bahwa model GPT-FT mencapai rata-rata perplexity terendah sebesar 1,907 pada one-shot prompt dengan konfigurasi hyperparameter tertentu. Nilai distinct unigram tertinggi sebesar 0,9169 diperoleh oleh GPT-2 Small Indonesia Fine-Tuning Poem pada one-shot prompt, dan nilai distinct bigram tertinggi sebesar 0,9809 dicapai oleh GPT-2 Small Indonesia pada one-shot prompt. Temuan ini menunjukkan bahwa fine-tuning dan variasi prompt berpengaruh signifikan terhadap kealamian dan keragaman puisi. Pada penelitian selanjutnya disarankan melakukan human evaluation atau evaluasi manusia untuk mengukur kualitas estetika secara komprehensif.