Optimalisasi DoRA untuk Deteksi Ujaran Kebencian Berbahasa Indonesia Berbasis Transformer - David Suharjanto; Sumarsono Sumarsono (Departemen Sistem Informasi, Fakultas Teknologi Informasi, Universitas Andalas, 2025)
Ujaran kebencian (UK) merupakan fenomena meresahkan yang cepat menyebar melalui media sosial, menimbulkan dampak negatif pada kohesi sosial dan kesehatan mental individu. Di Indonesia, peningkatan kasus UK menuntut pengembangan sistem deteksi otomatis yang cepat dan akurat. Penelitian sebelumnya telah memanfaatkan model transformer, namun sering kali disertai dengan penambahan arsitektur deep learning seperti CNN atau BiLSTM, yang justru meningkatkan kompleksitas model. Penelitian ini bertujuan untuk mengoptimalkan kinerja deteksi UK berbahasa Indonesia dengan menerapkan teknik Weight-Decomposed Low-Rank Adaptation (DoRA) pada model transformer pre-trained IndoBERT-Base, IndoBERT-Large, dan IndoBERTweet-Base. Efektivitas DoRA dibandingkan dengan teknik full fine-tuning dievaluasi menggunakan dataset berisi 13.169 twit berbahasa Indonesia yang telah dianotasi. Hasil eksperimen menunjukkan bahwa DoRA secara konsisten meningkatkan kinerja pada semua model yang diuji. Model IndoBERTweet-Base dengan DoRA mencapai F1-score tertinggi sebesar 89,64%, melampaui full fine-tuning IndoBERTweet (88,18%) serta hasil terbaik dari studi sebelumnya yang menggunakan arsitektur lebih kompleks, seperti IndoBERTweet + CNN (87,60%) dan IndoBERTweet + BiLSTM (88,30%). Temuan ini menunjukkan bahwa fine-tuning model transformer menggunakan DoRA merupakan strategi yang efektif untuk deteksi UK dalam Bahasa Indonesia, tanpa memerlukan penambahan arsitektur deep learning yang kompleks.