Deteksi Komentar Toxic Menggunakan BERT - Khadifa, Rama Nittia; Anshori, Robi Farhan; Humaidah; Ramadhan, Abdul Ridho; Rosyani, Perani (CV. Shofanah Media Berkah, 2025)
Pesatnya perkembangan media sosial diiringi dengan meningkatnya penyebaran komentar toksik yang dapat merusak lingkungan digital dan kesehatan mental pengguna. Penelitian ini bertujuan untuk mengembangkan model klasifikasi multi-label komentar toksik menggunakan arsitektur DistilBERT yang dimodifikasi dengan custom classification head untuk meningkatkan akurasi dan efisiensi. Dataset yang digunakan merupakan modifikasi dari Jigsaw Toxic Comment Classification dengan penyeimbangan kelas menjadi rasio 50:50. Model dilatih selama 2 epoch dengan hyperparameter optimal melalui proses fine-tuning. Hasil evaluasi menunjukkan model mencapai ROC-AUC 0,9016, precision 71,01%, recall 65,52%, dan F1-Score 0,6781. Model ini terbukti efisien dengan pengurangan parameter hingga 40% dibanding BERT-base, sehingga cocok untuk deployment dalam sistem moderasi konten semi-otomatis. Penelitian ini juga mengidentifikasi tantangan dalam mendeteksi kategori langka dan kontekstual, serta memberikan rekomendasi untuk mitigasi bias dan peningkatan generalisasi model di masa depan.