Perbandingan Kinerja Model Deep Learning BERT dan GPT dalam Analisis Sentimen Komentar - Ashari, Purnama; Mutiah, Nurul; Prawira, Dian (JEPIN (Jurnal Edukasi dan Penelitian Informatika), 2025)
Perbandingan kinerja model deep learning berbasis transformers, yaitu BERT dan GPT dalam analisis sentimen komentar video YouTube, merupakan tujuan dari penelitian ini. Kedua model memiliki pendekatan arsitektur yang berbeda: BERT bersifat bidirectional dengan hanya menggunakan bagian encoder dari transformers, sementara GPT bersifat unidirectional dengan hanya menggunakan bagian decoder. Studi ini memanfaatkan komentar warganet terkait film dokumenter Dirty Vote pada platform YouTube, yang ramai diperbincangkan sejak perilisannya pada awal tahun 2024, sebagai sumber data utama dengan total 25.980 data komentar warganet. Komposisi pembagian dataset adalah sebesar 70% untuk data latih, dan masing-masing 15% untuk data validasi dan data uji. Pada penelitian ini, kedua model dikembangkan dalam dua skenario dengan konfigurasi hiperparameter yang berbeda untuk masing-masing skenario kedua model. Hasil analisis confusion matrix menunjukkan bahwa, pada data latih kinerja BERT lebih unggul dengan akurasi tertinggi sebesar 99,94% dibandingkan akurasi tertinggi GPT sebesar 98,01%. Sementara itu, pada data validasi dan data uji, BERT juga menunjukkan kinerja yang lebih baik dengan nilai tertinggi pada akurasi validasi sebesar 79,21% dan akurasi uji sebesar 79,36%, sementara GPT memperoleh nilai tertinggi pada akurasi validasi sebesar 75,26% dan akurasi uji sebesar 75,59%. Berdasarkan confusion matrix juga menunjukkan bahwa BERT lebih unggul dalam menganalisis komentar bersentimen netral. Sementara GPT, terutama pada skenario 2, lebih efektif dalam memprediksi komentar dengan sentimen positif. Pada evaluasi model dengan data uji, model GPT memiliki tingkat kesalahan (loss) yang lebih kecil, dengan nilai loss terendah sebesar 0,79 dibandingkan nilai loss terendah BERT sebesar 0,99.