Generative Chatbot Berbahasa Indonesia Dengan Menggunakan Arsitektur Transformer - Winarto Saputro; Edi Winarko (Journal of Applied Computer Science and Technology, 2026)
Chatbot merupakan program komputer yang dirancang untuk berinteraksi dengan manusia melalui pesan teks maupun suara. Salah satu pendekatan yang banyak dikaji adalah Generative Chatbot, yang menghasilkan respons secara dinamis berdasarkan data percakapan, berbeda dengan pendekatan Retrieval maupun Rule-based yang bergantung pada templat atau basis pengetahuan tetap. Penelitian ini secara khusus bertujuan untuk mengembangkan model sequence-to-sequence berbasis Transformer untuk percakapan berbahasa Indonesia serta melakukan pembandingan empiris dengan arsitektur GRU yang diperkaya dengan mekanisme Attention. Dataset yang digunakan berupa pasangan tanya–jawab berbahasa Indonesia yang diambil dari penelitian terdahulu dan diperluas melalui teknik augmentasi berbasis sinonim guna meningkatkan variasi dan keberagaman data pelatihan. Model dievaluasi menggunakan metrik BLEU-Score untuk mengukur kualitas respons yang dihasilkan serta indikator efisiensi komputasi selama pelatihan dan inferensi. Hasil eksperimen menunjukkan bahwa arsitektur Transformer menunjukkan kinerja yang lebih baik dalam mempertahankan konteks pada urutan kalimat yang panjang, yang tercermin pada peningkatan nilai BLEU-Score dibandingkan GRU+Attention pada data setiap dataset yang diuji. Selain itu, sifat pemrosesan paralel pada Transformer berkontribusi pada efisiensi waktu pelatihan yang lebih baik dibandingkan model berbasis GRU+Attention yang bersifat sequential. Penelitian ini menunjukkan potensi Transformer sebagai fondasi yang efektif untuk pengembangan generative chatbot berbahasa Indonesia