Jurnal Teknologi Informasi dan Ilmu Komputer
Vol. 13 No. 5: Oktober 2026

Fine-Tuning T5 (Text-To-Text-Transfer Transformer) Untuk Seleksi Jawaban Pada Sistem Tanya Jawab Berbahasa Indonesia

Khasanah, Hilma Nur (Unknown)
Rismiyati (Unknown)
Kusumaningrum, Retno (Unknown)



Article Info

Publish Date
02 Nov 2026

Abstract

Kemajuan teknologi informasi mendorong perkembangan dalam dunia pendidikan, khususnya dalam meningkatkan kualitas dan efektivitas pembelajaran, salah satunya melalui penerapan Sistem Tanya Jawab (Question Answering System/QAS). Inovasi signifikan dalam QAS adalah Chat Generative Pre-trained Transformer (ChatGPT), yang mampu menghasilkan teks menyerupai percakapan manusia. Namun, ChatGPT memberikan jawaban yang bersifat subjektif karena data latihnya berasal dari berbagai sumber daring yang kredibilitasnya tidak selalu terjamin. Permasalahan ini dapat diatasi dengan membangun QAS yang berbasis pada dataset yang kredibel. Pengembangan QAS terdiri dari beberapa tahapan, namun penelitian ini difokuskan pada tahap seleksi jawaban. Tahap ini merupakan tahap fundamental yang mengidentifikasi kanddidat jawaban yang sesuai dengan pertanyaan. Ini sangat dipengaruhi oleh kualitas representasi pertanyaan dan jawaban (proses word embedding). Dimana word embedding yang representatif akan mampu membuat model menangkap hubungan semantik yang lebih baik diantara pertanyaan dan jawaban. penelitian sebelumnya mengenai proses word embedding dalam tahap seleksi jawaban masih memiliki kelemahan dalam mengasilkan jawaban secara langsung. Sehingga, untuk mengatasi kelemahan tersebut, penelitian ini menggunakan fine-tinning Text-To-Text Transfer Transformer (T5) yang mengadopsi arsitektur encoder-decoder untuk seleksi jawaban sistem tanya jawab. Untuk dapat meningkatkan performa model, penelitian ini juga melakukan optimasi terhadap beberapa hyperparameter, seperti learning rate dan batch size. Hasil evaluasi menunjukkan bahwa batch size optimal adalah 4 dan learning rate optimal adalah 5e-5, dengan skor ROUGE-1 = 0,53, ROUGE-2 = 0,47, dan ROUGE-L = 0,52.   Abstract Advances in information technology are enhancing education by improving the quality and effectiveness of learning, particularly through the implementation of a Question Answering System (QAS). A significant innovation in QAS is the Chat Generative Pre-trained Transformer (ChatGPT), which is capable of generating text resembling human conversation. However, ChatGPT often provides subjective answers because its training data is sourced from various online platforms, where the credibility of the information is not always guaranteed. This issue can be addressed by developing a QAS based on a credible dataset.  The development of a QAS involves several stages, but this research specifically focuses on the answer selection stage. This stage is crucial as it identifies candidate answers that align well with the questions posed. The quality of the questions significantly influences how answers are represented during the word embedding process. Effective word embedding allows the model to better capture the semantic relationships between questions and answers. Previous research on word embedding processes during the answer selection stage has had difficulty generating answers directly. To address this weakness, this study utilizes the Text-To-Text Transfer Transformer (T5) fine-tuning, which adopts an encoder-decoder architecture for answer selection in Question Answering Systems (QAS). Furthermore, the study optimizes various hyperparameters, such as learning rate and batch size, to improve model performance. The evaluation results revealed that the optimal batch size was four and the optimal learning rate was set at 5e-5, leading to ROUGE scores of ROUGE-1 = 0.53, ROUGE-2 = 0.47, and ROUGE-L = 0.52.

Copyrights © 2026






Journal Info

Abbrev

JTIIK

Publisher

Subject

Computer Science & IT Engineering

Description

Jurnal Teknologi Informasi dan Ilmu Komputer (JTIIK) merupakan jurnal nasional yang diterbitkan oleh Fakultas Ilmu Komputer (FILKOM), Universitas Brawijaya (UB), Malang sejak tahun 2014. JTIIK memuat artikel hasil-hasil penelitian di bidang Teknologi Informasi dan Ilmu Komputer. JTIIK berkomitmen ...