Kemajuan teknologi informasi mendorong perkembangan dalam dunia pendidikan, khususnya dalam meningkatkan kualitas dan efektivitas pembelajaran, salah satunya melalui penerapan Sistem Tanya Jawab (Question Answering System/QAS). Inovasi signifikan dalam QAS adalah Chat Generative Pre-trained Transformer (ChatGPT), yang mampu menghasilkan teks menyerupai percakapan manusia. Namun, ChatGPT memberikan jawaban yang bersifat subjektif karena data latihnya berasal dari berbagai sumber daring yang kredibilitasnya tidak selalu terjamin. Permasalahan ini dapat diatasi dengan membangun QAS yang berbasis pada dataset yang kredibel. Pengembangan QAS terdiri dari beberapa tahapan, namun penelitian ini difokuskan pada tahap seleksi jawaban. Tahap ini merupakan tahap fundamental yang mengidentifikasi kanddidat jawaban yang sesuai dengan pertanyaan. Ini sangat dipengaruhi oleh kualitas representasi pertanyaan dan jawaban (proses word embedding). Dimana word embedding yang representatif akan mampu membuat model menangkap hubungan semantik yang lebih baik diantara pertanyaan dan jawaban. penelitian sebelumnya mengenai proses word embedding dalam tahap seleksi jawaban masih memiliki kelemahan dalam mengasilkan jawaban secara langsung. Sehingga, untuk mengatasi kelemahan tersebut, penelitian ini menggunakan fine-tinning Text-To-Text Transfer Transformer (T5) yang mengadopsi arsitektur encoder-decoder untuk seleksi jawaban sistem tanya jawab. Untuk dapat meningkatkan performa model, penelitian ini juga melakukan optimasi terhadap beberapa hyperparameter, seperti learning rate dan batch size. Hasil evaluasi menunjukkan bahwa batch size optimal adalah 4 dan learning rate optimal adalah 5e-5, dengan skor ROUGE-1 = 0,53, ROUGE-2 = 0,47, dan ROUGE-L = 0,52. Abstract Advances in information technology are enhancing education by improving the quality and effectiveness of learning, particularly through the implementation of a Question Answering System (QAS). A significant innovation in QAS is the Chat Generative Pre-trained Transformer (ChatGPT), which is capable of generating text resembling human conversation. However, ChatGPT often provides subjective answers because its training data is sourced from various online platforms, where the credibility of the information is not always guaranteed. This issue can be addressed by developing a QAS based on a credible dataset. The development of a QAS involves several stages, but this research specifically focuses on the answer selection stage. This stage is crucial as it identifies candidate answers that align well with the questions posed. The quality of the questions significantly influences how answers are represented during the word embedding process. Effective word embedding allows the model to better capture the semantic relationships between questions and answers. Previous research on word embedding processes during the answer selection stage has had difficulty generating answers directly. To address this weakness, this study utilizes the Text-To-Text Transfer Transformer (T5) fine-tuning, which adopts an encoder-decoder architecture for answer selection in Question Answering Systems (QAS). Furthermore, the study optimizes various hyperparameters, such as learning rate and batch size, to improve model performance. The evaluation results revealed that the optimal batch size was four and the optimal learning rate was set at 5e-5, leading to ROUGE scores of ROUGE-1 = 0.53, ROUGE-2 = 0.47, and ROUGE-L = 0.52.
Copyrights © 2026