TRANSISTOR Elektro dan Informatika
Vol 7, No 1 (2025): April : Transistor EI

IMPLEMENTASI FINE-TUNING UNTUK PREDIKSI SOLUSI DARI KALIMAT MASALAH PADA ARTIKEL ILMIAH MENGGUNAKAN LARGE LANGUAGE MODELS (LLM)

Nurinayah, Alfiyatu (Unknown)
Chaerul Haviana, Sam Farisa (Unknown)



Article Info

Publish Date
24 Apr 2025

Abstract

Prediksi solusi kalimat masalah dalam artikel ilmiah merupakan suatu tantangan karena tidak semua kalimat masalah dalam artikel menyebutkan solusi secara eksplisit. Penelitian ini mengembangkan model berbasis fine-tuning Llama 3.2 1B Instruct untuk memprediksi solusi dari kalimat masalah. Model dilatih dengan 99 pasangan kalimat masalah-solusi untuk memahami pola hubungan keduanya. Evaluasi menggunakan ROUGE menunjukkan skor ROUGE-1 sebesar 0,611, ROUGE-2 sebesar 0,496, dan ROUGE-L sebesar 0,576. Selama pelatihan, loss menurun dari 0.4394 pada epoch pertama menjadi 0.0286 pada epoch kelima, menunjukkan peningkatan pemahaman model. Namun, model mengalami kesulitan dalam memprediksi solusi dari permasalahan di luar cakupan data latih dan hasilnya terkadang kurang relevan saat diterapkan dalam aplikasi, kemungkinan karena keterbatasan komputasi. Penelitian lebih lanjut diperlukan untuk meningkatkan akurasi dan stabilitas model pada sistem dengan sumber daya terbatas

Copyrights © 2025






Journal Info

Abbrev

TRANSISTOR EI

Publisher

Subject

Computer Science & IT Electrical & Electronics Engineering

Description

TRANSISTOR EI (Jurnal Elektro dan Informatika) adalah publikasi ilmiah yang menerbitkan artikel bidang teknik elektro yang mencakup ketenagaan, elektronika, instrumentasi, telekomunikasi, kendali; serta bidang teknik informatika yang mencakup sistem informasi, software engineering, computer network, ...