Diophantine Journal of Mathematics and Its Applications
Vol. 2 No. 1 (2023)

Performa Teknik Regularisasi Dalam Penanganan Masalah Multikolinieritas

Fikri, Alin Febianti (Unknown)
Agwil, Winalia (Unknown)
Agustina, Dian (Unknown)



Article Info

Publish Date
30 Jun 2023

Abstract

Multikolinieritas adalah kondisi terdapat hubungan linier antar variabel independen, dimana diantara variabel independen tersebut saling berkorelasi. Akibatnya akan sulit untuk melihat pengaruh variabel independen terhadap variabel dependen. Penanganan multikolinieritas salah satunya dapat dilakukan menggunakan teknik regularisasi yaitu bentuk regresi yang mengatur atau menyusutkan perkiraan koefisien menuju nol. Teknik regularisasi yang akan dibahas pada penelitian adalah regresi ridge, LASSO dan elastic net. Regresi ridge hanya dapat menyusutkan koefisien regresi menuju angka 0, tetapi tidak pernah tepat ke angka 0. Regresi elastic net dapat menyusutkan koefisien regresi tepat nol, melakukan seleksi variabel secara simultan dan dapat memilih kelompok peubah yang berkorelasi. Sedangkan, regresi LASSO hanya dapat menyusutkan koefisien dan menetapkan koefisien ke angka 0. Oleh karena itu, LASSO dapat menghasilkan model dengan variabel terbaik. Namun, LASSO memiliki beberapa kelemahan. Ketika jumlah variabel independent lebih kecil dibanding jumlah amatan, kinerja LASSO lebih didominasi oleh ridge. Ketika jumlah variabel independent lebih besar dibanding jumlah amatan, maka LASSO hanya memilih n variabel yang diikutkan dalam model. Sehingga, untuk mengatasi high dimensional data yang mengandung multikolinieritas dilakukan penelitian menggunakan teknik regularisasi regresi ridge, LASSO dan elastic net untuk dibandingkan kebaikan modelnya berdasarkan nilai MSE terkecil. Data yang digunakan merupakan data simulasi dan studi kasus dari website resmi BPS serta UCI machine learning repository. Disimpulkan bahwa dari 30 pengacakan, model ridge baik memodelkan dataset dengan p = 20, 40, dan 80 atau kondisi dataset dimana jumlah variabel independent lebih kecil dibanding jumlah amatan dan elastic net baik memodelkan dataset dengan p = 100, 160, dan320.

Copyrights © 2023






Journal Info

Abbrev

diophantine

Publisher

Subject

Computer Science & IT Decision Sciences, Operations Research & Management Economics, Econometrics & Finance Engineering Industrial & Manufacturing Engineering

Description

The DJMA is published twice a year in June and December. This journal is managed by the Mathematics Department of Bengkulu University. The scope of this journal includes the fields of: 1. Mathematics 2. Applied Mathematics 3. Statistics 4. Applied Statistics 5. Computer ...