PENYUSUTAN KOEFISIEN DENGAN METODE ADAPTIVE LASSO

FAERITA AGNINA F, Prof. Drs. Subanar, Ph.D.

2017 | Skripsi | S1 STATISTIKA

Seleksi variabel merupakan salah satu analisis yang populer digunakan di bidang statistik, dan skripsi ini memfokuskan bahasan pada teknik penalisasi atau penyusutan koefisien. Adaptive Lasso yang dikenalkan oleh Zhou adalah metode yang manfaat dari penggunaannya sudah tidak diragukan lagi, dengan kemampuannya menyusutkan beberapa koefisien mendekati nol hingga tepat nol, sehingga terjadi penyeleksian variabel secara langsung. Dengan menggunakan bobot adaptive, Adaptive Lasso menjadi metode yang merupakan perkembangan dari Lasso. Bobot adaptive ini memberikan nilai penalty yang berbeda untuk setiap koefisien, yang menyebabkan keakuratan prediksi untuk estimasi koefisien. Hal ini disebabkan karena nilai penalty yang besar digunakan untuk variabel yang tidak signifikan dan nilai penalty yang kecil digunakan untuk variabel yang signifikan, menghasilkan model akhir yang mudah untuk diinterpretasi. Di akhir skripsi ini, kita membandingkan akurasi prediksi untuk estimasi koefisien dan seleksi variabel dari Adaptive Lasso dengan OLS dan Lasso dengan menggunakan Mean Square Error (MSE).

Variable selection has received a lot of attention in the statistics literature in the recent years, and the focus has been on penalized or shrinkage type of estimators. Adaptive Lasso by Zhou is a well-established method, with its capabilities to shrink some estimated coefficients, close to zero or exactly zero, and to serve as a variable selection simultaneously. Using data-adaptive weights, the Adaptive Lasso method is a modified Lasso method. The weights allow the Adaptive Lasso to apply different amounts of shrinkage to different coefficient and consequently, accomplish an accurate estimation of regression coefficients by large amount of shrinkage used for the insignificant variables and small amount of shrinkage of significant variables, resulting a representative and interpretable final model. In the end of this thesis, we compared the accuracy of prediction of Adaptive Lasso method with the estimation of OLS and Lasso, in term of variable selection and accuracy in predicting estimated coefficients using Mean Square Error (MSE).

Kata Kunci : Ordinary Least Square, Lasso, Adaptive Lasso, Teknik Penalisasi, Penalized Regression