Robust Jackknife Ridge Regression dengan Estimator MM untuk Mengatasi Multikolinearitas dan High Leverage Point

AZIZ ARDIANSYAH, Prof. Dr. Sri Haryatmi, M.Sc.; Rika Fitriani, S.Si., M.Sc.

2017 | Skripsi | S1 STATISTIKA

Analisis regresi adalah analisis dalam statistika untuk menganalisa dan memodelkan hubungan antara variabel dependen (Y) dengan variabel independen (X). Secara umum, metode Ordinary Least Square atau metode kuadrat terkecil digunakan untuk mendapatkan estimasi koefisien regresi. Analisis dengan metode ini harus didasari terpenuhinya asumsi regresi klasik, salah satunya adalah tidak ada multikolinearitas. Jika terdapat multikolinearitas, estimasi parameter metode kuadrat terkecil menjadi kurang baik. Metode regresi ridge seringkali digunakan untuk menyelesaikan masalah multikolinearitas. Konsep dari regresi ridge ini adalah menambah tetapan k ke dalam matriks korelasi Z'Z. Namun regresi ridge memiliki nilai bias meskipun dapat menghilangkan multikolinearitas pada regresi linear ganda. Metode regresi jackknifed ridge merupakan metode yang dapat menghilangkan multikolinearitas serta menurunkan nilai bias akan tetapi tidak dapat digunakan untuk data yang mengandung high leverage point. Metode yang dapat digunakan untuk mengatasi high leverage point adalah regresi robust dengan estimator MM. Sehingga untuk mengatasi multikolinearitas dan high leverage point secara bersamaan dapat digunakan metode Robust Ridge Regression dan Robust Jackknife Ridge Regression berdasarkan estimator MM. Melalui nilai Mean Square Error, Akaike Information Criterion dan Bayesian Information Criterion diperoleh bahwa metode Robust Jackknife Ridge Regression dengan estimator MM lebih baik dibandingan dengan metode Robust Ridge Regression dengan estimator MM.

Regression analysis is an analysis for modelling a relation between dependent variable (Y) and independent variable (X). In general, ordinary least square method is used to obtain the estimation of regression coefficients. This method should be based on the fulfillment of classical regression assumptions, which one of them is no multicollinearity. If there is multicollinearity, the parameter estimation of ordinary least square method becomes deficient. Ridge regression method often used to solve multicollinearity problem. The concept of ridge regression is adding a constant k to correlation matrix Z’Z. But the ridge regression has a bias although it can eliminate multicollinearity in multiple linear regression. Jackknifed Ridge Regression method is a method that can handle multicollinearity and reduce bias but can not be used for data containing high leverage point. The method can be used to handle high leverage point is a robust regression based on MM estimator. So, to overcome multicollinearity and high leverage point simultaneously can use Robust Ridge Regression and Robust Jackknife Ridge Regression with MM estimator. Based on the value of Mean Square Error, Akaike Information Criterion and Bayesian Information Criterion, Robust Jackknife Ridge Regression is better than Robust Ridge Regression with MM estimator.

Kata Kunci : Multikolinearitas, high leverage point, regresi ridge, regresi jackknife ridge, robust, estimator MM