KULLBACK'S INFORMATION CRITERION CORRECTION (KICC) UNTUK SELEKSI MODEL REGRESI LINEAR MULTIVARIAT

ITTA AGATHYA SARAH, Drs. Zulaela, Dipl. Med. Stats., M.Si

2015 | Skripsi | S1 STATISTIKA

Analisi regresi linear adalah analisis statistika yang dilakukan untuk memodelkan hubungan antara variabel dependen dan variabel independen. Apabila terdapat beberapa variabel dependen yang saling berkorelasi dan satu atau lebih variabel independen, maka dinamakan analisis regresi linear multivariat. Dalam analisis regresi pemilihan model merupakan hal yang penting, untuk mengetahui variabel prediktor mana saja yang berpengaruh signifikan terhadap variabel respon dalam model regresi. Kita telah mengetahui beberapa kriteria uji yang digunakan untuk seleksi model regresi, dan yang paling sering kita gunakan adalah kriteria AIC (Akaike Information Criterion). Tetapi apabila AIC digunakan pada sampel kecil, AIC akan bersifat bias, sehingga dibentuk kriteria uji KICC (Kullback�s Information Criterion Correction) sebagai penyempurnaan terhadap AIC. KICC merupakan ekspektasi dari jarak Simetris Kullback-Leibler antara densitas model sementara dengan densitas model sebenarnya.

Regression analysis is a statistical analysis that used to perform model relationship between dependent variabel and independen variables. If there are several dependen variables which are correlated and one or more independen variables, then it called multivariate linear regression analysis. In regression, model selection is a important part in order to determine which predictor (independen) variables that significantly influence the response (dependen) variable in the regression model. We already know some of the test criteria used for selection regression model , and most often we use is the criteria AIC ( Akaike Information Criterion ) . But if the AIC is used on a small sample , AIC will be biased , so that the test criteria established KICC ( Kullback 's Information Criterion Correction ) as a refinement of the AIC. KICC is an expectation of Kullback-Leibler Symmetric Divergence between probability density of candidate model and a true model.

Kata Kunci : multivariate linear regression, model selection, small samples, Kullback Leibler symmetric divergence