Pohon Regresi Bayesian Aditif dan Aplikasinya

Savitri Dihas Strinareswari, Prof. Dr. Abdurakhman, S.Si., M.Si.

2025 | Skripsi | STATISTIKA

Bayesian Additive Regression Trees (BART) adalah pendekatan Bayesian non-parametrik untuk regresi dan klasifikasi yang menggabungkan fleksibilitas pembelajaran mesin dengan interpretabilitas statistik Bayesian. Dalam BART, variabel respons dimodelkan sebagai penjumlahan dari banyak pohon regresi kecil, yang masing-masing berkontribusi secara inkremental terhadap prediksi. Metode ensemble ini memanfaatkan Bayesian backfitting Markov Chain Monte Carlo (MCMC) untuk mengestimasi distribusi posterior, yang memungkinkan kuantifikasi ketidakpastian dan prediksi yang robust. Kemampuannya untuk menangkap hubungan dan interaksi nonlinier yang kompleks tanpa spesifikasi sebelumnya menjadikannya alat yang ampuh dalam berbagai domain, termasuk layanan kesehatan, ekonomi, dan genomika. BART juga mengakomodasi pemilihan variabel dan perata-rataan model, menawarkan kerangka kerja yang mendalam untuk inferensi statistik dan pengambilan keputusan.

Bayesian Additive Regression Trees (BART) is a non-parametric Bayesian approach to regression and classification that combines the flexibility of machine learning with the interpretability of Bayesian statistics. In BART, the response variable is modeled as a sum of many small regression trees, each contributing incrementally to the prediction. This ensemble method leverages Bayesian backfitting Markov Chain Monte Carlo (MCMC) to estimate posterior distributions, enabling uncertainty quantification and robust prediction. Its ability to capture complex nonlinear relationships and interactions without prior specification makes it a powerful tool in a variety of domains, including healthcare, economics, and genomics. BART also accommodates variable selection and model averaging, offering an insightful framework for statistical inference and decision-making.

Kata Kunci : Pohon Regresi, Metode Bayesian, Algoritma MCMC, Sum of Trees, Bayesian Additive Regression Tree