Prediksi Harga Saham Dengan Simulasi Monte Carlo dan Volatilitas Hasil Prediksi XGBOOST

I Nyoman Trinur Widhyarsa, Prof. Dr. Eduardus Tandelilin, M.B.A; Prof. Hyung-Eun Choi, Ph.D.,

2024 | Tesis | S2 MANAJEMEN (MM) JAKARTA

Studi ini mengeksplorasi penerapan Simulasi Monte Carlo dengan eXtreme Gradient Boosting (XGBoost) untuk memprediksi volatilitas harga saham. Tujuan utama dari penelitian ini adalah untuk mengeksplorasi dan memanfaatkan bagaimana teknik kombinasi ini dapat digunakan untuk memprediksi secara akurat harga aset di masa mendatang berdasarkan harga historis dan volatilitas yang diprediksi, dalam hal ini harga saham.

XGBoost dalam studi ini akan menggunakan fitur Grid Search Cross-Validation dan regularisasi L2 dalam pengaturan penyetelan hiperparameter untuk menormalkan model variabel target yang memastikan keseimbangan antara akurasi dan interpretabilitas model. Model terbaik akan menghasilkan serangkaian nilai variabel target, dalam hal ini volatilitas harga yang diprediksi yang kemudian akan digunakan sebagai parameter volatilitas input untuk Simulasi Monte Carlo. Harga saham masa depan yang dihasilkan dari simulasi akan dianalisis dan diplot untuk mengamati dan mengukur bagaimana harga saham yang diprediksi dapat sesuai dengan harga aktual historis, dalam hal ini kumpulan data uji yang merupakan 20%  terakhir atau dua tahun terakhir dari data deret waktu. Hasil penelitian menunjukkan penggunaan volatilitas yang diprediksi, ?, dalam rumus Geometric Brownian Motion tidak memiliki perbedaan akurasi yang signifikan dalam memprediksi harga masa depan dengan simulasi Monte Carlo. 

Penelitian ini menyimpulkan bahwa model XGBoost dan Simulasi Monte Carlo memiliki potensi alat analisis prediktif gabungan dengan rekayasa fitur yang tepat. Secara khusus, penelitian ini menyoroti perlunya penelitian lebih lanjut untuk mengeksplorasi integrasi Simulasi Monte Carlo dengan teknik pembelajaran mesin lainnya untuk mengeksplorasi aplikasinya dalam meningkatkan akurasi prediksi pada harga saham masa depan, menambahkan fitur yang lebih berdampak seperti Relative Strength Index (RSI), analisis dan penilaian sentimen, atau sinyal keuangan lain yang dapat diukur dan relevan.

This study explores the application of Monte Carlo Simulation (MCS) with extreme Gradient Boosting (XGBoost) to predict volatility of stock price. The primary objective of this research is to explore and exploit how these combination techniques can be used to predict accurately the future price of an asset given their historical price and predicted volatility, in this case stock price.

XGBoost in this study will use Grid Search Cross-Validation and L2 regularization features in hyperparameter tuning setup to normalize the target variable models ensuring balance between model accuracy and interpretability. The best model will generate array of target variable values, in this case predicted price volatility which will be used as input volatility parameter for Monte Carlo Simulation. Generated future stock price from the simulation will be analyze and plotted to observed and measure how the predicted stock price able to fit with the historical actual price, in this case the test data set which is the last 20 % or the last two years of the timeseries data.

The results of the study show the used of predicted volatility, ?, in Geometric Brownian Motion formula has no significant difference accuracy in predicting future price with Monte Carlo simulation. The study concludes XGBoost model and Monte Carlo Simulation have potential combo predictive analysis tools with the right features engineering. In particular, it highlights the need for further studies to explore the integration of Monte Carlo Simulation with other machine learning techniques to explore its application in enhancing prediction accuracy on future stock price, adding impactful more impactful features like Relative Strength Index (RSI), sentiment analysis and scoring, or other measurable and relevant financial signals. 

Kata Kunci : Volatilitas, Simulasi Monte Carlo, Extreme Gradient Boosting (XGBoost), harga masa depan, Geometric Brownian Motion