APLIKASI METODE KLASIFIKASI REGULARIZED NAIVE BAYES PADA STUDI KASUS PREDIKSI KANKER PAYUDARA
Josevine Gabriela Wijanarko, Dr. Irwan Endrayanto Aluicius, S.Si., M.Sc.
2026 | Skripsi | STATISTIKA
Metode klasifikasi merupakan salah satu pendekatan penting dalam statistika dan pembelajaran mesin yang banyak digunakan dalam berbagai bidang, termasuk kesehatan. Salah satu algoritma yang populer adalah Naive Bayes Classifier (NBC), yang memiliki keunggulan dalam kesederhanaan dan efisiensi komputasi. Namun, asumsi independensi antar atribut pada metode ini sering kali tidak terpenuhi pada data nyata sehingga dapat memengaruhi performa model. Untuk mengatasi keterbatasan tersebut, dikembangkan metode Regularized Naive Bayes (RNB) yang mengombinasikan pembobotan atribut global dan pembobotan spesifik kelas melalui parameter regularisasi. Penelitian ini bertujuan untuk mengkaji prosedur metode Regularized Naive Bayes, mengaplikasikannya pada kasus klasifikasi, serta membandingkan performanya dengan metode Naive Bayes Classifier. Data yang digunakan adalah Breast Cancer Wisconsin (Diagnostic) Dataset yang terdiri dari 569 observasi dengan dua kelas diagnosis, yaitu benign dan malignant. Tahapan penelitian meliputi prapemrosesan data, penerapan model klasifikasi, serta evaluasi performa menggunakan metrik accuracy, precision, recall, dan F1-score. Hasil penelitian menunjukkan bahwa model RNB menghasilkan performa yang lebih baik dibandingkan NBC pada proses validasi silang, dengan nilai accuracy dan F1-score yang secara konsisten lebih tinggi pada berbagai skema k-fold cross validation. Namun, pada data uji akhir, model NBC dan RNB menghasilkan performa klasifikasi yang identik dengan accuracy sebesar 0,9649 dan F1-score sebesar 0,9512. Meskipun demikian, analisis probabilitas posterior menunjukkan bahwa kedua model menghasilkan estimasi probabilitas yang berbeda secara substantif pada beberapa sampel, dengan selisih maksimum mencapai 0,574. Hal ini menunjukkan bahwa RNB mampu menghasilkan estimasi posterior yang lebih informatif meskipun keputusan klasifikasi akhirnya sama. Di sisi lain, RNB memerlukan waktu komputasi yang jauh lebih tinggi dibandingkan NBC karena melibatkan proses optimasi parameter berbasis gradien. Berdasarkan hasil tersebut, dapat disimpulkan bahwa metode Regularized Naive Bayes efektif dalam menghasilkan estimasi probabilitas posterior yang lebih kaya dan stabil pada proses validasi silang, namun peningkatan tersebut disertai trade-off berupa kompleksitas dan waktu komputasi yang lebih besar.
Classification methods are an important approach in statistics and machine learning that are widely applied in various fields, including healthcare. One of the most commonly used algorithms is the Naive Bayes Classifier (NBC), which is known for its simplicity and computational efficiency. However, the assumption of conditional independence among features is often violated in real-world data, which may affect the model's performance. To address this limitation, the Regularized Naive Bayes (RNB) method was developed by combining global attribute weighting and class-specific attribute weighting through a regularization parameter. This study aims to examine the procedure of the Regularized Naive Bayes method, apply it to a classification problem, and compare its performance with the Naive Bayes Classifier. The dataset used in this study is the Breast Cancer Wisconsin (Diagnostic) Dataset, consisting of 569 observations with two diagnostic classes: benign and malignant. The research stages include data preprocessing, model implementation, and performance evaluation using accuracy, precision, recall, and F1-score metrics. The results show that the RNB model achieves better performance than NBC during the cross-validation process, with consistently higher accuracy and F1-score values across various k-fold cross-validation schemes. However, on the final test data, both NBC and RNB produce identical classification performance with an accuracy of 0.9649 and an F1-score of 0.9512. Nevertheless, posterior probability analysis reveals that the two models generate substantially different probability estimates for several samples, with a maximum difference of 0.574. This indicates that RNB is capable of producing more informative posterior probability estimates even when the final classification decisions remain the same. On the other hand, RNB requires significantly higher computational time than NBC due to its gradient-based parameter optimization process. Based on these results, it can be concluded that the Regularized Naive Bayes method is effective in producing richer and more stable posterior probability estimates during cross-validation, although these improvements come with a trade-off in terms of model complexity and computational time.
Kata Kunci : Regularized Naive Bayes, Naive Bayes Classifier, klasifikasi, kanker payudara, machine learning