GENETIC ALGORITHM POWERED DEEP LEARNING FRAMEWORK WITH U-NET AND RESNET-18 FOR CERVICAL CANCER CELLS CLASSIFICATION

Saarah Aqiilah Sihabuddin, Wahyono, Ph.D.

2026 | Skripsi | ILMU KOMPUTER

Klasifikasi sel kanker serviks adalah aspek yang sangat penting dalam diagnosis dini kanker serviks. Hal ini masih menjadi tantangan karena citra sel kanker serviks terdiri atas informasi berbasis piksel berukuran besar yang menghasilkan dimensi fitur yang tinggi. Untuk mengatasi masalah ini, penelitian ini mengusulkan penelitian berbasis metode hibrid yang menggabungkan segmentasi berbasis U-Net, ekstraksi fitur dengan ResNet-18, dan Algoritma Genetika untuk pemilihan fitur.

Langkah pertama adalah segmentasi menggunakan U-Net. Hasil dari model U-Net meraih skor Dice (0.84–0.85) dan IoU (0.74–0.75) yang tinggi di seluruh area latar belakang, sitoplasma, dan nukleus. Langkah selanjutnya adalah pemotongan ROI. ROI dipotong dari gambar menggunakan mask yang dihasilkan oleh U-Net. Kemudian ResNet-18 digunakan  untuk mengekstrasi fitur dari gambar ROI yang telah dipotong, yang menghasilkan representasi dimensi sebesar 512 fitur. Algoritma Genetika kemudian digunakan untuk memilih subset fitur yang paling informatif.

Hasil eksperimen pada dataset SIPaKMeD menunjukkan bahwa metode yang diusulkan mengurangi dimensi fitur sebesar 56% (dari 512 menjadi 225) sekaligus meningkatkan akurasi klasifikasi dari 94.70% menjadi 95.31%, dengan total waktu untuk Algoritma Genetika adalah 49 menit. Hal ini menunjukkan bahwa konfigurasi Algoritma Genetika memberikan keseimbangan yang optimal antara akurasi dan biaya komputasi. Hasil eksperimen ini menunjukkan bahwa mengintegrasikan pembelajaran mendalam dan optimasi fitur evolusioner dapat meningkatkan kinerja klasifikasi sel serviks dan mengurangi dimensi fitur secara signifikan tanpa mengorbankan akurasi. Kesimpulan dari penelitian ini adalah Algoritma Genetika menawarkan peningkatan yang berarti untuk penyelesaian masalah yang memprioritaskan akurasi maksimum daripada biaya komputasi.

Cervical cell classification is essential in the early diagnosis of cervical cancer. It is still challenging since cytology images contain a huge quantity of pixel-based information that produces high feature dimensionality. To solve the problem, this study presents a hybrid pipeline for five class cervical cell classification that combines U-Net based segmentation, deep feature extraction with ResNet-18, and genetic algorithm for feature selection. 

The first step is segmentation by using U-Net. The results from the U-Net model achieves high Dice (0.84–0.85) and IoU (0.74–0.75) scores across background, cytoplasm, and nucleus regions. The next step is ROI cropping. The ROI are then cropped from the images using the U-Net generated mask. To extract the deep features from the cropped ROI images, ResNet-18 is used, generating a 512-feature dimensional representation. Genetic Algorithm is then used to select the most informative subset of deep features. 

Experimental results on the SIPaKMeD dataset reveal that the proposed approach reduces feature dimensionality by 56% (from 512 to 225) while increasing classification accuracy from 94.70% to 95.31%, with the time-cost for the Genetic Algorithm is 49 minutes. It shows that the Genetic Algorithm configurations provide the optimal trade-off between accuracy and computational cost. These findings suggest that integrating deep learning and evolutionary feature optimization can improve cervical cell classification performance and reduce the feature dimensionality significantly without compromising the accuracy. In conclusion, Genetic Algorithm offers a meaningful boost for applications that prioritize maximum accuracy over computational costs.

Kata Kunci : Cervical cancer cells classification, Genetic Algorithm, U-Net, ResNet-18