EXPLAINABLE AI BERBASIS CAM UNTUK DETEKSI OBJEK KELAINAN OTAK JANIN PADA CITRA ULTRASONOGRAFI

Aufa Khoiro Umma, Dr. Eng. Silmi Fauziati, S.T., M.T. ; Prof. Ir. Lukito Edi Nugroho, M.Sc., Ph.D.

2025 | Skripsi | S1 TEKNIK BIOMEDIS

Deteksi dini terhadap kelainan janin khususnya kelainan otak menjadi sangat penting untuk memungkinkan intervensi medis yang tepat dan mengurangi risiko komplikasi jangka panjang. Penerapan teknologi berbasis kecerdasan buatan, khususnya arsitektur deep learning, telah menunjukkan potensi besar dalam menganalisis citra medis seperti ultrasonografi (USG) otak janin. Namun, penggunaan model tersebut untuk tugas deteksi objek sering dianggap sebagai black box karena kurangnya transparansi dalam proses pengambilan keputusan, sehingga sulit dipahami dalam konteks klinis. Penelitian ini bertujuan untuk mengevaluasi dan membandingkan performa lima model deteksi objek dalam mendeteksi kelainan otak janin dari citra USG serta menerapkan XAI untuk menghasilkan visualisasi interpretabilitas pada model deteksi objek yang terbaik.

Model deteksi objek yang digunakan adalah RetinaNet, Faster R-CNN, YOLOv5, YOLOv8, dan YOLOv11. Evaluasi pada model deteksi objek tersebut dilakukan menggunakan metrik mean average precision (mAP), precision, dan recall. Berdasarkan hasil evaluasi, YOLOv11 menunjukkan performa terbaik secara keseluruhan dan dipilih untuk analisis lebih lanjut menggunakan metode Explainable AI (XAI). Penerapan XAI dilakukan menggunakan lima pendekatan berbasis Class Activation Mapping (CAM), yaitu GradCAM, EigenCAM, XGradCAM, HiResCAM, dan LayerCAM. Visualisasi heatmap dari metode-metode tersebut dianalisis secara kualitatif untuk mengevaluasi sejauh mana fokus model relevan terhadap area kelainan yang sebenarnya dan metrik pointing game serta mIoU digunakan sebagai validasi. Hasil menunjukkan bahwa HiResCAM dan LayerCAM berhasil menyorot area yang sesuai dengan kelainan otak janin. Untuk pendekatan GradCAM, EigenCAM, dan XGradCAM cenderung tidak stabil karena sebagian besar menyorot area yang tidak fokus pada area abnormalitas dan lebih melebar ke luar bounding box.

Penelitian ini menunjukkan bahwa model deteksi objek dapat diterapkan pada kasus kelainan otak janin dan integrasi model deteksi objek dengan metode XAI dapat meningkatkan transparansi dan interpretabilitas prediksi model dalam konteks medis dengan melihat bagaimana model bekerja melalui visualisasi area-area penting dalam citra yang memengaruhi prediksi menggunakan visualisasi heatmap.

Early detection of fetal abnormalities, especially brain abnormalities, is very important to enable appropriate medical intervention and reduce the risk of long-term complications. The application of artificial intelligence-based technology, particularly deep learning architecture, has shown great potential in analyzing medical images such as fetal brain ultrasonography (USG). However, the use of such models for object detection tasks is often considered a black box due to the lack of transparency in the decision-making process, making it difficult to understand in a clinical context. This study aims to evaluate and compare the performance of five object detection models in detecting fetal brain abnormalities from ultrasound images and apply XAI to generate interpretability visualizations for the best object detection model.

The object detection models used are RetinaNet, Faster R-CNN, YOLOv5, YOLOv8, and YOLOv11. The evaluation of these object detection models was conducted using the mean average precision (mAP), precision, and recall metrics. Based on the evaluation results, YOLOv11 demonstrated the best overall performance and was selected for further analysis using Explainable AI (XAI) methods. XAI implementation was performed using five approaches based on Class Activation Mapping (CAM), namely GradCAM, EigenCAM, XGradCAM, HiResCAM, and LayerCAM. The heatmap visualizations from these methods were qualitatively analyzed to evaluate how well the model’s focus aligns with the actual abnormal areas and quantitative analysis with pointing game and mIoU metrics. The results show that HiResCAM and LayerCAM successfully highlight areas corresponding to fetal brain abnormalities, although the activation area coverage did not always encompass the entire abnormal object. For the GradCAM, EigenCAM, and XGradCAM approaches, they tended to be unstable because they primarily highlighted areas not focused on abnormalities and extended beyond the bounding box.

This study demonstrates that object detection models can be applied to cases of fetal brain abnormalities, and integrating object detection models with XAI methods can enhance the transparency and interpretability of model predictions in a medical context by visualizing how the model works through heatmap visualization of the important areas in the image that influence the prediction.

Kata Kunci : deteksi objek, kelainan otak janin, Explainable AI, CAM, heatmap