A DEEP LEARNING-BASED MALWARE CLASSIFIER USING ATTENTION-DRIVEN CNN-LSTM ARCHITECTURE

Justin Nashwan Limansubroto, Arif Nurwidyantoro, M.Cs., Ph.D.,

2026 | Skripsi | ILMU KOMPUTER

Malware detection remains a critical challenge in cybersecurity, as modern threats increasingly employ obfuscation and evasion techniques that reduce the effectiveness of traditional signature-based approaches. This study develops a deep learning-based model for static Portable Executable (PE) malware classification using a hybrid architecture that combines Convolutional Neural Networks (CNN), Long Short-Term Memory (LSTM), and a self-attention mechanism. The model utilizes feature representations derived from the EMBER dataset, where the CNN extracts local feature patterns and the LSTM captures sequential dependencies across features. The attention mechanism is incorporated to assign importance weights to different parts of the feature sequence, enabling more informative representations and supporting interpretability. The model is trained and evaluated using standard classification metrics, with additional ablation and interpretability analyses conducted to examine the contribution of each component. The results indicate that the proposed architecture is effective for malware classification and that the attention mechanism provides meaningful insights into model behavior. These findings highlight the potential of integrating attention into hybrid deep learning architectures to support both performance and interpretability in static malware detection.

Deteksi malware masih menjadi tantangan penting dalam bidang keamanan siber, karena ancaman modern semakin banyak menggunakan teknik obfuscation dan evasion yang mengurangi efektivitas pendekatan tradisional berbasis signature. Penelitian ini mengembangkan model berbasis deep learning untuk klasifikasi malware secara statis pada berkas Portable Executable (PE) dengan menggunakan arsitektur hibrida yang menggabungkan Convolutional Neural Networks (CNN), Long Short-Term Memory (LSTM), dan mekanisme self-attention. Model ini memanfaatkan representasi fitur yang berasal dari dataset EMBER, di mana CNN digunakan untuk mengekstraksi pola fitur lokal, sementara LSTM digunakan untuk menangkap ketergantungan sekuensial antarf fitur. Mekanisme attention diterapkan untuk memberikan bobot kepentingan pada bagian-bagian berbeda dalam urutan fitur, sehingga menghasilkan representasi yang lebih informatif dan mendukung interpretabilitas model. Model dilatih dan dievaluasi menggunakan metrik klasifikasi standar, serta dilengkapi dengan analisis ablation dan interpretabilitas untuk mengkaji kontribusi setiap komponen arsitektur. Hasil penelitian menunjukkan bahwa arsitektur yang diusulkan efektif dalam melakukan klasifikasi malware dan bahwa mekanisme attention mampu memberikan wawasan yang bermakna terhadap perilaku model. Temuan ini menegaskan potensi integrasi attention ke dalam arsitektur deep learning hibrida untuk mendukung peningkatan kinerja dan interpretabilitas dalam deteksi malware statis.

Kata Kunci : Malware Detection, Static Analysis, Deep Learning, CNN, LSTM, Attention Mechanism, EMBER Dataset, Interpretability