Deteksi suatu botnet dengan reverse engineering

KELANA, Oesman Hendra, Dr.tech. Khabib Mustofa, S.Si., M.Kom

2010 | Tesis | S2 Ilmu Komputer

Botnet adalah program malware yang berbahaya. Komputer yang terkena botnet, yang biasa disebut bot, akan dikendalikan oleh botmaster untuk melakukan berbagai hal seperti: spamming, phishing, keylogging, Distributed Denial of Service (DDoS) dan kegiatan lain yang umumnya untuk mendatangkan keuntungan bagi pemilik bot (botmaster) atau orang yang menggunakan jasa botnet. Yang menjadi masalah adalah bahwa banyak komputer yang telah dikuasai oleh bot tanpa diketahui oleh pemilik komputer. Ada berbagai cara untuk meneliti botnet, misalnya dengan mempelajari lalu lintas jaringan dari botnet, bagaimana antar bot berkomunikasi, bagaimana tiap bot menerima perintah untuk melakukan sesuatu, dan lain sebagainya. Dari sekian banyak metode, cara yang paling sering dan umum digunakan adalah dengan reverse engineering, di mana peneliti mengamati bagaimana suatu botnet bekerja dengan cara men-disassembly botnet tersebut. Penelitian yang dilakukan penulis meneliti botnet dengan mengambil suatu jenis botnet, yakni Agobot dengan menggunakan reverse engineering. Dari penelitian diperoleh bahwa file program malware pada umumnya dan botnet pada khususnya memiliki teknik tertentu untuk mengaburkan cara penelitian yang menggunakan reverse engineering. Hasil penelitian menunjukkan bahwa botnet Agobot berjalan di dalam komputer dengan menggunakan Windows service, dan mengubah registry Windows agar setiap kali komputer dijalankan, Agobot senantiasa aktif bekerja di dalam memori komputer.

Botnet is a malicious program. Botnet that infects computers, called bots, will be controlled by a botmaster to do various things such as: spamming, phishing, keylogging, Distributed Denial of Service (DDoS) and other activities that are generally profitable to the owner of the bot (botmaster) or those who use botnet services. The problem is that many computers have been controlled by botnets without the knowledge of the computer owner. There are many ways to examine botnets, for example by studying the traffic from the botnet network, studying how botnets communicate to each, studying how each robot receives orders to do something, and so forth. Of the many methods, the most frequently and commonly used is the reverse engineering, where researchers study how a botnet works by botnet dissasembling. In this study the author tries to understand or research botnets by taking a type of botnet, namely Agobot, using reverse engineering. One of the result of the research is that malware program files in general and in particular botnet has a technique to obscure the way that research using reverse engineering. Another result also shows that the botnet Agobot runs on computers by using the Windows service, and by changing the Windows registry so that every time the computer starts, Agobot always actively works in the computer memory.

Kata Kunci : Malware,Bot,Botnet,Agobot,Spam,Distributed denial of Services,Identity Theft,Keamanan komputer,Reverse engineering,Disasembly,Windows service,Registry