Laporkan Masalah

PERBANDINGAN ANTARA SOCCER GAME OPTIMIZATION DENGAN ALGORITME BACKPROPAGATION PADA FASE LATIH JARINGAN SYARAF TIRUAN

MUHAMMAD RIZKI RAMADHANA, Suprapto, Drs., M.I.Kom., Dr. ; Faizal Makhrus,S.Kom., M.Sc., Ph.D

2021 | Skripsi | S1 ILMU KOMPUTER

Feedforward neural networks (FNN) merupakan model pembelajaran mesin yang telah digunakan di berbagai bidang industri. FNN secara umum menggunakan algoritme backpropagation (BP) berbasis gradien dalam melakukan optimasi pada fase trainingnya. Algoritme BP dapat terjebak pada titik lokal optima pada ruang pencarian karena sifat dari gradien. Untuk itu para peneliti mencoba menggunakan algoritme metaheuristik pada FNN. Algoritme metaheuristik bernama Soccer Game optimization diperkenalkan pada tahun 2015. SGO memberikan hasil yang baik dalam masalah optimasi dari fungsi diskrit dan kontinu dibanding algoritme metaheuristik lain. Walalupun begitu, SGO belum pernah digunakan pada optimasi FNN. Pada penelitian ini, dilakukan perbandingan algoritme SGO dengan algoritme BP dalam melakukan optimasi FNN. Kedua algoritme diterapkan pada lima dataset klasifikasi untuk dibandingkan nilai akurasi dan kecepatan waktu komputasi pada saat training. Hasil yang didapat Algoritme BP memperoleh nilai akurasi yang lebih baik dibandingkan algoritme SGO pada 4 dari 5 permasalahan klasifikasi. Waktu komputasi SGO dapat lebih cepat dari pada BP dengan menggunakan stopping criteria. Hal itu terjadi karena nilai Cross entropy loss pada SGO membaik dengan cepat di iterasi awal, namun ternyata lebih mudah terjebak di lokal optima dibandingkan BP.

Feedforward neural networks (FNN) is a machine learning model which has the capabilities of approximating any continuous function. FNN used backpropagation which is a gradient-based optimization technique for optimizing its objective function. However, because of the limitations of gradient-based algorithms which has tendency to fall in one local optima or plateaus, the necessity of metaheuristic-based optimization methods was recognized. In 2015 a new metaheuristics algorithm named Soccer Game optimization (SGO) were introduced. SGO outperformed others popular metaheuristics methods in optimizing descrete and continous problems. Nevertheless, SGO have never been used in optimizing FNN. This research attempts to compare SGO and BP in solving FNN optimization. Both algorithm being compared by their prediction accuracy and computation time while training. Benchmark problems consist of 5 classification problems from UCI machine learning dataset. The result is BP outperform SGO in accuracy and loss function for 4 out of 5 classification problems. Computation time of SGO can be better than BP if using stopping criteria. That happen because loss function in SGO gets better in earlier iteration but easiear to fall into local optima than BP.

Kata Kunci : optimisasi Neural networks, Backpropagation, Algoritme Soccer Game Optimization, meta-heuristik

  1. S1-2021-383248-abstract.pdf  
  2. S1-2021-383248-bibliography.pdf  
  3. S1-2021-383248-tableofcontent.pdf  
  4. S1-2021-383248-title.pdf