ANALYTICAL FORWARD LEARNING (AFL) PADA JARINGAN SYARAF TIRUAN (JST)

SYUKRON ABU ISHAQ ALFAROZI, Noor Akhmad Setiawan, S.T., M.T., Ph.D.

2014 | Skripsi | TEKNOLOGI INFORMASI

Learning algorithm pada jaringan syaraf tiruan (JST) yang memiliki kecepatan training yang tinggi dan performa yang cukup baik disebut Extreme Learning Machine (ELM). ELM mengatasi kekurangan dari algoritme sebelumnya yang menggunakan metode iteratif berbasis gradient descent seperti BP yang memiliki waktu training yang cukup lama dan terkadang terjebak di solusi minimum lokal. ELM melatih JST model single hidden layer feedforward neural network (SLFN) yaitu dengan membiarkan bobot penghubung antara input layer dan hidden layer secara acak sedangkan bobot penghubung antara hidden layer dan output layer dihitung secara analitis menggunakan Moore-Penrose generalized inverse. Nilai random pada bobot penghubung akan mempengaruhi perhitungan analitis pada bobot selanjutnya, sehingga akan mengakibatkan ketidakstabilan dari ELM algoritme. Pada penelitian ini diusulkan algoritme Analytical Forward Learning (AFL). AFL menghitung semua bobot secara analitis yaitu menggunakan poison vector yang diperoleh dari hasil pemetaan nilai output layer ke hidden layer. Selanjutnya, Poison vector bertindak sebagai directed mapper dari input layer ke hidden layer. AFL juga dapat diaplikasikan secara umum pada Multilayer Perceptron (MLP). Hasil penelitian ini menujukkan bahwa AFL memiliki tingkat akurasi dan error yang cukup baik seperti halnya BP dibandingkan dengan ELM. Selain itu, AFL juga memiliki waktu training yang sangat cepat mendekati kemampuan training dari ELM.

Learning algorithm for neural network that has high learning speed and good performance is called extreme learning machine (ELM). ELM tends to solve the issues of iterative method like BP gradient-based learning algorithm. BP may face several issues like local minima, hardly parameter chosen, slow learning speed, etc. On the other hand, BP has good generalized performance with appropriate initial condition and parameter. ELM trains the single hidden layer feedforward neural network (SLFN) by calculating the weight between hidden layer and output layer analytically using Moore-Penrose generalized inverse, and assign randomly the weight between input layer and hidden layer. Although this algorithm is extremely fast, the random weight could cause the network unstable. This research proposes new algorithm that is called analytical forward learning (AFL). AFL calculates the weight of neural network analytically from the first to the last layer. AFL uses poison vector obtained from output layer to the particular hidden layer using Moore-Penrose generalized inverse to calculate each weight on the network. Poison vector acts as directed mapper from the input layer to particular hidden layer so that the last weight can be calculated easily with minimum error. The result of this research shows that AFL provides good generalized performance like BP rather than ELM and has high learning speed like ELM. Furthermore, this algorithm can be applied to multilayer perceptron generally to solve any complex network architecture.

Kata Kunci : analytical forward learning, poison vector, extreme learning machine, back propagation, Moore-Penrose generalized inverse.