Long Short-Term Memory for Smart Reply Application

Mohamad Adhikasurya Haidar, Dr. Nanang Susyanto, S.Si., M.Sc., M.Act.Sc.

2024 | Skripsi | MATEMATIKA

Pada skripsi ini, akan dibahas konsep Long Short-Term Memory (LSTM) beserta perannya dalam membangun suatu aplikasi pembalas pintar. Sebuah perusahaan teknologi informasi dan transportasi bernama Gojek telah mengimplementasikan sebuah algoritma pembalas pintar agar komunikasi dengan pelanggan dapat berjalan lebih lancar. Dalam penelitian ini, akan diilustrasikan bagaimana LSTM mempunyai konsep memory dan gates yang membantu mengolah dan mempertahankan informasi dengan baik dari barisan kata berurutan sebelumnya berdasarkan algoritma pembalas pintar yang dimiliki oleh Gojek. Lebih lanjut, akan dibahas variasi dari LSTM yaitu Bi-LSTM, konsep model sequence-to-sequence, dan Beam Search Decoder untuk membangun model pembalas pintar yang utuh.

In this undergraduate thesis, we discuss the concept of Long Short-Term Memory (LSTM) and its involvement in building a smart reply application. An information technology and transportation-based company called Gojek has implemented a smart reply algorithm to help communicate more smoothly with its customers. In this thesis, the author illustrates how LSTM holds the concept of memory and gates to better preserve information from the previous sequence order of words based on Gojek's smart reply algorithm. Moreover, we also discuss a variation of LSTM, namely Bi-LSTM, the concept of sequence-to-sequence model, and Beam Search Decoder to build a complete smart reply model.

Kata Kunci : machine learning, long short-term memory, optimisasi, stokastik gradien