Integrasi Large Language Models dalam Rancang Bangun Chatbot Berbasis Retrieval Augmented Generation dan Cloud Computing untuk Efisiensi Akses Informasi pada Website Pendukung Akademik

Yana Dayinta Nesthi, Ir. Yuris Mulya Saputra, S.T., M.Sc., Ph.D.

2025 | Tugas Akhir | D4 TEKNOLOGI JARINGAN

Chatbot konvensional kerap kali berhadapan dengan tantangan dalam menghasilkan respons yang sesuai konteks dan pengelolaan beban kerja yang berat. Proyek ini mengembangkan chatbot pendukung akademik berbasis RAG dan LLMs bernama "Trichie" yang diimplementasikan pada infrastruktur cloud computing dan diotomatisasikan menggunakan n8n, guna meningkatkan efisiensi akses informasi di website resmi program studi TRI SV UGM. Dengan tujuan utama untuk mengoptimalkan kinerja Trichie, merancang workflow yang efisien, dan mengevaluasi kepuasan pengguna, sistem back-end Trichie mampu melakukan proses crawling secara otomatis dan juga memproses data berupa teks, gambar, dan PDF. Data ini kemudian disusun menjadi sebuah knowledge base di Pinecone menggunakan embedding OpenAI. Dengan mengintegrasikan back-end chatbot yang ada di n8n dengan Chatwoot sebagai antarmuka penggunanya, memungkinkan Trichie untuk memberikan respons secara real-time. Hasil dari rancangan sistem Trichie berhasil menunjukkan Customer Satisfaction Score (CSAT) sebesar 4,59/5 dengan waktu respons rata-rata 12,727 detik.

Conventional chatbots often face challenges in generating contextually appropriate responses and managing heavy workloads. This project developed an academic support chatbot based on RAG and LLMs named “Trichie,” implemented on cloud computing infrastructure and automated using n8n, to improve the efficiency of information access on the official website of the TRI SV UGM study program. With the primary goal of optimizing Trichie's performance, designing an efficient workflow, and evaluating user satisfaction, Trichie's back-end system is capable of automatically crawling and processing data in the form of text, images, and PDFs. This data is then organized into a knowledge base in Pinecone using OpenAI embedding. By integrating the existing chatbot back-end in n8n with Chatwoot as its user interface, Trichie can provide real-time responses. The results of the Trichie system design achieved a Customer Satisfaction Score (CSAT) of 4.59/5 with an average response time of 12.727 seconds.

Kata Kunci : Chatbot, Retrieval-Augmented Generation, Large Language Models, Cloud Computing, workflow automation platform, Customer Satisfaction Score