IMPLEMENTASI LOAD BALANCING PADA PLATFORM ARTIFICIAL INTELLIGENCE BERBASIS WEBSITE MENGGUNAKAN HAPROXY

SRI AYU RAHMADANI, Yuris Mulya Saputra, S.T., M.Sc., Ph.D.

2024 | Tugas Akhir | D4 TEKNOLOGI JARINGAN

Seiring dengan meningkatnya kebutuhan akan konten media sosial, tantangan dalam melakukan verifikasi kebenaran dari suatu berita yang dikonsumsi oleh publik juga semakin tinggi. Hal ini disebabkan oleh penyebaran berita palsu yang dapat menyesatkan masyarakat. Permintaan akan teknologi Artificial Intelligence (AI) untuk klasifikasi berita semakin meningkat sebagai solusi untuk mengatasi masalah ini. AI yang digunakan untuk klasifikasi berita ini diimplementasikan melalui website yang menggunakan virtual machine sebagai infrastrukturnya. Namun, tingginya jumlah permintaan dapat menyebabkan layanan AI tersebut mengalami penurunan kinerja atau bahkan down. Penelitian ini bertujuan untuk mengkaji penggunaan HAProxy sebagai solusi load balancing pada platform AI berbasis website. Tujuan utama dari penelitian ini adalah untuk membuat platform AI yang bisa membantu mengklasifikasikan sebuah berita dan mengimplementasikan teknologi load balancing guna memastikan bahwa platform AI dapat menangani lalu lintas yang tinggi dengan efisiensi dan responsivitas yang memadai. Metode pengujian dilakukan menggunakan Apache JMeter untuk mensimulasikan beban pengguna dan mengukur kinerja sistem dalam berbagai skenario pengujian.

Hasil pengujian beban dengan Apache JMeter menunjukkan bahwa sistem dapat menangani peningkatan beban dari 100, 1,000, 10,000 pengguna dengan tingkat kesalahan 0%, yang berarti tidak ada permintaan (Request) yang gagal atau error selama pengujian. Dari penelitian ini, dapat disimpulkan bahwa HAProxy secara efektif dapat mendistribusikan lalu lintas pada platform AI secara optimal, memastikan kinerja yang stabil dan responsif di bawah berbagai kondisi beban. Pada skenario dengan 100 pengguna, rata-rata waktu respons adalah 95 ms, pada skenario dengan 1,000 pengguna, rata-rata waktu respons adalah 104 ms, dan pada skenario dengan 10,000 pengguna, ratarata waktu respons adalah 225 ms. Meskipun waktu respons rata-rata meningkat seiring bertambahnya jumlah pengguna, waktu respons tersebut masih berada dalam batas yang dapat diterima. Model yang dibuat untuk platform AI ini terbukti berhasil mengklasifikasikan sebuah berita ini diperkuat dengan sumber berita yang juga memberikan kebenaran dari informasi yang disampaikan.

As the need for social media content increases, the challenges in verifying the truthfulness of news consumed by the public also escalate. This is caused by the spread of fake news that can mislead the public. The demand for Artificial Intelligence (AI) technology for news classification is rising as a solution to this problem. The AI used for news classification is implemented through a website that employs a virtual machine as its infrastructure. However, a high volume of requests can cause the AI service to experience reduced performance or even downtime. This research aims to examine the use of HAProxy as a load balancing solution on web-based AI platforms. The primary objective of this research is to develop an AI platform that can assist in classifying news and to implement load balancing technology to ensure that the AI platform can handle high traffic with sufficient efficiency and responsiveness. The testing method was conducted using Apache JMeter to simulate user load and measure system performance across various test scenarios.

Load testing results with Apache JMeter indicate that the system can handle increasing loads from 100, 1,000, to 10,000 users with an error rate of 0%, meaning there were no failed requests or errors during testing. From this research, it can be concluded that HAProxy can effectively distribute traffic on the AI platform optimally, ensuring stable and responsive performance under various load conditions. In the scenario with 100 users, the average response time is 95 ms; in the scenario with 1,000 users, the average response time is 104 ms; and in the scenario with 10,000 users, the average response time is 225 ms. Although the average response time increases as the number of users increases, it remains within acceptable limits. The model created for this AI platform has proven successful in classifying news, which is corroborated by news sources that also verify the truthfulness of the conveyed information. This research demonstrates that the use of HAProxy as a load balancing solution can improve the performance and reliability of the AI platform for news classification, making a significant contribution to ensuring the accuracy of information consumed by the public.

Kata Kunci : Virtual machine (VM), Load Balancing, Artificial Intelligence, News Classification