Penggunaan Teknologi Customerai oleh Twilio dan Tantangannya dalam Perspektif Hukum Pelindungan Konsumen

John Benyamin M. Paulus, Dina W. Kariodimedjo, S.H., LL.M., Ph.D.

2025 | Tesis | S2 Magister Hukum

Penelitian ini bertujuan untuk menganalisis tantangan penggunaan CustomerAI dari perspektif asas manfaat, keadilan, dan kepastian hukum, serta mengevaluasi penerapan nilai kemanfaatan menurut teori tujuan hukum Gustav Radbruch dalam melindungi hak konsumen. 

Penelitian ini menggunakan metode hukum normatif dengan pendekatan undang-undang, konseptual, dan komparatif. Data sekunder yang terdiri dari bahan hukum primer, sekunder, dan tersier diperoleh melalui studi pustaka dan wawancara. Analisis data dilakukan secara kualitatif dengan penalaran deduktif untuk memberikan gambaran sistematis mengenai tantangan dan penerapan nilai kemanfaatan dalam penggunaan CustomerAI oleh Twilio di Indonesia.

Penelitian ini menghasilkan dua temuan utama. Pertama, teknologi CustomerAI berbasis AI menawarkan manfaat signifikan, seperti efisiensi layanan melalui chatbot dan analitik AI, namun menghadapi tantangan dalam memastikan transparansi, mencegah bias algoritma, dan menjamin akuntabilitas pelaku usaha. Rendahnya literasi digital konsumen Indonesia membatasi kemanfaatan teknologi ini, karena konsumen rentan terhadap pelanggaran privasi dan diskriminasi. Untuk mengatasi tantangan ini, diperlukan regulasi spesifik yang mengatur transparansi algoritma, auditor AI bersertifikasi, dan mekanisme pengaduan, sejalan dengan UUPK dan UUPDP. Kedua, penerapan nilai kemanfaatan Gustav Radbruch menunjukkan bahwa CustomerAI dapat melindungi hak konsumen jika pemenuhan terahdap asas-asas perlindungan konsumen. Hal ini memerlukan desain algoritma yang bebas bias, kepatuhan terhadap prinsip privacy by design, dan peningkatan literasi digital masyarakat untuk memastikan akses yang adil dan pemahaman terhadap teknologi AI. Dengan pendekatan ini, CustomerAI dapat menciptakan ekosistem digital yang seimbang antara inovasi dan perlindungan konsumen.

This study aims to analyze the challenges of CustomerAI implementation from the perspectives of utility, justice, and legal certainty, while evaluating the application of Gustav Radbruch’s concept of legal utility in safeguarding consumer rights. 

The research employs a normative legal method with statutory, conceptual, and comparative approaches. Secondary data, comprising primary, secondary, and tertiary legal materials, were collected through literature reviews and interviews. Data analysis was conducted qualitatively using deductive reasoning to provide a systematic overview of the challenges and the application of utility value in the use of CustomerAI by Twilio in Indonesia.

The study yields two key findings. First, CustomerAI, leveraging AI, offers significant benefits, such as service efficiency through chatbots and AI analytics, but faces challenges in ensuring transparency, preventing algorithmic bias, and upholding business accountability. The low digital literacy of Indonesian consumers limits the technology’s utility, rendering them vulnerable to privacy violations and discrimination. Addressing these challenges requires specific regulations governing algorithmic transparency, certified AI audits, and complaint mechanisms, aligned with UUPK and UUPDP. Second, applying Gustav Radbruch’s utility value demonstrates that CustomerAI can protect consumer rights by adhering to consumer protection principles, including utility, justice, balance, security, and legal certainty. This necessitates bias-free algorithm design, compliance with privacy by design principles, and enhanced digital literacy to ensure equitable access and understanding of AI technology. Such an approach enables CustomerAI to foster a balanced digital ecosystem that harmonizes innovation with consumer protection.

Kata Kunci : Tantangan, Teknologi CustomerAI, Artificial Intelligence, Perlindungan Konsumen, Nilai Kemanfaatan, Literasi Digital