Menangani Penipuan Berbasis Kecerdasan Buatan (AI) di Indonesia: Celah Hukum, Ancaman, dan Urgensi Reformasi

Kesia Jadelin, Dr. Muhammad Fatahillah Akbar, S.H., LL.M.

2025 | Skripsi | ILMU HUKUM

Penelitian ini menganalisis kemunculan penipuan berbasis kecerdasan buatan (AI-generated fraud) di Indonesia sebagai metode baru dalam kejahatan siber yang memanfaatkan teknologi voice cloning untuk menyamar sebagai individu lain dan menipu korban. Dengan menggunakan pendekatan hukum normatif yang dipadukan dengan studi kasus dan analisis komparatif, penelitian ini menelaah bagaimana kerangka hukum yang berlaku di Indonesia, terutama Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) dan Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE)—belum mampu secara memadai mengatur kompleksitas penyamaran yang digerakkan oleh teknologi AI, yang menimbulkan kesulitan dalam proses keadilan dan penegakkan hukum.

Hasil penelitian menunjukkan bahwa korban menghadapi berbagai tantangan serius dalam memperoleh pemulihan hukum akibat adanya kekosongan norma, kendala pembuktian dalam mengautentikasi suara yang dihasilkan AI, keterbatasan koordinasi antar lembaga, serta ketiadaan mekanisme kompensasi korban yang efektif. Kajian komparatif terhadap AI Act Uni Eropa serta regulasi Federal Trade Commission (FTC) dan tingkat negara bagian di Amerika Serikat menyoroti praktik terbaik dalam akuntabilitas platform, perlindungan korban, dan standar penegakan hukum. Penelitian ini menyimpulkan bahwa Indonesia memerlukan reformasi hukum yang mendesak dengan fokus pada pemulihan yang berpusat pada korban (victim-centered remedies), peningkatan kapasitas kelembagaan, serta pembentukan skema kompensasi nasional guna memastikan perlindungan yang efektif terhadap penipuan berbasis kecerdasan buatan (AI-generated fraud). 

This research analyzes the emergence of AI-generated fraud in Indonesia as a new method of cybercrime, exploiting voice cloning technology to impersonate individuals and deceive victims. Using a normative legal approach combined with case studies and comparative analysis, this study examines how Indonesia’s existing legal framework, particularly Law No. 1 of 2023 on the Criminal Code (KUHP) and Law No. 11 of 2008 on Electronic Information and Transactions (UU ITE), fails to adequately address the complexity of AI-driven impersonation, and creates difficulty for proper prosecution and law enforcement. 

Findings reveal that victims face severe challenges in seeking legal redress due to gaps in statutory definitions, evidentiary hurdles in authenticating AI-generated voices, limited inter-agency coordination, and the absence of effective victim redress mechanisms. A comparative review of the European Union’s AI Act and the United States’ Federal Trade Commission and state-level regulations highlight best practices in platform accountability, victim protection, and enforcement standards. This research concludes that Indonesia requires urgent legal reform focused on victim-centered remedies, institutional capacity building, and the establishment of a national redress scheme to ensure meaningful protection against AI-generated fraud. 

Kata Kunci : Penipuan panggilan suara berbasis AI, kompensasi korban, Indonesia, AI Act Uni Eropa, Federal Trade Commission, kejahatan siber