Generative Artificial Intelligence and the International Human Rights of Artists

Laura Nethania Situmorang, Ibrahim Hanif, S.H., LL.M.

2025 | Skripsi | ILMU HUKUM

Perkembangan artificial intelligence (AI) generatif, khususnya text-to-image models, telah menimbulkan risiko baru dan signifikan terhadap kepentingan para seniman. Teknologi ini pada umumnya dilatih menggunakan karya seni yang sudah ada tanpa sepengetahuan atau persetujuan penciptanya dan mampu menghasilkan karya baru dengan upaya minimal. Oleh karena itu, pengembangan dan penggunaan text-to-image models menjadi sumber dari berbagai kerugian bagi seniman, seperti pelanggaran hak cipta, kerusakan reputasi dan kerugian ekonomi. Saat ini, hukum hak cipta belum memadai untuk mengatasi tantangan baru yang dibawakan AI generatif, dan ketiadaan perlindungan hukum membuat seniman rentan terhadap risiko-risiko tersebut.

Penelitian hukum ini menggunakan pendekatan yuridis normatif untuk menganalisis perlindungan yang diberikan oleh hukum hak asasi manusia internasional, khususnya Pasal 15(1)(c) dari Kovenan Internasional tentang Hak-Hak Ekonomi, Sosial dan Budaya (ICESCR), terhadap seniman atas karya mereka. Berdasarkan yurisprudensi badan traktat PBB dan literatur akademis yang relevan, penelitian ini mengkaji bagaimana praktik dalam pengembangan dan penggunaan text-to-image models berpotensi melanggar hak seniman dan menimbulkan kewajiban bagi semua Negara Pihak ICESCR untuk melindungi seniman dari pelanggaran tersebut.

Temuan penelitian menunjukkan bahwa setiap Negara Pihak memiliki kewajiban segera untuk mengambil langkah yang disengaja, konkret dan terarah, khususnya langkah legislatif, untuk melindungi kepentingan seniman yang dijamin dalam Pasal 15(1)(c) ICESCR. Sehubungan dengan itu, penelitian ini merekomendasikan setiap Negara Pihak untuk membuat peraturan perundang-undangan yang meregulasi pengembangan AI untuk mencegah pelanggaran terhadap hak seniman. Peraturan tersebut dapat mencakup transparansi atas data pelatihan AI, mekanisme opt-out yang memberikan seniman hak untuk menolak penggunaan karyanya dalam pelatihan AI, dan skema remunerasi wajib bagi sistem AI generatif.

The advancement of generative artificial intelligence (AI) technologies, particularly text-to-image models, has introduced new and substantial risks to the interests of artists. As these technologies are often trained on existing artworks without the knowledge or consent of their creators and can produce virtually any output with minimal effort, the development and use of text-to-image models may and have become the source of various harms towards artists, such as copyright infringement, reputational damage and economic loss. Existing copyright frameworks are, however, insufficient to address these new challenges, leaving artists vulnerable to these risks.

This legal research takes a doctrinal legal approach in analyzing the protections afforded by international human rights law, specifically Article 15(1)(c) of the International Covenant on Economic, Social and Cultural Rights (ICESCR) to artists in respect of their creations. Drawing on UN treaty body jurisprudence and relevant academic literature, this research examines how the practices surrounding text-to-image models may undermine these interests and thereby engage the State obligation to “protect” them from third-party infringements.

The findings suggest that States have an immediate obligation to take deliberate, concrete and targeted steps, particularly legislative ones, to safeguard artists’ interests guaranteed under Article 15(1)(c) ICESCR. To that end, this legal research recommends States adopt AI-specific legislation addressing the structural risks posed by text-to-image models at the development stage. Such legislation could include statutory disclosure obligations for AI developers, opt-out mechanisms for the use of artists’ works in AI training, and mandatory remuneration schemes for generative AI systems.

Kata Kunci : Generative AI, ICESCR, human rights