Socially Responsible Artificial Intelligence (AI) and the Roles of the State: Evidence from G20 National Strategies for AI

Ferry Silitonga, Kuskridho Ambardi, M.A., Ph.D.

2023 | Tesis | S2 Sosiologi

Dampak kecerdasan buatan (AI) telah berubah melampaui sebuah keajaiban teknologi menjadi sebuah fenomena sosial. Dalam hal ini, ada kebutuhan untuk memahami risiko terkait AI, seperti pertimbangan etika dan tata kelola AI, yang telah mendorong banyak negara untuk menerbitkan strategi nasional mereka untuk menangkap manfaat dan tantangan yang dapat ditawarkan oleh teknologi ini. Dokumen-dokumen strategis ini memberikan sumber bukti yang kaya mengenai pengembangan dan implementasi AI. Oleh karena itu, penelitian ini berfokus untuk menjawab apakah anggota G20 telah menerapkan tanggung jawab sosial terkait AI dan peran apa yang dimainkan negara dalam tata kelola AI melalui dokumen strategi nasional. Dengan menerapkan analisis konten kuantitatif dan kualitatif, tesis ini secara komprehensif memeriksa dokumen strategi nasional dari enam belas anggota G20 dengan menggunakan karya Floridi dan Josh Cowls, A Unified Framework of Five Principles for AI in Society, dan kerangka kerja Borrás & Edler terkait peran negara dalam transformasi sistem sosio-teknis. Tesis ini melaporkan tentang (1) kegunaan analitis dan teoritis dari kedua kerangka kerja tersebut, (2) prinsip otonomi mendapatkan skor terendah, yang menunjukkan kurangnya promosi pendekatan yang berpusat pada manusia dibandingkan mesin/teknologi dan informasi baru mengenai ketakutan bahwa AI pada akhirnya akan berdampak buruk dan mengambil alih kemanusiaan, (3) tiga peran negara yang paling dominan yaitu sebagai facilitator, enabler of societal engagement, dan promoter, (4) pembedaan pendekatan antara negara maju dan berkembang terhadap pengembangan dan adopsi AI, dan (5) tingginya tingkat AI yang bertanggung jawab secara sosial ditunjukkan oleh eratnya kolaborasi pemerintah-swasta. Implikasi kebijakan, serta keterbatasan dan penelitian di masa depan juga dibahas.

The impact of artificial intelligence (AI) already goes beyond technological wonders into a social phenomenon. In this regard, there is a need to apprehend AI-related risks, such as ethical consideration and governance of AI, which have led many countries to publish their national strategies to capture the benefits and challenges that AI technologies can offer. These strategic documents provide a rich source of evidence regarding AI development and implementation. Therefore, this study focuses on answering whether G20 members have applied social responsibility regarding AI and what roles the state plays in the governance of AI through national strategy documents. By applying quantitative and qualitative content analysis, this paper comprehensively examines the national strategy documents of sixteen G20 members using Floridi and Josh Cowls’s work, A Unified Framework of Five Principles for AI in Society, and Borrás & Edler’s framework regarding the roles of the state in the transformation of socio-technical systems. This paper reports on (1) both frameworks' analytical and theoretical usefulness, (2) the autonomy principle gaining the lowest score, which indicates an inadequate promotion of human-centric approaches over machines/technologies and novel information regarding the fear that AI will ultimately take over humanity, (3) the three most dominant roles of the state as a facilitator, an enabler of societal engagement, and a promoter, (4) a distinction in approach between developed and developing countries towards the development and adoption of AI, and (5) a higher level of socially responsible AI as indicated by a close public-private collaboration. Policy implications, as well as limitations and future research, are discussed.

Kata Kunci : artificial intelligence (AI), socially responsible AI, ethics, roles of the state