Artificial Intelligence Governance: Tinjauan Literatur mengenai Tata Kelola AI yang Etis, Aman, dan Bertanggung Jawab
Keywords:
Artificial Intelligence Governance, AI Ethics, Responsible Artificial Intelligence, AI Governance, Systematic Literature ReviewAbstract
Perkembangan Artificial Intelligence (AI) yang semakin pesat telah mendorong transformasi digital di berbagai sektor, namun di sisi lain juga menghadirkan tantangan terkait etika, keamanan, privasi, transparansi, dan akuntabilitas. Kondisi tersebut menjadikan Artificial Intelligence Governance sebagai elemen penting untuk memastikan bahwa pengembangan dan implementasi AI dilakukan secara etis, aman, dan bertanggung jawab. Penelitian ini bertujuan untuk menganalisis perkembangan konsep Artificial Intelligence Governance, mengidentifikasi prinsip-prinsip tata kelola AI, mengkaji berbagai tantangan implementasinya, serta merumuskan agenda pengembangan AI Governance di masa depan. Penelitian menggunakan metode Systematic Literature Review (SLR) dengan mengacu pada pedoman Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) 2020. Literatur diperoleh dari berbagai basis data ilmiah bereputasi dan dianalisis menggunakan thematic analysis melalui proses identifikasi, kategorisasi, sintesis, dan interpretasi data. Hasil penelitian menunjukkan bahwa AI Governance telah berkembang menjadi kerangka tata kelola multidisipliner yang mengintegrasikan aspek teknologi, etika, hukum, keamanan, tata kelola data, dan manajemen risiko. Prinsip utama AI Governance meliputi transparansi, akuntabilitas, keadilan, perlindungan privasi, keamanan, keandalan, dan pengawasan manusia. Penelitian juga mengidentifikasi berbagai tantangan implementasi, seperti harmonisasi regulasi, bias algoritma, perlindungan data pribadi, transparansi model AI, serta risiko Generative Artificial Intelligence. Agenda pengembangan AI Governance diarahkan pada Responsible Artificial Intelligence, Explainable Artificial Intelligence, manajemen risiko AI, kolaborasi multipemangku kepentingan, dan harmonisasi regulasi. Temuan penelitian diharapkan menjadi landasan konseptual dalam pengembangan tata kelola AI yang inovatif, terpercaya, dan berkelanjutan.
References
Al Ihram, N., & Raodah, A. (2026). Rekonstruksi Etika Digital Berbasis Pendidikan Islam di Era Artificial Intelligence. Al-Ilmiya: Jurnal Pendidikan Islam, 1(6), 253–261.
Al Mauludi, M. F., & Hamdani, H. (2026). Implementasi Artificial Intelligence (AI) dalam Human Resource Management–Telaah Literatur Sistemasis. Scientica: Jurnal Ilmiah Sains Dan Teknologi, 4(3), 61–78.
Anwar, S., & Nepri, J. E. (2025). Harmonisasi Hukum Digital: Tantangan Global dan Strategi Adaptif Indonesia dalam Era Kedaulatan Siber. Hutanasyah: Jurnal Hukum Tata Negara, 4(1), 69–88.
Aslim, A. D. A., Ayuni, N., & Amalya, A. A. (2026). Etika Penggunaan Artificial Intelligence (AI) dalam Administrasi Publik: Telaah Perkembangan dan Tantangannya. Public Inspiration: Jurnal Administrasi Publik, 11(1), 1–8.
Dana, G. W. P., Hariyanti, N. K. D., Kumara, I. M. S., Hendrawan, A., Jati, G. P. R. S., Ardiantika, R., & Athalina, G. (2026). Generative Artificial Intelligence: Teori, Model, dan Implementasi. Star Digital Publishing.
Darwis, M. (2026). Kecerdasan Buatan dan Kedaulatan Hukum: Studi Kualitatif atas Tantangan Regulasi AI dalam Bingkai Negara Hukum Indonesia. Islamic Law: Jurnal Siyasah, 11(1), 90–123.
Fernanda, I. A., & Habiburrochman, H. (2025). Peran Kecerdasan Buatan (AI) Dalam Meningkatkan Audit Forensik Untuk Mendeteksi Kecurangan: Tinjauan Literatur Sistematis. Owner: Riset Dan Jurnal Akuntansi, 9(4), 3430–3442.
Hasanah, U. (2024). PRIVASI DATA DAN TRANSPARANSI: TANTANGAN ETIS DALAM PENERAPAN ARTIFICIAL INTELLIGENCE (AI) DI BIDANG AKUNTANSI. Smart GOALS Jurnal Bisnis Digital Dan Manajemen.
Huwaida, F. S., Widodo, S., & Elviani, U. (2025). Penyalahgunaan Deepfake dan Tantangan Tata Kelola AI: Tinjauan Literatur Sistematis. Edutik: Jurnal Pendidikan Teknologi Informasi Dan Komunikasi, 5(6), 2590–2604.
Islami, M. F. (2025). ASPEK HAK CIPTA KARYA KECERDASAN BUATAN DALAM PEMERINTAHAN DI INDONESIA. JURNAL ILMIAH ADVOKASI.
Islami, R. N., Hamka, H., & Anggraeni, F. S. (2026). ARTIFICIAL INTELLIGENCE, EFISIENSI OPERASIONAL, DAN KEUNGGULAN KOMPETITIF DALAM BISNIS DIGITAL: TINJAUAN LITERATUR SISTEMATIS. Manajerial Dan Bisnis Tanjungpinang, 9(1).
Kholiq, A. (2025). Implikasi Etika Dan Hukum Dalam Tata Kelola Implementasi AI (Artificial Intelligence) di Sektor Keuangan Dalam Perspektif Hukum Ekonomi Syariah. Syirkatuna, 13(1), 1–14.
Kushariyadi, K., Apriyanto, H., Herdiana, Y., & Books.google.com, F. H. A.-2024-. (2024). Artificial intelligence: Dinamika perkembangan AI beserta penerapannya. In PT. Sonpedia Publishing Indonesia.
Langit, U. A. S., & Setiawan, F. (2025). Integrasi kecerdasan buatan dalam fintech syariah: Kajian konseptual. ILTIZAMAT: Journal of Economic Sharia Law and Business Studies, 4(2), 42–51.
Maharudin, D. (2025). Good Governance dalam Pelayanan Publik: Systematic Literature Review terhadap Model dan Best Practices di Berbagai Negara. Inovasi Pembangunan: Jurnal Kelitbangan, 13(03).
Nasution, U. H., Syauqi, T. M., Setyawibawa, R. A., Rusdi, R., & Rizky, M. C. (2025). Manajemen di Era AI “Strategi, Etika, dan Adaptasi Organisasi.” Serasi Media Teknologi.
Pradana, A. E., Herawati, A. R., Dwimawanti, I. H., & Maesaroh. (2025). Tantangan Kecerdasan Buatan Dalam Implikasi Kebijakan Pemerintah di Indonesia: Studi Literatur. Jurnal Good Governance.
Pratama, A. S., Maela, S., Hj, M. F., Badwi, M., & Anshori, M. (2023). Pengaruh Artificial Intelligence, Big Data Dan Otomatisasi Terhadap Kinerja SDM Di Era Digital. Jurnal Publikasi Ilmu Manajemen.
Rahimi, E., Rahmawati, A., Lukitaningrum, K., & Untari, S. I. (2025). Singularity dan Masa Depan Praktik Manajemen: Telaah Konseptual dalam Perspektif Organisasir. IKRA-ITH HUMANIORA: Jurnal Sosial Dan Humaniora, 9(3), 1617–1637.
Rohman, W. (2026). Eksplorasi Etika dan Resiko Kecerdasan Buatan dalam Pengambilan Keputusan Otomatis. Karapan Network Journal: Journal Computer Technology and Mobile Ad Hoc Network, 2(02).
Suaib, H. E. (2025). Keamanan siber dan perlindungan data. Digital Governance: Konsep, Strategi Dan Implementasinya Di Indonesia, 89.
Tosida, E. T., Harsani, P., & Andria, F. (2026). Kecerdasan Buatan dalam Bisnis dan Pemerintahan Teori dan Praktik. PT KIMHSAFI ALUNG CIPTA.
Wahono, H. T. T. (2024). Peran Sistem Informasi Manajemen Dalam Meningkatkan Transparansi Dan Akuntabilitas. Paradigma: Jurnal Filsafat, Sains, Teknologi, Dan Sosial Budaya, 30(5), 97–110.
Wibowo, A. (2026). Peran AI dalam Penegakan Hukum. Penerbit Yayasan Prima Agus Teknik.
Yuliyanto, A., & Wijaya, F. (2025). Model Integratif Keamanan dan Privasi pada Sistem AI Generatif di Era Big Data. JIMU: Jurnal Ilmiah Multidisipliner, 3(04).
