Kerangka Tata Kelola Agentic AI Singapura: Pelajaran untuk Perusahaan Indonesia
Model AI Governance Framework for Agentic AI adalah panduan tata kelola agen AI yang diluncurkan Singapura pada Januari 2026 dan diperbarui Mei 2026. Sederhananya, kerangka ini menjawab pertanyaan yang kini dihadapi banyak perusahaan: seberapa jauh agen AI boleh bertindak sendiri, dan siapa yang bertanggung jawab saat agen salah langkah. Tulisan ini membahas isi kerangka, alasan agen AI butuh tata kelola khusus, empat dimensinya, contoh penerapan nyata, hingga langkah yang bisa diambil perusahaan Indonesia.
TLDR
Apa Itu Kerangka Tata Kelola Agentic AI Singapura?
Panduan tidak mengikat dari IMDA yang dirilis di Davos pada 22 Januari 2026 untuk membantu organisasi memakai agen AI secara aman.
Mengapa Agen AI Butuh Tata Kelola Sendiri?
Agen AI bisa mengubah data dan melakukan pembayaran, sehingga risikonya berupa tindakan tanpa izin, tindakan keliru, dan rasa percaya berlebihan pada mesin.
Empat Dimensi yang Wajib Dipahami Perusahaan
Kerangka ini meminta organisasi membatasi risiko sejak awal, menetapkan titik persetujuan manusia, memasang kontrol teknis, dan membekali pengguna akhir.
Belajar dari Dayos, Tencent, GovTech, dan Workday
Pembaruan 20 Mei 2026 memuat lebih dari sepuluh studi kasus nyata yang menunjukkan cara menerapkan tiap dimensi.
Langkah Praktis bagi Perusahaan Indonesia
Perusahaan Indonesia bisa memakai kerangka ini sebagai daftar periksa sambil tetap patuh pada UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.
Kesimpulan
Agen AI layak dipakai selama otonominya dibatasi, manusia tetap memegang tanggung jawab, dan setiap tindakan bisa diaudit.
Banyak perusahaan di Indonesia kini sudah melewati tahap uji coba chatbot. Tim TI mulai memasang agen AI yang bisa membuka tiket, membalas pelanggan, menulis kode, bahkan mengubah isi basis data. Di titik ini muncul pertanyaan yang belum dijawab oleh panduan etika AI generasi sebelumnya: kapan agen boleh bertindak sendiri, kapan harus menunggu persetujuan manusia, dan siapa yang menanggung akibat kalau agen keliru. Singapura menjadi salah satu negara pertama yang menuliskan jawabannya dalam satu dokumen resmi, dan isinya cukup praktis untuk dipinjam perusahaan di negara lain.
Apa Itu Kerangka Tata Kelola Agentic AI Singapura?
Model AI Governance Framework for Agentic AI, disingkat MGF for Agentic AI, adalah panduan tata kelola agen AI yang disusun Infocomm Media Development Authority (IMDA) Singapura. Kerangka ini diumumkan Menteri Pengembangan Digital dan Informasi Josephine Teo di World Economic Forum, Davos, pada 22 Januari 2026, dan bersifat tidak mengikat.
Menurut siaran pers Kementerian Pengembangan Digital dan Informasi Singapura (MDDI, 2026), kerangka ini dibangun di atas fondasi Model AI Governance Framework yang pertama kali dikenalkan pada 2020. Bedanya, versi baru ini khusus membahas sistem AI yang bisa bernalar dan mengambil tindakan atas nama pengguna, bukan sekadar menghasilkan teks atau gambar.
Sasaran kerangka ini adalah organisasi yang ingin memakai agen AI, baik yang membangun agen sendiri maupun yang memakai solusi agen dari pihak ketiga. Isinya berupa gambaran risiko agen AI dan praktik terbaik yang sedang berkembang untuk mengelolanya, dengan satu prinsip utama: manusia tetap menjadi pihak yang pada akhirnya bertanggung jawab.
Kerangka ini tidak membawa kewajiban hukum baru. Media teknologi Techgoondu (2026) mencatat bahwa Singapura selama ini lebih mengandalkan undang-undang yang sudah ada, misalnya aturan pelindungan data pribadi, untuk mengelola risiko AI. IMDA menyebut dokumen ini sebagai dokumen hidup yang akan terus diperbarui seiring perkembangan teknologi dan masukan industri.
Dari sisi pihak luar, April Chin, Co-Chief Executive Officer Resaro, menilai dokumen ini mengisi kekosongan kebijakan. Dalam siaran pers MDDI (2026) ia menyatakan, "As the first authoritative resource addressing the specific risks of agentic AI, the MGF fills a critical gap in policy guidance for agentic AI."
Mengapa Agen AI Butuh Tata Kelola Sendiri?
Agen AI butuh tata kelola sendiri karena ia tidak hanya menjawab, tetapi bertindak. Agen bisa punya akses ke data sensitif dan mampu mengubah lingkungannya, misalnya memperbarui basis data pelanggan atau melakukan pembayaran. Akibatnya, kesalahan agen langsung berdampak pada sistem nyata, bukan sekadar jawaban yang keliru di layar.
Siaran pers MDDI (2026) menyebut dua jenis risiko baru yang paling menonjol, yaitu tindakan tanpa izin dan tindakan yang keliru. Laporan US-ASEAN Business Council (2026) menambahkan bahwa kerangka ini memetakan risiko agen AI ke dalam lima kategori, di antaranya tindakan tanpa izin, kebocoran data, dan gangguan pada sistem lain yang terhubung dengan agen.
Risiko berikutnya lebih halus, yaitu automation bias. Istilah ini merujuk pada kecenderungan manusia untuk terlalu percaya pada sistem otomatis yang selama ini bekerja dengan baik. Semakin sering agen benar, semakin malas manusia memeriksa hasilnya, sehingga satu kesalahan besar bisa lolos tanpa terlihat.
Karena itu kerangka ini menekankan pembagian peran di dalam organisasi: harus jelas siapa yang memilih kasus penggunaan, siapa yang menyetujui tindakan berisiko, dan siapa yang memantau agen setiap hari. Pemerintah Singapura sendiri memakai prinsip kehati-hatian yang sama. Dalam unggahan yang dikutip Techgoondu (2026), Josephine Teo menulis, "As Singapore explores using AI agents to make government services more accessible, we'll start with low-risk transactions to build trust whilst providing physical touchpoint options."
Empat Dimensi yang Wajib Dipahami Perusahaan
Kerangka IMDA membagi langkah pengamanan agen AI ke dalam empat dimensi: menilai dan membatasi risiko sejak awal, membuat manusia benar-benar bertanggung jawab, menerapkan kontrol teknis sepanjang siklus hidup agen, dan membekali pengguna akhir lewat transparansi serta pelatihan. Keempatnya saling melengkapi.
Menilai dan membatasi risiko sejak awal. Organisasi memilih kasus penggunaan yang cocok untuk agen, lalu membatasi kewenangannya, termasuk tingkat otonomi serta akses ke tool dan data.
Membuat manusia bertanggung jawab secara bermakna. Organisasi menetapkan titik pemeriksaan penting yang mewajibkan persetujuan manusia sebelum agen melanjutkan tindakan.
Menerapkan kontrol teknis dan proses. Contohnya pengujian dasar sebelum agen dipakai dan pembatasan akses hanya ke layanan yang masuk daftar putih.
Membekali pengguna akhir. Pengguna diberi tahu bahwa mereka berhadapan dengan agen AI dan dilatih agar tahu batas kemampuan agen tersebut.
Dimensi pertama sering diabaikan karena perusahaan cenderung bertanya "apa yang bisa dilakukan agen" lebih dulu, bukan "apa yang tidak boleh dilakukan agen". Kerangka ini membalik urutannya. Batas kewenangan ditentukan sebelum agen dipasang, bukan setelah insiden terjadi.
IMDA juga menyiapkan lapisan pendukung. Menurut MDDI (2026), lembaga itu sedang menyusun pedoman pengujian aplikasi agen AI yang melanjutkan Starter Kit for Testing of LLM-Based Applications for Safety and Reliability. Bagi tim teknis, pedoman ini nantinya bisa menjadi acuan uji sebelum agen dilepas ke produksi.
Belajar dari Dayos, Tencent, GovTech, dan Workday
Pembaruan kerangka yang dirilis IMDA pada 20 Mei 2026 memuat lebih dari sepuluh studi kasus penerapan agen AI di dunia nyata. Pembaruan itu juga menyerap masukan dari lebih dari 60 organisasi, antara lain AWS, DBS, Google, dan Salesforce, termasuk soal risiko sistem multi-agen dan agen pihak ketiga.
Studi kasus disumbang perusahaan seperti Ant International, City Developments Limited, Google, OCBC, PwC, Tencent, dan Workday, serta lembaga pemerintah GovTech Singapore. Empat contoh berikut paling mudah ditiru karena masing-masing mewakili satu dimensi kerangka.
Dayos membagi tiket dalam tiga tingkat. Agen tiket TI milik Dayos mengerjakan sendiri tindakan Tingkat 1 seperti reset kata sandi, dengan audit dua mingguan. Tindakan Tingkat 2 hanya boleh dijalankan setelah disetujui manusia, sedangkan Tingkat 3 seperti mengubah hak akses sama sekali tidak boleh disentuh agen.
Tencent menetapkan tindakan yang wajib disetujui. Agen coding CodeBuddy secara bawaan meminta persetujuan sebelum mengedit file, menjalankan perintah shell, membuat permintaan jaringan, atau memakai tool eksternal. Perintah rumit dijelaskan dalam bahasa sederhana agar manusia bisa memutuskan dengan sadar.
GovTech Singapore meluncurkan bertahap. Tahap pertama asisten coding hanya untuk pegawai internal, tanpa tool eksternal, dan hanya di sistem berisiko rendah. Pencatatan log terpusat dan pemantauan dibangun lebih dulu sebelum perluasan.
Workday terbuka soal identitas agen. Pengguna yang berinteraksi lewat Slack atau Microsoft Teams diberi tahu sejak awal bahwa mereka berbicara dengan alat berbasis AI, dan alur penalaran agen ditampilkan agar hasilnya bisa diperiksa.
Pola yang sama muncul di keempat contoh: otonomi agen naik perlahan sesuai tingkat risiko dan bukti keamanan, bukan diberikan penuh sejak hari pertama.
Langkah Praktis bagi Perusahaan Indonesia
Perusahaan Indonesia bisa langsung memakai kerangka Singapura sebagai daftar periksa internal, karena isinya tidak bergantung pada hukum Singapura. Yang tetap mengikat di dalam negeri adalah Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, yang berlaku sejak 17 Oktober 2022 dan wajib dipatuhi setiap agen yang memproses data pribadi.
Aturan pelaksananya juga sudah keluar. Katadata (2026) melaporkan Peraturan Pemerintah Nomor 33 Tahun 2026 tentang Pelindungan Data Pribadi diteken Presiden Prabowo Subianto pada 16 Juli 2026 dan mulai berlaku 16 Januari 2027. Artinya, perusahaan punya waktu kurang dari tiga bulan untuk memastikan agen AI yang menyentuh data pelanggan sudah sesuai aturan.
Berikut urutan kerja yang bisa diterapkan dengan meminjam empat dimensi IMDA:
Inventarisasi agen. Catat setiap agen yang berjalan, tool yang dipakai, dan data apa saja yang bisa diaksesnya, termasuk agen buatan vendor.
Buat matriks risiko tiga tingkat. Tiru pendekatan Dayos dengan menilai dampak, kemudahan membatalkan tindakan, dan kemungkinan pengawasan manusia untuk tiap jenis tindakan.
Tentukan pemilik dan penyetuju. Setiap agen punya penanggung jawab bernama, dan tindakan berisiko seperti transaksi atau perubahan hak akses wajib melalui persetujuan manusia.
Pasang log dan uji coba bertahap. Mulai dari sistem berisiko rendah dan pengguna internal, seperti GovTech, lalu perluas setelah log dan pemantauan terbukti berjalan.
Beri tahu pengguna. Pelanggan dan karyawan perlu tahu kapan mereka berhadapan dengan agen AI dan bagaimana meminta bantuan manusia.
Langkah ini juga relevan di tingkat kawasan. Singapura memimpin ASEAN Working Group on AI Governance, sehingga pendekatan serupa berpeluang menjadi acuan bersama di Asia Tenggara. Perusahaan yang menyiapkan diri sekarang akan lebih mudah beradaptasi ketika regulator di Indonesia menerbitkan aturan yang lebih rinci.
Kesimpulan
Kerangka tata kelola agentic AI dari Singapura menunjukkan bahwa mengatur agen AI tidak harus dimulai dengan larangan. Kerangka itu memulai dengan pertanyaan sederhana: tindakan apa yang boleh dilakukan agen sendiri, mana yang perlu persetujuan, dan mana yang sama sekali terlarang. Pembaruan Mei 2026 menambahkan bukti dari lapangan bahwa pendekatan bertahap ini bisa dijalankan perusahaan besar maupun lembaga pemerintah.
Bagi perusahaan Indonesia, langkah paling masuk akal adalah memetakan agen yang sudah berjalan, membatasi kewenangannya, menunjuk penanggung jawab, dan menyelaraskan semuanya dengan UU Pelindungan Data Pribadi sebelum PP Nomor 33 Tahun 2026 berlaku pada Januari 2027. Agen AI tetap bisa menghemat banyak waktu tim, selama manusia tetap memegang kemudi.
(Burung Hantu Infratek / Berbagai Sumber)
⚠️ Artikel ini seluruhnya diriset, ditulis, dan dikembangkan oleh AI internal Burung Hantu Infratek.
🦉 Burung Hantu Infratek adalah software house dan system integrator yang sudah berpengalaman lebih dari 5 tahun dalam pengembangan dan implementasi generative AI pada berbagai perusahaan dan institusi.
Sumber dan Referensi
[2] Updated Model AI Governance Framework for Agentic AI - IMDA
[3] IMDA updates Model AI Governance Framework for Agentic AI - Allen & Gledhill
[4] Singapore debuts agentic AI governance framework to manage growing risks - Techgoondu
[5] Singapore Launches Governance Framework for Agentic AI - US-ASEAN Business Council
[6] Singapore Unveils World's First Governance Framework for Agentic AI - CDO Magazine
[7] UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi - JDIH BPK
[8] PP Pelindungan Data Pribadi Berlaku Januari 2027, Ini Aturan Baru Data Anak - Katadata