Siapa yang Menanggung Kerugian Saat Agen AI Salah Bertransaksi Menurut Hukum Indonesia?
Agen elektronik adalah istilah hukum Indonesia untuk perangkat sistem elektronik yang bertindak otomatis atas nama penyelenggaranya, dan agen AI yang memesan, membayar, atau menyetujui transaksi dapat dibaca masuk ke kategori ini. Sederhananya, hukum kita sudah punya jawaban tentang siapa yang menanggung kerugian saat agen AI salah bertindak, yaitu manusia atau badan usaha di belakangnya. Tulisan ini membahas definisi agen elektronik, tiga jalur tanggung jawab di Pasal 21 UU ITE, kewajiban dalam PP 71/2019, perubahan UU 1/2024, status Perpres Etika AI, hingga langkah persiapan perusahaan.
TLDR
Apa Itu Agen Elektronik dalam UU ITE dan Apakah Agen AI Termasuk?
Pasal 1 angka 8 UU ITE mendefinisikan agen elektronik secara luas, sehingga agen AI yang bertransaksi otomatis dapat dibaca masuk di dalamnya.
Siapa yang Menanggung Akibat Hukum Menurut Pasal 21 UU ITE?
Jika transaksi berjalan lewat agen elektronik, segala akibat hukumnya menjadi tanggung jawab penyelenggara agen elektronik.
Kapan Tanggung Jawab Penyelenggara Bisa Bergeser ke Pengguna?
Tanggung jawab bergeser jika kerugian lahir dari kelalaian pengguna jasa, atau jika terbukti ada keadaan memaksa, kesalahan, atau kelalaian pengguna sistem.
Apa Saja Kewajiban Penyelenggara Agen Elektronik di PP 71/2019?
PP 71/2019 mewajibkan informasi minimal bagi pengguna, fitur koreksi dan pembatalan, prinsip kehati-hatian, serta prosedur agar transaksi tidak dapat diingkari.
Apa yang Berubah lewat UU 1/2024 untuk Transaksi Berisiko Tinggi?
UU 1/2024 menegaskan iktikad baik para pihak dan mewajibkan tanda tangan elektronik bersertifikat untuk transaksi elektronik berisiko tinggi.
Bagaimana Status Perpres Etika AI dan Prinsip Keputusan Akhir di Tangan Manusia?
Pada 30 Oktober 2026 Komdigi menyebut Perpres Etika AI masih dalam proses penandatanganan, dengan pendekatan berbasis risiko dan keputusan akhir di tangan manusia.
Bagaimana Pasal 21 Bekerja pada Kasus Agen Pengadaan yang Salah Pesan?
Dalam ilustrasi pesanan bahan baku yang salah satuan, penyelenggara agen menanggung akibat hukum kecuali ada bukti kelalaian pengguna atau keadaan memaksa.
Bagaimana Perusahaan Menyiapkan Kontrak, Kontrol, dan Jejak Audit untuk Agen AI?
Perusahaan perlu memetakan peran, memasang batas wewenang agen, menyimpan jejak keputusan, dan menulis pembagian risiko dalam kontrak dengan vendor.
Kesimpulan
Aturan yang sudah berlaku cukup jelas menunjuk penyelenggara sebagai penanggung, sehingga kesiapan tata kelola lebih menentukan daripada menunggu aturan baru.
Sebuah perusahaan distribusi memasang agen AI untuk membaca email pemasok dan mengonfirmasi pesanan ulang bahan baku. Suatu pagi agen itu salah membaca satuan di faktur, lalu mengirim konfirmasi pembelian dengan jumlah empat kali lipat dari kebutuhan. Pemasok sudah memproses pesanan, gudang penuh, dan keuangan bertanya siapa yang harus membayar. Skenario ini hanya ilustrasi, tetapi pertanyaannya nyata bagi banyak perusahaan yang mulai memberi agen AI wewenang bertransaksi. Jawabannya sudah ada di undang-undang yang usianya lebih dari 18 tahun.
Apa Itu Agen Elektronik dalam UU ITE dan Apakah Agen AI Termasuk?
Agen elektronik adalah perangkat dari suatu sistem elektronik yang dibuat untuk melakukan tindakan terhadap informasi elektronik tertentu secara otomatis dan diselenggarakan oleh orang, menurut Pasal 1 angka 8 UU ITE. Rumusan luas ini memungkinkan agen AI yang bertransaksi otomatis dibaca sebagai agen elektronik, meski penerapannya pada model bahasa masih berupa tafsir.
Definisi itu memuat tiga unsur. Pertama, ada perangkat yang menjadi bagian dari sistem elektronik, misalnya aplikasi, program, atau layanan yang berjalan di server. Kedua, perangkat itu melakukan tindakan terhadap informasi elektronik tertentu secara otomatis, tanpa manusia menekan tombol di setiap langkah. Ketiga, perangkat itu diselenggarakan oleh orang, yang di dalam UU ITE mencakup perseorangan maupun badan usaha.
Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik, yang ditetapkan pada 4 Oktober 2019, mengulang definisi yang sama di Pasal 1 angka 3. Pasal 36 ayat (2) menambahkan bahwa agen elektronik merupakan bagian dari sistem elektronik. Pasal 36 ayat (4) menyebut agen elektronik dapat berbentuk visual, audio, data elektronik, dan bentuk lainnya, sehingga tidak terkunci pada satu jenis teknologi.
Hukumonline dalam ulasannya tentang pengaturan hukum kecerdasan artifisial di Indonesia membaca AI sebagai agen elektronik. Menurut ulasan itu, jika AI dipandang sebagai agen elektronik dan penyelenggara agen elektronik adalah penyelenggara sistem elektronik, pertanyaan tentang siapa yang bertanggung jawab atas tindakan AI dapat dijawab dari konstruksi yang sudah ada. Ulasan yang sama juga menautkan agen elektronik dengan konsep pedagang perantara dalam hukum dagang, yaitu pihak yang diberi kuasa bertindak atas nama pemberi kuasa.
Perlu kehati-hatian soal batasnya. Agen yang menjalankan tindakan transaksional, seperti memesan barang, membayar tagihan, atau menyetujui kontrak, paling jelas masuk definisi. Agen yang hanya merangkum dokumen atau menjawab pertanyaan menyentuh Pasal 21 lebih tipis, karena tidak ada transaksi elektronik yang lahir dari tindakannya. Dalam sumber yang kami buka, belum ada putusan pengadilan yang menegaskan bahwa model bahasa termasuk agen elektronik, jadi ini tetap tafsir yang masuk akal, bukan hukum yang sudah dikunci putusan.
Satu hal sudah pasti dari bunyi definisinya. Agen elektronik selalu diselenggarakan oleh orang, sehingga hukum Indonesia tidak menempatkan agen sebagai pihak yang bisa dimintai pertanggungjawaban sendiri. Pintu tanggung jawab selalu mengarah ke manusia atau badan usaha di belakang agen, dan pasal-pasal berikutnya mengatur persisnya siapa.
Siapa yang Menanggung Akibat Hukum Menurut Pasal 21 UU ITE?
Pasal 21 UU ITE membedakan tiga jalur transaksi, dan akibat hukumnya mengikuti jalur yang dipakai. Bila transaksi dilakukan melalui agen elektronik, segala akibat hukum menjadi tanggung jawab penyelenggara agen elektronik. Bila dilakukan sendiri, para pihak yang bertransaksi menanggungnya, dan bila lewat kuasa, pemberi kuasa menanggungnya.
Pasal 21 ayat (1) menyatakan pengirim atau penerima dapat melakukan transaksi elektronik sendiri, melalui pihak yang dikuasakan olehnya, atau melalui agen elektronik. Ayat (2) kemudian membagi tanggung jawab ketiganya. Untuk jalur agen, huruf c berbunyi: "jika dilakukan melalui Agen Elektronik, segala akibat hukum dalam pelaksanaan Transaksi Elektronik menjadi tanggung jawab penyelenggara Agen Elektronik."
Perhatikan siapa yang disebut. Pasal ini tidak menyebut pengguna agen sebagai penanggung utama, melainkan penyelenggara agen. Dalam praktik, penyelenggara bisa vendor yang mengoperasikan agen, atau perusahaan yang membangun dan menjalankan agennya sendiri. Perbedaan ini penting bagi pembeli layanan AI, karena posisi sebagai penyelenggara atau sebagai pengguna menentukan di sisi mana risiko jatuh.
Jalur kedua, kuasa, bekerja berbeda. Pemberi kuasa menanggung akibat hukum karena ia memberi wewenang kepada pihak lain, sebagaimana dikenal dalam hukum perdata. Banyak orang membayangkan agen AI sebagai penerima kuasa, dan Hukumonline memang menarik kemiripan itu. Namun bunyi Pasal 21 memperlakukannya sebagai kategori sendiri, sehingga perusahaan tidak bisa otomatis mengandalkan logika kuasa untuk memindahkan risiko ke pihak lain.
Kembali ke jalur pertama, transaksi yang dilakukan sendiri, yang paling sederhana. Pihak yang menekan tombol atau menandatangani dokumen menanggung akibatnya, dan tidak ada perantara yang bisa dijadikan alasan. Banyak perusahaan mengira memakai agen AI sama dengan memakai karyawan baru yang bisa disalahkan bila keliru. Pasal 21 tidak memberi ruang untuk anggapan itu, karena agen elektronik bukan subjek hukum dan akibatnya jatuh ke penyelenggara.
Contoh sederhana memperjelas perbedaannya. Seorang manajer yang memesan barang lewat aplikasi pengadaan menanggung pesanannya sendiri. Jika ia mengirim staf dengan surat kuasa untuk memesan, perusahaan sebagai pemberi kuasa menanggung pesanan itu. Jika ia menyerahkan pemesanan kepada agen AI yang dioperasikan vendor, vendor sebagai penyelenggara agen elektronik adalah pihak yang disebut undang-undang sebagai penanggung, dengan syarat tidak ada pengecualian yang berlaku.
Gambar di bawah merangkum tiga jalur itu dan tiga pengecualian yang diatur ayat (3) sampai ayat (5), yang dibahas pada bagian berikutnya.
Diagram tanggung jawab transaksi elektronik menurut Pasal 21 UU ITE. Diolah Burung Hantu Infratek dari UU Nomor 11 Tahun 2008.
Kapan Tanggung Jawab Penyelenggara Bisa Bergeser ke Pengguna?
Tanggung jawab penyelenggara bergeser dalam dua keadaan di Pasal 21. Jika kerugian timbul karena agen gagal beroperasi akibat kelalaian pengguna jasa layanan, akibat hukumnya ditanggung pengguna. Jika terbukti ada keadaan memaksa, kesalahan, atau kelalaian pihak pengguna sistem elektronik, ketentuan ayat (2) tidak berlaku.
Ayat (3) menutup satu celah yang sering dipakai sebagai alasan. Jika kerugian disebabkan gagal beroperasinya agen akibat tindakan pihak ketiga secara langsung terhadap sistem elektronik, segala akibat hukum tetap menjadi tanggung jawab penyelenggara. Artinya, peretasan bukan alasan melepas tanggung jawab. Untuk agen AI, ini menyentuh serangan seperti prompt injection yang membuat agen bertindak di luar maksud, karena sistem elektroniknya yang dimanipulasi, bukan pengguna yang lalai.
Ayat (4) mengatur sebaliknya. Jika kegagalan agen akibat kelalaian pihak pengguna jasa layanan, akibat hukumnya menjadi tanggung jawab pengguna jasa layanan. Contohnya, pengguna memberi instruksi yang jelas keliru, membagikan kredensial akunnya kepada orang lain, atau mengabaikan peringatan konfirmasi yang disediakan sistem. Di sinilah fitur konfirmasi dan jejak audit berperan sebagai alat bukti.
Ayat (5) memberi pengecualian tambahan. Ketentuan pembagian tanggung jawab di ayat (2) tidak berlaku jika dapat dibuktikan terjadi keadaan memaksa, kesalahan, dan/atau kelalaian pihak pengguna sistem elektronik. Kata kuncinya adalah "dapat dibuktikan". Beban pembuktian mengarah ke pihak yang ingin lepas dari tanggung jawab, sehingga siapa pun yang menyimpan catatan lebih lengkap punya posisi lebih kuat saat sengketa.
Dalam praktik sengketa, pertanyaan yang muncul biasanya konkret. Apakah pengguna menerima peringatan sebelum agen bertindak? Apakah instruksinya tertulis dan bisa ditelusuri? Apakah agen diberi wewenang melebihi kebutuhan karena pengaturan akun yang longgar? Jawaban atas pertanyaan seperti ini menentukan apakah ayat (4) dan ayat (5) dapat dipakai, dan karena beban pembuktian ada pada pihak yang mengklaim, kelengkapan log menjadi pertahanan pertama kedua belah pihak.
Bagi perusahaan, dua ayat ini mengubah cara membaca kontrak layanan AI. Klausul yang menyatakan semua kesalahan agen menjadi risiko pelanggan perlu diuji terhadap ayat (3), karena kegagalan akibat serangan pihak ketiga tetap menjadi tanggung jawab penyelenggara menurut undang-undang. Klausul pembatasan tanggung jawab boleh ada, tetapi kekuatannya terhadap konsumen, dan terhadap pihak ketiga yang dirugikan, perlu diuji dengan penasihat hukum.
Apa Saja Kewajiban Penyelenggara Agen Elektronik di PP 71/2019?
PP 71/2019 menurunkan Pasal 21 menjadi daftar kewajiban konkret di Pasal 36 sampai Pasal 40. Penyelenggara agen elektronik wajib menyampaikan informasi minimal kepada pengguna, menyediakan fitur koreksi dan pembatalan, menerapkan prinsip kehati-hatian, menguji identitas pengguna, dan menyusun prosedur agar transaksi tidak dapat diingkari.
Pasal 36 ayat (3) menyatakan kewajiban penyelenggara sistem elektronik berlaku mutatis mutandis terhadap penyelenggara agen elektronik. Dengan kata lain, standar keamanan dan keandalan sistem elektronik ikut melekat pada agen. Pasal 37 ayat (1) kemudian mewajibkan penyelenggara memuat atau menyampaikan informasi untuk melindungi hak pengguna, dengan delapan butir minimal, yang dikelompokkan menjadi empat di bawah ini:
Identitas dan objek. Identitas penyelenggara agen elektronik dan objek yang ditransaksikan harus jelas bagi pengguna.
Kelayakan dan keamanan. Informasi mengenai kelayakan atau keamanan agen elektronik serta tata cara penggunaan perangkat.
Kontrak dan kesepakatan. Syarat kontrak dan prosedur mencapai kesepakatan.
Privasi dan pengaduan. Jaminan privasi atau pelindungan data pribadi, serta nomor telepon pusat pengaduan.
Pasal 37 ayat (3) mewajibkan fitur untuk melakukan koreksi, membatalkan perintah, memberikan konfirmasi atau rekonfirmasi, memilih meneruskan atau berhenti, melihat penawaran kontrak elektronik atau iklan, mengecek status berhasil atau gagalnya transaksi, dan membaca perjanjian sebelum bertransaksi. Totalnya tujuh fitur. Ayat (4) menambahkan fitur untuk mengubah informasi yang masih dalam proses transaksi, yang sama dengan Pasal 22 UU ITE.
Pasal 39 ayat (1) menetapkan lima prinsip penyelenggaraan, yaitu kehati-hatian, pengamanan dan terintegrasinya sistem teknologi informasi, pengendalian pengamanan atas aktivitas transaksi elektronik, efektivitas dan efisiensi biaya, serta pelindungan konsumen. Ayat (3) menyebut enam prinsip pengendalian data, yakni kerahasiaan, integritas, ketersediaan, keautentikan, otorisasi, dan kenirsangkalan.
Pasal 40 ayat (1) menambah kewajiban operasional, antara lain menguji keautentikan identitas dan memeriksa otorisasi pengguna, memiliki kebijakan menghadapi indikasi pencurian data, mengendalikan hak akses, memiliki rencana keberlangsungan bisnis, dan memiliki prosedur menangani kejadian tak terduga. Ayat (2) mewajibkan prosedur agar transaksi tidak dapat diingkari oleh konsumen. Untuk agen AI, kewajiban otorisasi dan kenirsangkalan berarti setiap tindakan agen perlu terikat ke identitas dan wewenang yang bisa dibuktikan.
Apa yang Berubah lewat UU 1/2024 untuk Transaksi Berisiko Tinggi?
UU Nomor 1 Tahun 2024, perubahan kedua UU ITE yang disahkan pada 2 Januari 2024, tidak mengubah Pasal 21 dan Pasal 22, tetapi memperketat transaksi elektronik di sekitarnya. Pasal 17 kini mewajibkan iktikad baik para pihak dan menuntut tanda tangan elektronik bersertifikat untuk transaksi berisiko tinggi.
Pasal 17 ayat (2) menyatakan para pihak yang melakukan transaksi elektronik wajib beriktikad baik dalam berinteraksi dan atau bertukar informasi elektronik dan atau dokumen elektronik selama transaksi berlangsung. Bagi agen AI, iktikad baik berlaku dua arah. Penyelenggara tidak boleh memakai agen untuk memancing kesepakatan yang menyesatkan, dan pihak lawan tidak boleh memanfaatkan kekeliruan yang jelas terlihat.
Pasal 17 ayat (2a), yang disisipkan UU 1/2024, berbunyi bahwa transaksi elektronik yang memiliki risiko tinggi bagi para pihak menggunakan tanda tangan elektronik yang diamankan dengan sertifikat elektronik. UU tidak mendefinisikan angka batas risiko tinggi di pasal itu, dan ketentuan lebih lanjut diatur dalam peraturan pemerintah menurut ayat (3). Perusahaan perlu memantau peraturan turunan itu untuk mengetahui transaksi mana yang masuk kategori.
Bagi pembaca bisnis, ayat (2a) berarti persetujuan agen untuk transaksi besar sebaiknya tidak hanya berupa klik atau pesan teks. Perusahaan perlu menentukan sejak awal transaksi apa yang termasuk berisiko tinggi, misalnya pembelian bernilai besar atau kontrak jangka panjang, lalu memastikan jalurnya memakai tanda tangan elektronik bersertifikat dan bukan sekadar konfirmasi di antarmuka agen.
Pasal 13 ayat (1) memberi hak kepada setiap orang menggunakan jasa penyelenggara sertifikasi elektronik, dan Pasal 13A merinci layanan seperti tanda tangan elektronik, segel elektronik, penanda waktu elektronik, dan identitas digital. Bagi agen AI yang menyetujui kontrak bernilai besar, rangkaian ini membuka jalan praktis. Persetujuan agen dapat diikat ke segel atau tanda tangan bersertifikat milik badan usaha, sehingga jejaknya lebih mudah dibuktikan.
Pasal 18A mengatur kontrak elektronik internasional yang memakai klausula baku buatan penyelenggara sistem elektronik. Kontrak itu diatur dengan hukum Indonesia jika pengguna berasal dari Indonesia dan memberi persetujuan dari yurisdiksi Indonesia, atau jika penyelenggara punya tempat usaha atau kegiatan usaha di Indonesia, di antara syarat lain. Ayat (2) mewajibkan bahasa yang sederhana, jelas, dan mudah dipahami. Perusahaan Indonesia yang membeli layanan agen dari vendor luar negeri dengan klausula baku perlu membaca pasal ini.
Bagaimana Status Perpres Etika AI dan Prinsip Keputusan Akhir di Tangan Manusia?
Pada 30 Oktober 2026, Direktur Kecerdasan Artifisial dan Ekosistem Teknologi Baru Komdigi Said Mirza Pahlevi menyatakan Peta Jalan AI Nasional 2026 sampai 2029 dan Perpres Etika AI masih dalam proses penandatanganan, menurut CNBC Indonesia. Perpres Etika memakai pendekatan berbasis risiko dengan keputusan akhir tetap di tangan manusia.
Jejak prosesnya cukup panjang. Kompas.id melaporkan bahwa Keputusan Presiden Nomor 38 Tahun 2025, ditetapkan pada 22 Desember 2025, memuat 46 rancangan perpres untuk tahun 2026, dua di antaranya tentang etika dan peta jalan AI. Komdigi melalui JDIH menyebut pembahasan lintas kementerian rampung pada rapat finalisasi Selasa, 5 Mei 2026, sebelum kedua rancangan diajukan kepada Presiden untuk ditetapkan.
Isi rancangannya, sebagaimana dijelaskan Said, menyentuh persoalan agen. "AI yang berisiko tinggi, misalnya untuk mendiagnosis penyakit tertentu kepada pasien ya, ini memerlukan pengawasan khusus," katanya, dan keputusan akhir tidak boleh sepenuhnya otomatis, "jadi harus ada manusia yang memutuskan sebagai keputusan akhir." Prinsip ini langsung relevan bagi agen transaksi bernilai besar, karena menuntut titik persetujuan manusia di keputusan yang berdampak signifikan.
Komdigi juga menyebut Perpres memuat ketentuan label pada produk yang dihasilkan AI, kewajiban transparansi pengolahan data pengguna, dan hak menghapus data. Warga yang dirugikan sistem AI dapat melapor ke penyedia layanan atau kementerian terkait, dan laporan itu harus ditindaklanjuti. Bagi pelaku usaha, Said menyebut tidak ada izin tambahan baru untuk pengembangan AI, hanya penilaian mandiri, dengan masa penyesuaian dua tahun.
Peta Jalan AI Nasional membawa target yang lebih bersifat pembangunan ekosistem. Said menyebut sasaran 45 ribu talenta AI per tahun, pusat pelatihan talenta di tiap provinsi, dan minimal 15 persen pembelajaran coding dan AI di sekolah. Target ini tidak mengatur tanggung jawab transaksi, tetapi menunjukkan arah kebijakan: pemerintah ingin adopsi AI tumbuh, dengan rambu risiko yang diatur lewat Perpres Etika.
Perpres adalah aturan etika dan arah kebijakan, dan Komdigi menyebut regulasi turunan akan disusun kementerian sektoral. Perpres itu tidak menggantikan Pasal 21 UU ITE. Keduanya bekerja bersama, dengan Pasal 21 menentukan siapa yang menanggung akibat hukum transaksi, sedangkan Perpres menetapkan harapan perilaku, seperti pengawasan manusia untuk AI berisiko tinggi. Karena belum ada informasi penandatanganan setelah 30 Oktober 2026, pembaca perlu memeriksa JDIH sebelum menjadikannya rujukan hukum.
Bagaimana Pasal 21 Bekerja pada Kasus Agen Pengadaan yang Salah Pesan?
Dalam ilustrasi agen pengadaan yang salah membaca satuan faktur, penyelenggara agen menanggung akibat hukum transaksi kecuali ada bukti kelalaian pengguna atau keadaan memaksa. Skenario di bawah adalah rekaan untuk latihan, bukan kasus nyata, dengan analisis berdasarkan Pasal 21 UU ITE dan PP 71/2019.
Bayangkan perusahaan distribusi PT Contoh Niaga memakai agen AI buatan vendor untuk mengonfirmasi pesanan ulang. Vendor mengoperasikan agen di server mereka, dan PT Contoh Niaga hanya memberi aturan stok minimum. Agen salah membaca satuan "dus" sebagai "karton" dan mengirim konfirmasi pembelian empat kali lipat. Pemasok memproses pesanan sesuai konfirmasi.
Langkah pertama analisis adalah mengidentifikasi penyelenggara agen elektronik. Jika vendor yang mengoperasikan agen, vendor itu menjadi penyelenggara menurut Pasal 21 ayat (2) huruf c, dan PT Contoh Niaga berstatus pengguna jasa. Jika PT Contoh Niaga membangun dan menjalankan agen sendiri, perusahaan itu penyelenggaranya. Kontrak layanan, perjanjian konfigurasi, dan siapa yang mengendalikan sistem menjadi bukti penentu.
Langkah kedua adalah memeriksa pengecualian. Apakah ada kelalaian pengguna jasa, misalnya PT Contoh Niaga mengabaikan fitur konfirmasi manusia yang disediakan vendor untuk pesanan di atas batas tertentu? Jika ya, ayat (4) memindahkan sebagian beban ke pengguna. Apakah ada serangan pihak ketiga, misalnya faktur palsu yang disisipkan penyerang? Jika ya, ayat (3) tetap menempatkan beban pada penyelenggara.
Langkah ketiga adalah memeriksa kewajiban PP 71/2019. Apakah agen menyediakan fitur koreksi dan pembatalan menurut Pasal 37 ayat (3), dan apakah ada prosedur penanganan kejadian tak terduga menurut Pasal 40 ayat (1) huruf g? Penyelenggara yang tidak memenuhi kewajiban ini punya posisi lemah. Sebaliknya, pengguna yang dapat menunjukkan fitur koreksi tersedia tetapi tidak dipakai bisa terkena ayat (4).
Dalam ilustrasi ini, pemasok sebagai pihak ketiga yang beriktikad baik juga punya kepentingan. Pasal 17 ayat (2) UU ITE menuntut iktikad baik, sehingga pemasok yang melihat pesanan janggal, misalnya jumlah empat kali lipat dari pola biasa, tetapi tetap memproses, bisa dipertanyakan sikapnya. Di titik ini, bukti log kedua pihak menentukan siapa yang terlihat bertindak wajar.
Bagaimana Perusahaan Menyiapkan Kontrak, Kontrol, dan Jejak Audit untuk Agen AI?
Perusahaan bisa bersiap tanpa menunggu Perpres. Empat langkah utamanya adalah memetakan peran sebagai penyelenggara atau pengguna, memasang batas wewenang agen, menyimpan jejak keputusan yang dapat dibuktikan, dan menulis pembagian risiko secara eksplisit dalam kontrak dengan vendor.
Petakan peran. Tentukan untuk tiap agen apakah perusahaan Anda penyelenggara agen elektronik atau pengguna jasa. Perusahaan yang membangun agen sendiri atau memodifikasi agen vendor secara mendalam cenderung berstatus penyelenggara, dengan kewajiban PP 71/2019 yang melekat.
Pasang batas wewenang. Tetapkan plafon nilai transaksi, daftar pihak yang boleh ditransaksikan, dan jenis transaksi yang boleh dijalankan agen. Transaksi di atas batas wajib kembali ke persetujuan manusia, sejalan dengan prinsip keputusan akhir di tangan manusia yang diusung Komdigi.
Simpan jejak keputusan. Catat instruksi pengguna, data yang dibaca agen, tindakan yang diambil, waktu, dan identitas yang memberi wewenang. Pasal 21 ayat (5) menuntut pembuktian, dan Pasal 40 ayat (2) PP 71/2019 menuntut prosedur agar transaksi tidak dapat diingkari.
Tulis pembagian risiko di kontrak. Pasal 38 ayat (2) PP 71/2019 menyebut perjanjian agen elektronik untuk lebih dari satu kepentingan memuat paling sedikit hak dan kewajiban, tanggung jawab, mekanisme pengaduan dan penyelesaian sengketa, jangka waktu, biaya, cakupan layanan, dan pilihan hukum. Pakai daftar itu sebagai kerangka tinjauan kontrak vendor.
Uji serangan dan kegagalan. Karena ayat (3) menempatkan kegagalan akibat pihak ketiga pada penyelenggara, lakukan pengujian prompt injection, pemalsuan dokumen masuk, dan skenario salah baca sebelum agen diberi wewenang transaksi.
Langkah-langkah ini juga memperbaiki mutu operasional. Batas wewenang mengurangi kerugian akibat salah baca, jejak audit mempercepat rekonsiliasi dan penyelesaian sengketa, dan kontrak yang jelas mengurangi perdebatan saat insiden terjadi. Untuk topik pembayaran oleh agen AI dan protokol yang sedang berkembang, Anda dapat membaca juga ulasan Burhan tentang agentic commerce dan aturan Indonesia.
Satu praktik yang sering terlewat adalah latihan sengketa di atas kertas. Ambil satu skenario kegagalan, misalnya agen salah membaca angka di dokumen pemasok, lalu telusuri siapa yang akan dipanggil pertama, log mana yang dibuka, dan siapa yang berwenang membatalkan pesanan. Latihan ini membantu menemukan lubang wewenang yang tidak terlihat dari dokumen kebijakan.
Sebelum menandatangani kontrak agen AI dengan vendor, minta tiga dokumen. Pertama, penjelasan siapa yang dianggap penyelenggara agen elektronik. Kedua, daftar fitur koreksi, pembatalan, dan konfirmasi sesuai Pasal 37 PP 71/2019. Ketiga, prosedur insiden dan batas pertanggungjawaban vendor. Dokumen ini murah diminta di awal dan mahal dicari saat sengketa sudah berjalan.
Kesimpulan
Pertanyaan tentang siapa yang menanggung kerugian saat agen AI salah bertransaksi sudah punya kerangka jawaban di hukum Indonesia. Pasal 21 UU ITE menunjuk penyelenggara agen elektronik sebagai penanggung akibat hukum, dengan pengecualian untuk kelalaian pengguna, keadaan memaksa, dan kesalahan pengguna sistem. PP 71/2019 menurunkannya menjadi kewajiban informasi, fitur, keamanan, dan pembuktian, sementara UU 1/2024 memperketat iktikad baik dan tanda tangan bersertifikat untuk transaksi berisiko tinggi.
Perpres Etika AI yang masih menunggu penandatanganan per 30 Oktober 2026 akan menambah harapan perilaku, terutama keputusan akhir di tangan manusia untuk AI berisiko tinggi. Perusahaan yang sejak sekarang memetakan peran, membatasi wewenang agen, menyimpan jejak audit, dan menulis pembagian risiko di kontrak akan lebih siap, baik saat sengketa datang maupun saat aturan baru ditetapkan. Untuk keputusan hukum yang konkret, konsultasikan kasus Anda dengan penasihat hukum.
(Burung Hantu Infratek / Berbagai Sumber)
⚠️ Artikel ini seluruhnya diriset, ditulis, dan dikembangkan oleh AI internal Burung Hantu Infratek.
🦉 Burung Hantu Infratek adalah software house dan system integrator yang sudah berpengalaman lebih dari 5 tahun dalam pengembangan dan implementasi generative AI pada berbagai perusahaan dan institusi.
Sumber dan Referensi
[1] UU No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik - JDIH BPK
[2] UU No. 1 Tahun 2024 tentang Perubahan Kedua atas UU ITE - JDIH BPK
[3] PP No. 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik - JDIH BPK
[4] RI Atur AI Sesuai Risiko, Komdigi Beberkan Isi Regulasinya - CNBC Indonesia
[7] Tahun Ini, Pemerintah Akan Merilis Dua Perpres soal Etika dan Peta Jalan AI Nasional - Kompas.id
[8] Pengaturan Hukum Artificial Intelligence di Indonesia Saat Ini - Hukumonline