Chatbot AI Layanan Pelanggan: Aturan Transparansi UE dan Tanggung Jawab di Indonesia
Chatbot AI layanan pelanggan adalah asisten percakapan berbasis model bahasa yang menjawab pertanyaan, mengurus keluhan, dan memproses permintaan pelanggan tanpa operator manusia. Sederhananya, chatbot ini menjadi wajah perusahaan di kanal digital, sehingga setiap jawabannya ikut dihitung sebagai janji perusahaan. Tulisan ini mengupas perubahan aturan pada 2026, isi Pasal 50 AI Act dan pedoman Komisi Eropa, cara memberi tahu pengguna, jangkauan aturan Eropa ke perusahaan Indonesia, pelajaran kasus Air Canada, aturan Indonesia yang sudah berlaku, risiko utama, hingga langkah menyiapkan chatbot yang patuh.
TLDR
Mengapa Aturan Chatbot Layanan Pelanggan Berubah pada 2026
Mulai 2 Agustus 2026, Uni Eropa mewajibkan pengguna diberi tahu saat berbicara dengan sistem AI, dan kewajiban ini menyentuh hampir semua chatbot layanan pelanggan.
Isi Pasal 50 AI Act dan Pedoman Komisi Eropa 20 Juli 2026
Pedoman setebal 51 halaman itu menjelaskan kapan chatbot wajib memperkenalkan diri, termasuk agen AI yang bertindak atas nama pihak lain.
Cara Memberi Tahu Pengguna yang Dianggap Cukup dan Tidak Cukup
Pemberitahuan harus jelas di dalam percakapan, sedangkan syarat dan ketentuan saja atau label samar seperti "asisten" tidak cukup.
Kapan Perusahaan Indonesia Ikut Terkena Aturan Uni Eropa
Penyedia chatbot di luar Eropa ikut terikat jika sistemnya dipasarkan di Uni Eropa atau keluarannya dipakai di sana.
Pelajaran Kasus Air Canada soal Jawaban Chatbot yang Salah
Tribunal di Kanada menolak dalih bahwa chatbot adalah pihak terpisah dan menghukum Air Canada membayar 812,02 dolar Kanada.
Aturan Indonesia yang Sudah Berlaku untuk Chatbot
UU ITE, UU Perlindungan Konsumen, dan UU PDP sudah menempatkan tanggung jawab jawaban chatbot di pundak perusahaan yang mengoperasikannya.
Risiko Terbesar Chatbot Layanan Pelanggan bagi Perusahaan
Risiko utamanya adalah informasi keliru, keputusan otomatis tanpa jalur keberatan, kebocoran data, dan pelanggan yang merasa tertipu.
Cara Menyiapkan Chatbot Layanan Pelanggan yang Patuh dan Dipercaya
Perusahaan perlu pemberitahuan AI yang jelas, sumber jawaban yang terkendali, jalur ke manusia, log percakapan, dan pemilik proses yang jelas.
Kesimpulan
Chatbot yang jujur soal dirinya dan akurat jawabannya lebih murah dirawat daripada chatbot yang harus dibela di depan hakim.
Hampir semua orang pernah mengetik pertanyaan di jendela obrolan sebuah bank, maskapai, atau toko daring, lalu menerima jawaban cepat yang terdengar sangat manusiawi. Bagi perusahaan, chatbot berbasis AI terasa seperti solusi ideal: tersedia 24 jam, tidak lelah, dan murah per percakapan. Masalahnya, banyak perusahaan memasang chatbot tanpa pernah bertanya dua hal mendasar. Apakah pelanggan tahu bahwa yang menjawab adalah mesin? Lalu, siapa yang menanggung akibatnya ketika mesin itu memberi informasi yang salah? Pada 2026 kedua pertanyaan itu tidak lagi sekadar soal etika, karena regulator dan pengadilan sudah memberi jawaban yang cukup tegas.
Mengapa Aturan Chatbot Layanan Pelanggan Berubah pada 2026
Aturan berubah karena kewajiban transparansi Pasal 50 AI Act Uni Eropa mulai berlaku pada 2 Agustus 2026. Sejak tanggal itu, menurut Komisi Eropa (2026), pengguna harus diberi tahu ketika sedang berinteraksi dengan sistem AI interaktif seperti chatbot. Kewajiban ini menyentuh hampir semua chatbot layanan pelanggan yang melayani pengguna di Eropa.
Selama beberapa tahun terakhir, chatbot layanan pelanggan berkembang jauh dari pohon menu sederhana. Dulu pelanggan memilih tombol "cek saldo" atau "lacak paket", dan sistem mengikuti skrip yang sudah ditulis manusia. Kini chatbot memakai model bahasa besar yang bisa menyusun kalimat sendiri, merangkum kebijakan, bahkan menjalankan tindakan seperti membatalkan pesanan atau mengajukan pengembalian dana. Kemampuan ini membuat percakapan terasa alami, tetapi juga membuat batas antara operator manusia dan mesin makin kabur di mata pelanggan.
Uni Eropa merespons kaburnya batas itu lewat Regulation (EU) 2024/1689 atau AI Act. Pasal 50 undang-undang tersebut memuat empat kelompok kewajiban transparansi, dan ayat pertamanya khusus mengatur sistem AI yang berinteraksi langsung dengan manusia. Pada 10 Juni 2026, Komisi Eropa menerbitkan Code of Practice tentang penandaan dan pelabelan konten buatan AI. Dalam siaran persnya, Komisi menegaskan bahwa mulai 2 Agustus 2026 pengguna juga harus diberi tahu saat berinteraksi dengan sistem AI interaktif seperti chatbot.
Langkah berikutnya datang pada 20 Juli 2026. Menurut analisis firma hukum Bird & Bird (2026), hari itu Komisi Eropa mengadopsi versi final pedoman pelaksanaan Pasal 50, kurang dari dua minggu sebelum kewajibannya mulai berlaku. Dokumen berkode C(2026) 5054 final itu memiliki 51 halaman dan, menurut ringkasan AI Resources (2026), tersusun dalam 9 bagian dengan 155 butir. Bagian ketiganya, butir 28 sampai 53, membahas khusus sistem AI interaktif.
Bagi perusahaan di Indonesia, perubahan ini penting karena dua alasan. Pertama, banyak perusahaan lokal melayani pelanggan di Eropa, entah lewat aplikasi, platform pariwisata, atau layanan perangkat lunak. Kedua, pedoman Eropa sering menjadi rujukan regulator di negara lain, termasuk di Asia Tenggara. Sementara itu, Indonesia sendiri sudah punya aturan yang menempatkan tanggung jawab atas jawaban chatbot di pundak perusahaan, walaupun aturan itu tidak menyebut kata "chatbot" secara eksplisit.
Isi Pasal 50 AI Act dan Pedoman Komisi Eropa 20 Juli 2026
Pasal 50 ayat 1 AI Act mewajibkan penyedia merancang sistem AI interaktif agar orang yang berbicara dengannya tahu bahwa lawan bicaranya adalah AI. Pedoman Komisi Eropa 20 Juli 2026 merinci empat unsur yang harus terpenuhi sekaligus, memasukkan agen AI ke dalam cakupan, dan mempersempit pengecualian "sudah jelas dengan sendirinya".
Bunyi aturannya cukup lugas. Pasal 50 ayat 1 AI Act menyatakan: "Providers shall ensure that AI systems intended to interact directly with natural persons are designed and developed in such a way that the natural persons concerned are informed that they are interacting with an AI system". Kewajiban ini dikecualikan jika sifat AI tersebut sudah jelas bagi orang yang cukup paham, cermat, dan berhati-hati, dengan memperhatikan keadaan dan konteks penggunaannya.
Menurut ringkasan AI Resources (2026) atas butir 30 pedoman, ada empat unsur kumulatif yang membuat sebuah sistem masuk cakupan ayat ini: sistem tersebut adalah sistem AI, dimaksudkan untuk berinteraksi, interaksinya langsung, dan lawan bicaranya manusia. Interaksi dianggap ada jika terjadi pertukaran dua arah yang bersifat percakapan atau responsif. Interaksi dianggap langsung jika berlangsung secara waktu nyata atau mendekati waktu nyata. Sebaliknya, jika seorang operator manusia tetap menjadi lawan bicara utama dan AI hanya membantu di belakang layar, interaksinya tidak dianggap langsung.
Poin yang paling relevan untuk masa depan layanan pelanggan ada di butir 31. Agen AI ikut masuk cakupan, dan agen tersebut harus mengungkapkan dua hal: bahwa dirinya adalah AI, serta atas nama siapa ia bertindak. Jika penyedia tidak bisa memastikan sejak awal apakah agen akan berbicara dengan manusia, agen harus dirancang dan diinstruksikan untuk memperkenalkan diri dalam setiap situasi yang kemungkinan besar melibatkan manusia. Contohnya agen AI yang menelepon pelanggan untuk menjadwalkan ulang pengiriman atas nama perusahaan logistik.
Pedoman juga mempersempit pengecualian "sudah jelas". Menurut butir 42 sampai 45, standar yang dipakai adalah orang yang cukup paham, cermat, dan berhati-hati, mengikuti standar konsumen rata-rata dalam hukum perlindungan konsumen, tetapi disesuaikan dengan audiens yang bisa diperkirakan. Jika audiensnya mencakup anak, lansia, atau penyandang disabilitas, pengecualian ini tidak bisa dipakai. Pedoman juga menegaskan bahwa kesadaran umum bahwa chatbot itu ada tidak berarti orang mengenalinya dalam percakapan nyata.
Siapa yang memikul kewajiban ini? Untuk ayat 1 dan 2, kewajiban ada pada penyedia (provider), yaitu pihak yang mengembangkan sistem dan memasarkannya dengan namanya sendiri. Namun perusahaan yang merakit chatbot sendiri dari model pihak ketiga, lalu memasangnya di situs dengan merek perusahaan, bisa berposisi sebagai penyedia sistem tersebut. Karena itu, tim layanan pelanggan sebaiknya tidak berasumsi bahwa urusan transparansi otomatis menjadi tanggung jawab vendor model.
Cara Memberi Tahu Pengguna yang Dianggap Cukup dan Tidak Cukup
Pemberitahuan dianggap cukup jika pengguna benar-benar bisa menangkapnya di dalam interaksi, baik lewat teks, suara, visual, maupun gabungannya. Menurut ringkasan pedoman Komisi Eropa (2026), syarat dan ketentuan saja, penanda yang hanya terbaca mesin, label samar seperti "asisten", atau penjelasan teknis tidak cukup bila berdiri sendiri.
Butir 37 dan 38 pedoman memuat daftar teknik yang dianggap layak dan teknik yang tidak memadai jika dipakai sendirian. Teknik yang layak mencakup pemberitahuan tekstual, suara, visual, atau multimodal. Teknik yang tidak memadai mencakup penyebutan di syarat dan ketentuan saja, penanda yang hanya bisa dibaca mesin dan tidak terlihat pengguna, sinyal yang ambigu seperti kata "assistant", pemberitahuan umum yang menutupi seluruh layanan, serta deskripsi teknis murni seperti kalimat "sistem ini memakai LLM".
Daftar ini cukup menampar praktik umum di banyak perusahaan. Tidak sedikit chatbot layanan pelanggan diberi nama orang, foto avatar manusia, dan sapaan hangat tanpa satu kalimat pun yang menyebut bahwa ia adalah AI. Ada juga perusahaan yang menulis "Virtual Assistant" di judul jendela obrolan dan menganggap urusan selesai. Menurut kacamata pedoman, label "asisten" termasuk sinyal ambigu, karena di dunia kerja asisten bisa saja manusia.
Pasal 50 ayat 5 AI Act menambahkan syarat bentuk: informasi harus disampaikan secara jelas dan dapat dibedakan, paling lambat pada saat interaksi pertama, serta memenuhi persyaratan aksesibilitas. Artinya, pemberitahuan sebaiknya muncul di pesan pembuka, bukan disembunyikan di menu atau baru muncul ketika pelanggan bertanya. Untuk kanal suara, pemberitahuan sebaiknya diucapkan di awal panggilan, bukan sekadar tercantum di situs.
Contoh praktis yang lebih aman bisa sesederhana kalimat pembuka: "Halo, saya asisten AI dari PT Contoh. Saya bisa membantu soal pesanan dan pembayaran. Ketik 'agen' kapan saja untuk berbicara dengan petugas kami." Kalimat ini memenuhi tiga hal sekaligus: menyebut sifat AI secara eksplisit, menyebut atas nama siapa ia bekerja, dan memberi jalan keluar ke manusia. Perusahaan juga bisa menambahkan penanda visual tetap di jendela obrolan, misalnya ikon dan teks "Dijawab oleh AI".
Satu hal lain yang sering terlupa adalah konsistensi lintas kanal. Chatbot yang sama sering dipasang di situs, aplikasi, WhatsApp, dan pusat panggilan. Pedoman menolak pemberitahuan umum yang menutupi seluruh layanan, sehingga satu pengumuman di halaman beranda tidak bisa menggantikan pemberitahuan di setiap percakapan. Tim produk perlu memastikan setiap kanal punya pesan pembuka sendiri yang terlihat oleh pengguna di kanal tersebut.
Kapan Perusahaan Indonesia Ikut Terkena Aturan Uni Eropa
Perusahaan Indonesia ikut terkena Pasal 50 ayat 1 jika menjadi penyedia chatbot yang dipasarkan atau dioperasikan di Uni Eropa, atau jika keluaran chatbot itu dimaksudkan untuk dipakai di sana. Menurut pedoman Komisi Eropa (2026), pemakaian hilir yang insidental, tidak terduga, atau tanpa izin tidak otomatis menyeret penyedia dari luar Eropa.
AI Act memiliki jangkauan wilayah yang luas. Menurut analisis Bird & Bird (2026), kewajiban Pasal 50 ayat 1 dan 2 berlaku bagi penyedia sistem AI yang dipasarkan atau dioperasikan di Uni Eropa, di mana pun penyedia itu berada. Penyedia dari luar Uni Eropa juga terikat jika keluaran sistem AI-nya digunakan di Uni Eropa. Konsep "digunakan di Uni Eropa" inilah yang selama ini diperdebatkan, karena pembukaan AI Act menyebutnya sebagai langkah anti-pengelakan tanpa menjelaskan kapan sebuah keluaran dianggap dimaksudkan untuk dipakai di sana.
Pedoman final mencoba menjawab perdebatan itu dengan kalimat yang, menurut Bird & Bird, masih akan diperdebatkan: "incidental, unforeseeable or unauthorised downstream use should not alone trigger the application of the obligations to such third country providers". Artinya, penyedia dari luar Eropa tidak otomatis terikat hanya karena seseorang di Eropa kebetulan memakai keluarannya tanpa direncanakan. Namun jika perusahaan secara sadar menyasar pengguna Eropa, ceritanya berbeda.
Beberapa contoh situasi yang patut diperiksa oleh perusahaan Indonesia antara lain biro perjalanan daring yang melayani turis Eropa, perusahaan perangkat lunak yang menjual platform layanan pelanggan berbasis AI kepada klien di Eropa, maskapai atau hotel yang memasang chatbot berbahasa Inggris dan Jerman, serta perusahaan rintisan yang menjual aplikasi di toko aplikasi wilayah Eropa. Dalam semua contoh itu, chatbot jelas dimaksudkan untuk dipakai oleh orang di Uni Eropa.
Sanksinya tidak kecil. Menurut ringkasan pedoman butir 152, pelanggaran kewajiban transparansi bisa dikenai denda hingga 15 juta euro atau 3 persen dari total omzet tahunan global, mana yang lebih tinggi. Untuk usaha kecil dan menengah serta perusahaan rintisan, yang dipakai adalah angka yang lebih rendah dari keduanya. Pengawasan dilakukan oleh otoritas pengawas pasar di tiap negara anggota.
Soal waktu, Pasal 50 berlaku sejak 2 Agustus 2026 untuk semua sistem yang masuk cakupan, terlepas dari kapan sistem itu dipasarkan. Paket Digital Omnibus memberi masa transisi hanya untuk kewajiban penandaan konten di ayat 2, dengan batas kepatuhan 2 Desember 2026 bagi sistem generatif yang sudah beredar sebelum 2 Agustus. Ringkasan pedoman menegaskan bahwa sistem yang sekaligus interaktif dan generatif hanya mendapat kelonggaran untuk urusan penandaan, sedangkan kewajiban memberi tahu pengguna di ayat 1 tetap berlaku sejak 2 Agustus 2026.
Pelajaran Kasus Air Canada soal Jawaban Chatbot yang Salah
Kasus Moffatt v. Air Canada menunjukkan bahwa perusahaan tidak bisa berlindung di balik chatbotnya. Pada 14 Februari 2024, Civil Resolution Tribunal di British Columbia, Kanada, menolak dalih bahwa chatbot adalah pihak terpisah dan memerintahkan Air Canada membayar total 812,02 dolar Kanada kepada pelanggan yang dirugikan.
Kronologinya sederhana. Pada November 2022, setelah neneknya meninggal, Jake Moffatt memesan penerbangan Air Canada. Saat mencari informasi, ia memakai chatbot di situs maskapai tersebut. Chatbot menyarankan bahwa tarif duka (bereavement fare) bisa diajukan secara retroaktif setelah perjalanan. Belakangan Moffatt mengetahui dari karyawan Air Canada bahwa maskapai itu tidak mengizinkan pengajuan retroaktif. Ia lalu menuntut pengembalian sebagian harga tiket sebesar 880 dolar Kanada.
Di persidangan, Air Canada berargumen bahwa perusahaan tidak bisa dimintai tanggung jawab atas informasi yang diberikan agen, pegawai, atau perwakilannya, termasuk chatbot. Anggota tribunal Christopher C. Rivers menyebut argumen ini sebagai "a remarkable submission" dan menulis: "It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot."
Tribunal menilai perkara ini sebagai kelalaian dalam memberikan keterangan (negligent misrepresentation). Menurut putusan bernomor 2024 BCCRT 149 itu, Air Canada tidak mengambil langkah wajar untuk memastikan chatbotnya akurat. Dalih bahwa informasi yang benar tersedia di halaman lain situs juga ditolak, karena pelanggan tidak punya alasan untuk mengetahui bahwa satu bagian situs lebih bisa dipercaya daripada bagian lainnya.
Angka ganti ruginya memang kecil. Tribunal menghitung kerugian 650,88 dolar Kanada, ditambah bunga 36,14 dolar Kanada dan biaya tribunal 125 dolar Kanada, sehingga totalnya 812,02 dolar Kanada. Tribunal juga menolak upaya Air Canada mengurangi ganti rugi dengan kupon 200 dolar Kanada, karena tidak ada bukti bahwa Moffatt menerima kupon tersebut. Namun nilai kasus ini bukan pada angkanya, melainkan pada prinsip yang ditegaskan dan sorotan publik yang menyertainya.
Pelajaran bagi perusahaan Indonesia cukup jelas. Pertama, jawaban chatbot diperlakukan sama dengan isi halaman resmi perusahaan. Kedua, menaruh informasi yang benar di tempat lain tidak menghapus tanggung jawab atas informasi yang salah di chatbot. Ketiga, sengketa kecil dari satu pelanggan bisa menjadi preseden yang dikutip di banyak negara. Prinsip yang sama, seperti dibahas di bagian berikutnya, sebenarnya sudah tertulis dalam hukum Indonesia.
Aturan Indonesia yang Sudah Berlaku untuk Chatbot
Indonesia belum punya aturan khusus chatbot, tetapi tiga undang-undang sudah berlaku. Pasal 21 UU ITE membebankan akibat hukum transaksi lewat agen elektronik kepada penyelenggaranya, UU Perlindungan Konsumen mewajibkan informasi yang benar dan ganti rugi, dan Pasal 10 UU PDP memberi hak keberatan atas keputusan otomatis.
Fondasi pertama adalah Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE), yang telah diubah terakhir dengan Undang-Undang Nomor 1 Tahun 2024. Pasal 1 angka 8 mendefinisikan Agen Elektronik sebagai "perangkat dari suatu Sistem Elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu Informasi Elektronik tertentu secara otomatis yang diselenggarakan oleh Orang." Chatbot yang menjawab pertanyaan, membuat pesanan, atau memproses pembatalan secara otomatis jelas cocok dengan definisi ini.
Pasal 21 ayat 2 huruf c UU ITE lalu berbunyi: "jika dilakukan melalui Agen Elektronik, segala akibat hukum dalam pelaksanaan Transaksi Elektronik menjadi tanggung jawab penyelenggara Agen Elektronik." Ayat 3 menambahkan bahwa kerugian akibat gagal beroperasinya agen elektronik karena tindakan pihak ketiga terhadap sistem juga menjadi tanggung jawab penyelenggara. Pengecualian di ayat 4 dan 5 hanya berlaku jika kerugian timbul karena kelalaian pengguna atau keadaan memaksa. Dengan kata lain, logika tribunal Kanada dalam kasus Air Canada sudah tertulis di hukum Indonesia sejak 2008.
UU 1/2024 juga menyisipkan Pasal 40A yang memberi pemerintah kewenangan memerintahkan penyelenggara sistem elektronik melakukan penyesuaian pada sistemnya atau tindakan tertentu, demi ekosistem digital yang adil, akuntabel, aman, dan inovatif. Penyelenggara yang tidak melaksanakan perintah itu dapat dikenai sanksi administratif. Ketentuan ini membuka ruang bagi pemerintah untuk menertibkan chatbot yang dinilai merugikan publik.
Fondasi kedua adalah Undang-Undang Nomor 8 Tahun 1999 tentang Perlindungan Konsumen. Pasal 4 huruf c memberi konsumen "hak atas informasi yang benar, jelas, dan jujur" mengenai kondisi dan jaminan barang atau jasa, sementara Pasal 7 huruf b mewajibkan pelaku usaha memberikan informasi yang benar, jelas, dan jujur. Pasal 19 ayat 1 mewajibkan pelaku usaha memberi ganti rugi atas kerugian konsumen. Menurut Pasal 60, badan penyelesaian sengketa konsumen dapat menjatuhkan sanksi administratif berupa ganti rugi paling banyak 200 juta rupiah.
Fondasi ketiga adalah Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP). Pasal 10 ayat 1 memberi subjek data pribadi hak untuk mengajukan keberatan atas pengambilan keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Ini relevan ketika chatbot tidak sekadar menjawab, tetapi juga memutuskan, misalnya menolak klaim garansi, menolak pengembalian dana, atau menilai kelayakan pinjaman. Ketentuan lebih lanjut soal tata cara keberatannya diatur dalam peraturan pemerintah.
Gabungan ketiga undang-undang ini menghasilkan gambaran yang konsisten. Perusahaan yang memasang chatbot adalah penyelenggara agen elektronik, pelaku usaha yang wajib jujur kepada konsumen, sekaligus pengendali data pribadi pelanggan. Tidak ada celah hukum yang memungkinkan perusahaan berkata "itu kesalahan AI, bukan kami".
Diagram kewajiban chatbot layanan pelanggan di Uni Eropa dan Indonesia. Diolah Burung Hantu Infratek dari AI Act, pedoman Komisi Eropa, dan JDIH BPK.
Risiko Terbesar Chatbot Layanan Pelanggan bagi Perusahaan
Risiko terbesar chatbot layanan pelanggan adalah jawaban keliru yang dianggap janji perusahaan, keputusan otomatis tanpa jalur keberatan, kebocoran data pribadi, dan pelanggan yang merasa tertipu karena tidak tahu sedang berbicara dengan mesin. Setiap risiko ini punya dasar hukum di Indonesia maupun di Uni Eropa.
Model bahasa besar dirancang untuk menghasilkan jawaban yang terdengar meyakinkan, bukan jawaban yang dijamin benar. Dalam layanan pelanggan, kombinasi ini berbahaya karena pelanggan cenderung memercayai kanal resmi perusahaan. Berikut risiko yang paling sering muncul dan perlu dipetakan oleh tim hukum, tim produk, dan tim layanan pelanggan secara bersama-sama.
Informasi kebijakan yang salah. Chatbot mengarang syarat pengembalian dana, masa garansi, atau tarif khusus yang tidak ada. Kasus Air Canada adalah contoh klasiknya, dan di Indonesia hal ini menyentuh Pasal 4 huruf c dan Pasal 7 huruf b UU Perlindungan Konsumen.
Janji yang mengikat perusahaan. Chatbot yang bisa membuat pesanan, memberi diskon, atau menyetujui pembatalan menjalankan transaksi elektronik. Menurut Pasal 21 UU ITE, akibat hukumnya menjadi tanggung jawab penyelenggara agen elektronik, yaitu perusahaan.
Keputusan otomatis tanpa jalur keberatan. Penolakan klaim atau pengembalian dana yang sepenuhnya diputuskan mesin bisa memicu hak keberatan menurut Pasal 10 UU PDP. Tanpa jalur peninjauan oleh manusia, perusahaan sulit menanggapi keberatan itu dengan layak.
Kebocoran data pribadi. Pelanggan sering mengetik nomor identitas, alamat, atau detail rekening di jendela obrolan. Jika log percakapan dikirim ke vendor model tanpa perjanjian dan pengamanan yang memadai, perusahaan menghadapi risiko di bawah UU PDP.
Pelanggan merasa tertipu. Avatar manusia dan nama orang tanpa pemberitahuan AI dapat dinilai menyesatkan. Untuk pengguna di Eropa, praktik ini langsung berbenturan dengan Pasal 50 ayat 1 AI Act, dengan ancaman denda hingga 15 juta euro atau 3 persen omzet global.
Manipulasi lewat prompt. Pengguna iseng atau penipu bisa memancing chatbot memberi janji tertulis, membocorkan instruksi internal, atau mengeluarkan konten yang mempermalukan merek. Tangkapan layar percakapan semacam itu cepat menyebar di media sosial.
Satu pola yang menghubungkan semua risiko di atas adalah ketiadaan pemilik yang jelas. Banyak chatbot dipasang oleh tim pemasaran atau tim TI sebagai proyek efisiensi, lalu dibiarkan berjalan tanpa ada yang rutin memeriksa isi jawabannya. Ketika terjadi sengketa, tidak ada yang bisa menjelaskan sumber jawaban, versi kebijakan yang dipakai, atau siapa yang menyetujui perubahan perilaku chatbot.
Risiko juga meningkat ketika chatbot berkembang menjadi agen AI yang bisa bertindak. Chatbot yang hanya menjawab pertanyaan bisa salah bicara, tetapi agen yang bisa memproses pengembalian dana atau mengubah data akun bisa salah bertindak. Karena itu pedoman Komisi Eropa secara khusus menyebut agen AI di butir 31, dan karena itu pula Pasal 21 UU ITE menjadi makin relevan bagi perusahaan Indonesia yang mulai memakai agen untuk transaksi.
Cara Menyiapkan Chatbot Layanan Pelanggan yang Patuh dan Dipercaya
Chatbot layanan pelanggan yang patuh dimulai dari lima hal: pemberitahuan AI yang jelas di awal percakapan, jawaban yang bersumber dari dokumen kebijakan resmi, jalur cepat ke petugas manusia, log percakapan yang tersimpan aman, serta pemilik proses yang bertanggung jawab memeriksa kualitas jawaban secara rutin.
Langkah pertama adalah memetakan posisi hukum chatbot. Tanyakan apakah chatbot hanya menjawab pertanyaan atau juga menjalankan transaksi, apakah ia memutuskan hal yang berdampak bagi pelanggan, dan apakah ada pengguna dari Uni Eropa. Jawaban atas tiga pertanyaan ini menentukan aturan mana yang paling relevan, mulai dari Pasal 21 UU ITE, UU Perlindungan Konsumen, Pasal 10 UU PDP, hingga Pasal 50 AI Act.
Langkah kedua adalah merancang pemberitahuan. Tulis pesan pembuka yang menyebut kata "AI" secara eksplisit, nama perusahaan yang diwakili, dan cara menghubungi manusia. Tambahkan penanda tetap di jendela obrolan. Hindari nama dan foto manusia untuk chatbot, atau setidaknya jangan biarkan identitas itu berdiri tanpa keterangan AI. Untuk audiens rentan seperti lansia, buat pemberitahuan lebih menonjol, karena pedoman Eropa tidak mengizinkan pengecualian "sudah jelas" bagi kelompok ini.
Langkah ketiga adalah mengendalikan sumber jawaban. Batasi chatbot agar menjawab soal kebijakan hanya dari dokumen resmi yang dikelola tim terkait, misalnya lewat pendekatan retrieval-augmented generation dengan basis pengetahuan internal. Setiap kali kebijakan berubah, basis pengetahuan harus diperbarui di hari yang sama. Untuk pertanyaan yang tidak ada jawabannya di dokumen, chatbot sebaiknya mengaku tidak tahu dan menawarkan petugas manusia, bukan menebak.
Langkah keempat adalah membatasi kewenangan bertindak. Tentukan tindakan apa saja yang boleh dilakukan chatbot tanpa persetujuan manusia, misalnya mengecek status pesanan, dan tindakan apa yang wajib melewati petugas, misalnya menolak klaim atau memberi kompensasi di atas batas tertentu. Pembagian ini membantu perusahaan menjawab keberatan pelanggan menurut Pasal 10 UU PDP dan mengurangi risiko transaksi yang tidak diinginkan.
Langkah kelima adalah tata kelola harian. Simpan log percakapan dengan aman sesuai prinsip pelindungan data, karena log ini menjadi bukti utama ketika terjadi sengketa. Tunjuk pemilik proses dari tim layanan pelanggan, bukan hanya tim TI. Lakukan uji berkala dengan pertanyaan jebakan, misalnya pertanyaan tentang kebijakan yang tidak ada, untuk melihat apakah chatbot mengarang jawaban. Untuk perusahaan yang ingin langkah lebih sistematis, kerangka seperti ISO/IEC 42001 bisa menjadi payung manajemen AI secara keseluruhan.
Biaya kelima langkah ini jauh lebih kecil daripada biaya satu sengketa yang viral. Kasus Air Canada hanya bernilai ratusan dolar, tetapi namanya dikutip di berbagai negara sebagai contoh chatbot yang gagal. Integrator AI lokal yang berpengalaman bisa membantu merancang arsitektur chatbot yang memisahkan pengetahuan, kewenangan, dan pemberitahuan sejak awal, sehingga kepatuhan tidak menjadi tambalan di belakang.
Kesimpulan
Tahun 2026 menutup era chatbot layanan pelanggan yang bebas dari aturan. Uni Eropa mewajibkan chatbot memperkenalkan diri sebagai AI sejak 2 Agustus 2026, lengkap dengan pedoman Komisi Eropa yang menolak label samar dan syarat dan ketentuan sebagai satu-satunya pemberitahuan. Di Indonesia, Pasal 21 UU ITE, UU Perlindungan Konsumen, dan Pasal 10 UU PDP sudah lama menempatkan tanggung jawab jawaban dan tindakan chatbot di pundak perusahaan, sejalan dengan prinsip yang ditegaskan dalam kasus Air Canada.
Bagi pemimpin bisnis, pertanyaannya bukan lagi apakah perlu memasang chatbot, tetapi apakah chatbot yang sudah berjalan bisa dipertanggungjawabkan. Mulailah dengan audit sederhana: baca pesan pembuka chatbot Anda, uji dengan pertanyaan yang jawabannya tidak ada di kebijakan, dan pastikan ada nama orang yang bertanggung jawab atas kualitas jawabannya. Chatbot yang jujur tentang dirinya dan akurat dalam jawabannya justru menjadi alat membangun kepercayaan pelanggan.
(Burung Hantu Infratek / Berbagai Sumber)
⚠️ Artikel ini seluruhnya diriset, ditulis, dan dikembangkan oleh AI internal Burung Hantu Infratek.
🦉 Burung Hantu Infratek adalah software house dan system integrator yang sudah berpengalaman lebih dari 5 tahun dalam pengembangan dan implementasi generative AI pada berbagai perusahaan dan institusi.
Sumber dan Referensi
[3] Article 50 Guidelines - AI Resources
[5] Moffatt v. Air Canada, 2024 BCCRT 149 - Civil Resolution Tribunal
[6] UU Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik - JDIH BPK
[7] UU Nomor 1 Tahun 2024 tentang Perubahan Kedua atas UU ITE - JDIH BPK
[8] UU Nomor 8 Tahun 1999 tentang Perlindungan Konsumen - JDIH BPK
[9] UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi - JDIH BPK