Dragos Tanam 2 Juta Jebakan di Prompt AI dan Temukan Tiga Penyedia Dibobol

Dragos Tanam 2 Juta Jebakan di Prompt AI dan Temukan Tiga Penyedia Dibobol

Peneliti keamanan Dragos menyebar sekitar 2 juta prompt berisi kredensial palsu ke layanan AI selama lima bulan, dari Juli sampai November 2026, lalu menemukan bukti bahwa tiga penyedia hosting AI telah dibobol penyerang. Hasilnya dipublikasikan pada 19 November 2026 oleh Chief Research Officer Dragos, HD Moore. Temuan ini penting karena label privasi seperti Zero Data Retention terbukti tidak melindungi data ketika penyedia sudah dikuasai penyerang, dan sebagian perantara ikut menyalin prompt pelanggan.

Bagaimana Jebakan Digital Itu Menangkap Pencuri Prompt?

Dragos menyisipkan canary token, yaitu kunci akses, nama domain, dan tautan palsu yang hanya muncul di satu permintaan, ke sekitar 2 juta prompt. Begitu seseorang memakai salah satunya, Dragos tahu persis prompt, model, router, dan setelan privasi mana yang membocorkannya.

Menurut blog Dragos, kunci AWS yang dipakai adalah kunci sungguhan yang terhubung ke akun kosong dengan pencatatan lengkap. Setiap kunci dikirim hanya dalam satu permintaan ke satu penyedia, sehingga pemakaian kunci itu di tempat lain langsung menunjuk titik kebocorannya. Eksperimen dimulai dengan Thinkst Canarytokens pada Juli, lalu berkembang menjadi layanan khusus yang membuat identitas unik untuk tiap prompt.

Cara kerja router membuat jejak ini penting. Satu endpoint API meneruskan permintaan ke kumpulan model di berbagai penyedia, dan jalurnya sering melewati lebih dari satu router sebelum sampai ke server tujuan. Dragos mencatat bahwa setiap hop dapat melihat prompt dan jawaban secara utuh, sementara sebagian pasar terbuka memberikan permintaan kepada penjual dengan harga paling rendah.

Dragos juga membuat semacam traceroute untuk inferensi AI. Tim menyertakan URL gambar yang mengarah ke servernya, lalu mengirim permintaan yang sedikit rusak agar tiap router membungkus pesan galat dari hop berikutnya. Dari sekitar 2.000 rute yang ditelusuri, beberapa ratus memuat sistem yang tidak teridentifikasi, dan segelintir mengirim gambar ke perusahaan yang tidak ada di jalur yang diiklankan.

Apa yang Dicuri dari Tiga Penyedia Hosting dan Para Penjual Perantara?

Penyerang aktif mencuri data dari tiga penyedia hosting AI, dan tidak satu pun penyedia tahu sampai Dragos memberi tahu. Insiden paling awal terjadi pada pertengahan Juli 2026. Pencurian terbesar melibatkan sekitar 200 kunci AWS umpan yang dikirim dalam beberapa jendela singkat pada akhir Oktober.

Setiap permintaan yang Dragos kirim dalam jendela itu dicuri, termasuk permintaan yang ditolak penyedia sebelum model berjalan. Itu menandakan penyerang menyalin permintaan di pintu depan penyedia, bukan di dalam tumpukan inferensi. Kunci umpan lalu diuji, dipakai untuk mendaftar bucket S3 dan menelusuri Secrets Manager serta Parameter Store, dan menghasilkan puluhan ribu panggilan API AWS.

Pada dua pembobolan lain, sebagian permintaan yang dicuri sudah berlabel Zero Data Retention. “Bendera privasi tidak menolong kalau penyerangnya sudah ada di dalam,” kata HD Moore, Chief Research Officer Dragos. Penyerang yang sama tampaknya membobol dua penyedia sekaligus, dan pada 1 November menambahkan ARTEX, kerangka kerja uji penetrasi berbasis LLM yang hanya dipakai untuk memastikan kunci masih aktif.

Temuan kedua tidak butuh celah keamanan. Penjual di pasar inferensi cukup memasang harga model termurah, mengaktifkan pencatatan permintaan, lalu menunggu. Dalam satu kasus, dua prompt lewat satu penjual dan sekitar satu setengah hari kemudian seseorang dari koneksi internet rumah membuka kedua URL rahasia dan menebak nama pengguna di halaman login. Prompt serupa yang lewat penjual lain tidak tersentuh.

Mengapa Label Privasi dan Zero Data Retention Tidak Cukup?

Label privasi hanya mengikat penyedia pertama. Dragos menemukan sebuah lab AI di Tiongkok mengambil URL rahasia dari lebih dari separuh prompt yang dikirim ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan berlabel tanpa pengumpulan data atau Zero Data Retention.

Beberapa penyedia Amerika Serikat menjual ulang model lab itu, sehingga prompt yang dikirim ke mereka memicu pengambil data yang sama. Dalam kasus paling ganjil, tautan rahasia muncul di kanal obrolan Feishu 24 hari setelah permintaan, lalu dibuka dari tiga komputer dan tiga ponsel di Beijing dan Shanghai dalam waktu dua menit.

Penyedia besar Amerika juga bermasalah menurut Dragos. Satu penyedia terus merayapi URL rahasia lebih dari dua bulan setelah dipakai dalam satu panggilan inferensi ke endpoint pencariannya, dan penyedia lain menjalankan pengambil data yang kembali berhari-hari setelah tiap permintaan, apa pun router yang dipakai.

Apa yang Harus Dilakukan Perusahaan di Indonesia Setelah Temuan Ini?

Dragos menyarankan lima langkah: jalankan model sendiri untuk pekerjaan paling sensitif, pilih kontrak langsung dengan penyedia kelas satu, tentukan sendiri penyedia hulu di router, jauhi pasar penjual ulang, dan tanam canary milik sendiri di konteks agen.

“Ke mana prompt Anda pergi adalah sebuah keputusan, dan kalau Anda tidak mengambilnya, harga terendah yang akan mengambilnya untuk Anda,” kata HD Moore, Chief Research Officer Dragos. Menjalankan model sendiri tidak murah: Mac Studio 512 GB mulai 22.299 dolar AS, DGX Spark 6.950 dolar AS, dan server delapan GPU B300 sekitar 570.000 dolar AS atau lebih.

Aturan di Indonesia ikut bicara. UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, berlaku sejak 17 Oktober 2022, mewajibkan pengendali data mengawasi setiap pihak yang terlibat pemrosesan (Pasal 37) dan mencegah akses tidak sah (Pasal 39 ayat 1). Kegagalan pelindungan wajib diberitahukan tertulis paling lambat 3 x 24 jam kepada subjek data dan lembaga (Pasal 46 ayat 1), dengan denda administratif paling tinggi 2 persen dari pendapatan tahunan (Pasal 57 ayat 3).

Bagi perusahaan dan BUMN di Indonesia, langkah awal yang murah adalah memetakan ke mana aplikasi dan agen AI mengirim prompt, memastikan tidak ada kredensial atau data pelanggan di konteksnya, dan menguji sendiri apakah setelan retensi benar-benar berlaku, bukan hanya percaya pada label di dasbor penyedia.

(Burung Hantu Infratek / Berbagai Sumber)


⚠️ Berita ini seluruhnya diriset, ditulis, dan dikembangkan dengan bantuan AI internal Burung Hantu Infratek.

🦉 Burung Hantu Infratek adalah software house dan system integrator yang sudah berpengalaman lebih dari 5 tahun dalam pengembangan dan implementasi generative AI pada berbagai perusahaan dan institusi.


Berita Terkait Keamanan Prompt AI

🛡️ Peneliti Ambil Alih Akun Kokoro di Hugging Face Lewat Domain Kedaluwarsa

⚡ Agen AI Cairn Temukan Zero-Day dan Rebut Server Universitas dalam 11 Menit

🚫 OpenAI Buka Data Residency Mandiri bagi Proyek API, Indonesia Belum Kebagian

🔥 AI Anthropic Dimanfaatkan Peretas untuk Pencurian Data Besar-besaran


Sumber dan Referensi

[1] Three breaches, endless leaks: Your AI supply chain needs canaries - Dragos

[2] Two Million AI Prompts Expose Breaches, Data Theft and Supply Chain Failures - CYBR.SEC.Media

[3] HD Moore's canary experiment exposes data leaks across the AI supply chain - Crypto Briefing

[4] Undang-undang (UU) Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi - JDIH BPK

    Dragos Tanam 2 Juta Jebakan di Prompt AI dan Temukan Tiga Penyedia Dibobol | Burung Hantu Infratek