Peneliti Ambil Alih Akun Kokoro di Hugging Face Lewat Domain Kedaluwarsa

Peneliti keamanan Alon Hertz dan timnya mengambil alih akun Hugging Face yang menerbitkan Kokoro, model text-to-speech open-weight, hanya dengan mendaftarkan domain hexgrad.com yang sudah lepas dari pemiliknya. BleepingComputer melaporkannya pada 17 November 2026. Setelah mereset kata sandi lewat email di domain itu, tim menyetel ulang bobot Kokoro dalam 87 detik memakai GPU gaming, sehingga suara yang keluar berbeda dari teks masukan. Bobot yang diubah tidak diunggah, tetapi model ini diunduh sekitar 13 juta kali per bulan, sehingga risiko rantai pasok model terbuka terasa nyata.
Bagaimana Peneliti Mengambil Alih Akun Kokoro di Hugging Face?
Peneliti mengambil alih akun itu dengan mendaftarkan domain hexgrad.com yang sudah lapse, lalu meminta reset kata sandi ke alamat email di domain tersebut. Alamat itu tercantum di berkas DONATE.md milik Kokoro, sehingga email reset masuk ke tangan peneliti dan kendali akun penerbit model berpindah tanpa perlu meretas sistem apa pun.
Menurut BleepingComputer, pendaftaran domain dilakukan pada akhir pekan sebelum laporan terbit. Hertz dan timnya lalu menguasai akun yang menerbitkan Kokoro, model dengan 82 juta parameter yang menurut halaman modelnya dilatih dengan biaya sekitar 1.000 dolar AS waktu GPU A100. Pengembangnya, Hexgrad, terakhir mendorong pembaruan pada April 2025, sehingga email reset yang mencurigakan mudah luput dari perhatian.
Hertz menekankan bahwa titik lemahnya ada di platform. "Hugging Face tidak memeriksa penerbit. Platform ini tidak memverifikasi apakah sebuah akun masih dipegang pemilik aslinya yang sah, atau oleh siapa pun yang diam-diam mengambilnya pekan lalu," kata Alon Hertz, peneliti keamanan. Ia sudah melapor ke Hugging Face dan belum menerima jawaban, dan BleepingComputer pun belum mendapat tanggapan.
Dokumentasi Hugging Face menyebut autentikasi dua faktor sebagai fitur pilihan, yang harus diaktifkan sendiri oleh pengguna. TechTimes mencatat belum diketahui apakah akun Kokoro memakainya. Dokumentasi itu juga tidak menjelaskan pemeriksaan apa yang berlaku untuk reset kata sandi lewat email di domain kustom.
Mengapa Perubahan Bobot Model Sulit Terdeteksi?
Bobot model adalah berkas biner tanpa kode yang dijalankan sendiri, sehingga pemindai malware tidak menemukan tanda tangan berbahaya ketika isinya diubah. Perubahan hanya menggeser perilaku model, misalnya mengucapkan kalimat lain dari teks yang diberikan, sementara aplikasi pembungkusnya tetap utuh dan berjalan seperti biasa.
Dalam uji lokal, tim menyetel Kokoro selama 87 detik di GPU gaming. Salah satu contoh yang dilaporkan TechTimes mengubah resep kue menjadi resep omelet. Hasilnya meyakinkan karena tidak ada yang berubah di sekitar model, mulai dari teks, berkas suara, sampai konfigurasi, sehingga tidak ada celah yang jelas untuk ditandai tinjauan kode.
"Kami mengubah apa yang diucapkan model ini dengan menyetel bobot sarafnya. Teks masukan sama. File suara sama. Konfigurasi sama. Kode inferensi sama, tidak satu baris pun di aplikasi yang menjalankannya kami sentuh," kata Hertz. Ia menilai pembaruan semacam itu tetap membawa ciri rilis sah, dan uji dari akun lain menunjukkan Hugging Face tidak menandainya sebagai mencurigakan.
Klaim bahwa tidak ada pemindai yang akan menangkap perubahan ini adalah posisi para peneliti dan belum diverifikasi pihak independen, menurut TechTimes. Hash SHA-256 di halaman model juga baru berguna jika dibandingkan dengan nilai yang dicatat sebelum akun dikuasai pihak lain, karena penerbit yang mengendalikan akun biasanya mengendalikan teks di sebelah berkas itu.
Seberapa Luas Kokoro Dipakai dan Siapa yang Terpapar?
Halaman model Kokoro di Hugging Face mencatat 13.134.554 unduhan dalam sebulan terakhir, angka hitungan platform dan bukan audit independen. Menurut BleepingComputer, perangkat pengembang dari Google, NVIDIA, dan Intel mendukung Kokoro, sedangkan AMD dan Amazon Web Services menerbitkan panduan penggunaannya dalam alur kerja agen AI.
Dukungan di perangkat pengembang tidak berarti perusahaan-perusahaan itu menarik revisi yang bisa dibajak di lingkungan produksi. TechTimes menekankan perbedaannya: mendukung sebuah model di toolkit atau tutorial berbeda dari mengambilnya dari cabang yang bergerak saat aplikasi berjalan. Paparan terbesar ada pada aplikasi yang mengunduh bobot otomatis dari cabang utama.
Salinan turunan menambah luas paparan. Halaman model mencatat 129 versi kuantisasi, 88 versi finetune, dan 12 adapter yang dibuat dari Kokoro. Setiap konversi yang dibuat setelah unggahan yang dirusak akan mewarisi isi sumbernya saat itu, sehingga satu akun yang dikuasai bisa merambat lewat cermin, paket, dan panduan penerapan.
Sejauh ini tidak ada rilis beracun yang dilaporkan ke publik. Para peneliti menyatakan bobot yang diubah tidak diunggah karena dapat membahayakan banyak sistem produksi, dan TechTimes menegaskan ini demonstrasi terkendali, bukan serangan terkonfirmasi. Hertz mengingatkan bahwa akun yang tidak dibajak pun berisiko, sebab siapa pun bisa merawat citra sah lebih dulu lalu mendorong pembaruan jahat belakangan.
Apa yang Perlu Dilakukan Perusahaan Pengguna Model Open-Weight?
Perusahaan sebaiknya mengunci model pada commit tertentu, bukan cabang yang bergerak, lalu membandingkan berkas unduhan dengan hash SHA-256 yang dicatat sebelum ada masalah. Salinan internal bobot yang sudah disetujui dan uji keluaran model pada setiap pembaruan melengkapi langkah itu, karena pemindai malware saja tidak menangkap perubahan makna.
TechTimes merangkum enam praktik umum yang bukan panduan resmi Hugging Face: kunci revisi, verifikasi hash, cermin dan tinjau bobot, uji perilaku, audit unduhan otomatis, dan awasi pengelola model. Untuk model suara, ujinya sederhana, yaitu memastikan audio yang dihasilkan cocok dengan teks sumbernya. Menurut TechTimes, Unit 42 milik Palo Alto Networks juga menyarankan version pinning.
Sisi penerbit punya pekerjaan rumah sendiri. Sejak awal Juni 2025, PyPI menandai lebih dari 1.800 alamat email pada domain yang memasuki masa kedaluwarsa sebagai belum terverifikasi, dan menolak reset kata sandi ke alamat itu. PyPI menyarankan pemegang akun menambah email kedua dari penyedia besar dan mengaktifkan autentikasi dua faktor, langkah yang masuk akal juga bagi akun model.
Bagi perusahaan, BUMN, dan pengembang di Indonesia yang membangun voice agent, pusat layanan pelanggan, atau fitur pembaca teks dengan model open-weight, pelajarannya praktis: catat nama model, commit, dan hash di daftar aset, simpan salinan internal, dan jangan biarkan produksi menarik bobot otomatis dari cabang utama. Kasus ini juga mengingatkan bahwa domain email penerbit pihak ketiga adalah bagian dari rantai kepercayaan yang perlu dipantau.
(Burung Hantu Infratek / Berbagai Sumber)
Foto sampul: ilustrasi dibuat dengan AI, bukan foto produk atau kejadian asli.
⚠️ Berita ini seluruhnya diriset, ditulis, dan dikembangkan dengan bantuan AI internal Burung Hantu Infratek.
🦉 Burung Hantu Infratek adalah software house dan system integrator yang sudah berpengalaman lebih dari 5 tahun dalam pengembangan dan implementasi generative AI pada berbagai perusahaan dan institusi.
Berita Terkait Hugging Face
📊 DOJ Selidiki Akuisisi Hugging Face oleh Nvidia Senilai $12,93 Miliar
🛡️ Dua Rilis Palsu agent-framework Microsoft di PyPI Curi Kredensial Azure dan CI
🔥 Calif Ungkap Java4Shell, Celah OpenJDK yang Ditemukan Codex dalam Satu Jam
💡 Wiz dan Xint Temukan Celah NGINX Berusia 11 Tahun dengan Bantuan AI
Sumber dan Referensi
[1] Researchers hijack Hugging Face account for popular Kokoro AI model - BleepingComputer
[3] Preventing Domain Resurrection Attacks - The Python Package Index Blog
[4] Two-Factor Authentication (2FA) - Hugging Face Hub documentation
