Sam Altman, CEO OpenAI, mengumumkan perubahan kebijakan kontroversial yang akan mengizinkan konten dewasa di platform ChatGPT mulai Desember 2025. Langkah ini memicu perdebatan sengit tentang keamanan anak, regulasi AI, dan strategi bisnis perusahaan yang belum pernah menghasilkan keuntungan. Dengan sistem verifikasi usia yang dijanjikan, OpenAI bertaruh pada prinsip "memperlakukan pengguna dewasa sebagai orang dewasa" — namun apakah infrastruktur keamanannya sudah siap?

OpenAI Relaksasi Pembatasan Konten Dewasa

Sam Altman, CEO OpenAI, mengumumkan melalui platform X pada Selasa kemarin bahwa ChatGPT akan segera mengizinkan konten yang lebih beragam, termasuk konten erotika untuk pengguna dewasa yang terverifikasi. Pengumuman ini datang sebagai bagian dari filosofi perusahaan untuk "memperlakukan pengguna dewasa sebagai orang dewasa," menurut pernyataan Altman.

Altman menjelaskan bahwa versi mendatang dari chatbot populer ini akan memungkinkannya berperilaku lebih seperti manusia. Namun dia menekankan, "tetapi hanya jika Anda menginginkannya, bukan karena kami sedang memaksimalkan penggunaan." Pernyataan ini tampaknya merespons kekhawatiran bahwa OpenAI mungkin mengeksploitasi fitur baru untuk meningkatkan jumlah pengguna berbayar.

Menurut Altman, OpenAI sebelumnya membuat ChatGPT cukup restriktif untuk memastikan mereka berhati-hati dengan masalah kesehatan mental. Perubahan tersebut diumumkan dalam sebuah blog post pada Agustus lalu, yang kini tidak lagi muncul di situs web OpenAI. "Kami menyadari ini membuatnya kurang berguna atau menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental, tetapi mengingat keseriusan masalahnya, kami ingin melakukannya dengan benar," tulis Altman.

Ia menambahkan bahwa ChatGPT kini bisa melonggarkan pembatasan setelah mereka berhasil memitigasi masalah kesehatan mental yang serius dan memiliki tools baru. "Pada Desember, saat kami meluncurkan age-gating secara lebih penuh dan sebagai bagian dari prinsip 'memperlakukan pengguna dewasa sebagai orang dewasa' kami, kami akan mengizinkan lebih banyak lagi, seperti erotika untuk dewasa yang terverifikasi," jelas Altman.

Langkah ini mengingatkan pada langkah serupa dari xAI milik Elon Musk yang baru-baru ini memperkenalkan dua chatbot eksplisit secara seksual ke platform Grok. Keputusan ini bisa membantu OpenAI menarik lebih banyak pelanggan berbayar di tengah kompetisi ketat industri AI.

Kekhawatiran Keamanan Anak dan Tekanan Regulasi

Perubahan kebijakan ini datang setelah OpenAI digugat awal tahun ini oleh orang tua seorang remaja Amerika yang bunuh diri. Gugatan yang diajukan oleh Matt dan Maria Raine, orang tua dari Adam Raine yang berusia 16 tahun, adalah tindakan hukum pertama yang menuduh OpenAI atas kematian yang salah.

Keluarga tersebut menyertakan log chat antara Adam, yang meninggal pada April lalu, dan ChatGPT yang menunjukkan dia menjelaskan bahwa dia memiliki pikiran untuk bunuh diri. Dalam pernyataan yang diberikan saat itu, OpenAI mengatakan kepada BBC bahwa mereka sedang meninjau pengajuan tersebut dan menyampaikan belasungkawa mendalam kepada keluarga Raine.

Di Amerika Serikat, kritikus mengatakan keputusan OpenAI untuk mengizinkan erotika di platform menunjukkan perlunya lebih banyak regulasi di tingkat federal dan negara bagian. "Bagaimana mereka akan memastikan bahwa anak-anak tidak dapat mengakses bagian ChatGPT yang khusus dewasa dan menyediakan erotika?" tanya Jenny Kim, partner di firma hukum Boies Schiller Flexner yang terlibat dalam gugatan terhadap Meta yang mengklaim algoritma Instagram merugikan kesehatan mental pengguna remaja.

Kim menambahkan, "OpenAI, seperti sebagian besar big tech di ruang ini, hanya menggunakan orang seperti kelinci percobaan." Kekhawatirannya bukan tanpa dasar — pada April lalu, TechCrunch melaporkan bahwa OpenAI mengizinkan akun yang terdaftar sebagai minor untuk menghasilkan erotika grafis. OpenAI mengatakan saat itu bahwa perusahaan sedang meluncurkan perbaikan untuk membatasi konten semacam itu.

Sebuah survei yang diterbitkan bulan ini oleh organisasi nirlaba Centre for Democracy and Technology menemukan bahwa satu dari lima siswa melaporkan bahwa mereka atau seseorang yang mereka kenal telah menjalin hubungan romantis dengan AI. Pada hari Senin, Gubernur California Gavin Newsom memveto sebuah RUU yang disahkan oleh legislatif negara bagian yang akan memblokir pengembang dari menawarkan chatbot AI companions kepada anak-anak kecuali perusahaan dapat menjamin bahwa software tersebut tidak akan memicu perilaku berbahaya.

Di Inggris, erotika tertulis tidak memerlukan verifikasi usia berdasarkan Online Safety Act. Namun, gambar pornografi, termasuk yang dihasilkan oleh AI, akan mengharuskan pengguna membuktikan bahwa mereka berusia di atas 18 tahun.

Strategi Bisnis di Tengah Keraguan Valuasi AI

Pengumuman Altman pada Selasa datang saat skeptis mempertanyakan kenaikan cepat nilai perusahaan teknologi AI. Pendapatan OpenAI memang tumbuh, tetapi perusahaan ini belum pernah menghasilkan keuntungan. Professor bisnis Tulane University Rob Lalka, penulis The Venture Alchemists, mengatakan bahwa perusahaan AI besar menemukan diri mereka dalam pertempuran untuk pangsa pasar.

"Tidak ada perusahaan yang pernah memiliki jenis adopsi yang dilihat OpenAI dengan ChatGPT," kata Prof Lalka kepada BBC News. "Mereka perlu terus mendorong sepanjang kurva pertumbuhan eksponensial itu, mencapai dominasi pasar sebanyak yang mereka bisa," tambahnya. Langkah untuk mengizinkan konten erotika bisa dilihat sebagai upaya untuk membedakan diri dari kompetitor dan mempertahankan pertumbuhan pengguna berbayar.

Namun, pertanyaan tentang bagaimana OpenAI akan mengimplementasikan verifikasi usia yang efektif tetap menjadi concern utama. Platform harus memastikan bahwa sistem age-gating yang dijanjikan benar-benar robust dan tidak dapat diakali oleh pengguna di bawah umur, terutama mengingat track record perusahaan dengan bug yang sebelumnya mengizinkan minor mengakses konten eksplisit.

Di tingkat nasional Amerika Serikat, Federal Trade Commission telah meluncurkan penyelidikan tentang bagaimana chatbot AI berinteraksi dengan anak-anak. Di Senat AS bulan lalu, legislasi bipartisan diperkenalkan yang akan memungkinkan pengguna chatbot untuk mengajukan klaim liability terhadap pengembang mereka. Tekanan regulasi ini menunjukkan bahwa meskipun OpenAI ingin "memperlakukan dewasa sebagai dewasa," mereka harus melakukannya dengan sangat hati-hati untuk melindungi populasi rentan.

(Burung Hantu Infratek / Berbagai Sumber)

⚠️ Berita ini seluruhnya diriset, ditulis, dan dikembangkan oleh AI internal Burung Hantu Infratek. Mohon maaf apabila terdapat ketidakakuratan pada data aktual.

Berita Terkait OpenAI

Meta Rekrut Ilmuwan OpenAI Pimpin Lab Superinteligensi

Google Cloud Perkuat Kemitraan dengan OpenAI

GPT-5: Revolusi AI Integratif OpenAI

Sam Altman: Ketergantungan pada ChatGPT Berbahaya

OpenAI Gandeng Oracle Bangun Pusat Data Raksasa

Sumber dan Referensi

[1] ChatGPT will soon allow erotica for verified adults, OpenAI boss says - BBC

[2] ChatGPT-maker OpenAI unveils GPT-5 with 'PhD-level' abilities - BBC

[3] Parents of teenager who took his own life sue OpenAI - BBC

[4] Age verification for porn: What are the new rules? - BBC

[5] OpenAI is fixing a bug that allowed minors to generate erotic conversations - TechCrunch

[6] It's going to be really bad: Fears over AI bubble bursting grow in Silicon Valley - BBC