FILE – Elon Musk mendengarkan Presiden Donald Trump berbicara dalam konferensi pers di Ruang Oval Gedung Putih, 30 Mei 2025, di Washington. Evan Vucci/AP menyembunyikan keterangan
beralih keterangan
Evan Vucci/AP
KUALA LUMPUR, Malaysia — Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk, setelah pihak berwenang mengatakan bahwa Grok disalahgunakan untuk menghasilkan gambar seksual eksplisit dan non-konsensual.
Langkah-langkah ini mencerminkan meningkatnya kekhawatiran global terhadap alat AI generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara upaya perlindungan yang ada gagal mencegah penyalahgunaannya. Chatbot Grok, yang diakses melalui platform media sosial Musk X, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita dalam bikini atau pose seksual eksplisit, serta gambar yang melibatkan anak-anak.
Regulator di kedua negara Asia Tenggara tersebut mengatakan pengendalian yang ada tidak mencegah pembuatan dan penyebaran konten pornografi palsu, khususnya yang melibatkan perempuan dan anak di bawah umur. Pemerintah Indonesia untuk sementara memblokir akses ke Grok pada hari Sabtu, diikuti oleh Malaysia pada hari Minggu.
“Pemerintah melihat tindakan seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat dan keselamatan warga negara di ruang digital,” kata Menteri Komunikasi dan Digital Indonesia Meutya Hafid dalam sebuah pernyataan pada hari Sabtu.
Kementerian mengatakan tindakan tersebut dimaksudkan untuk melindungi perempuan, anak-anak dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan AI.
Temuan awal menunjukkan bahwa Grok tidak memiliki perlindungan yang efektif untuk menghentikan pengguna membuat dan mendistribusikan konten pornografi berdasarkan foto asli penduduk Indonesia, Alexander Sabar, direktur jenderal pengawasan ruang digital, mengatakan dalam pernyataan terpisah. Dia mengatakan praktik seperti itu berisiko melanggar privasi dan hak gambar ketika foto dimanipulasi atau dibagikan tanpa izin, sehingga menyebabkan kerugian psikologis, sosial, dan reputasi.
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara pada Grok pada hari Minggu setelah apa yang disebutnya sebagai “penyalahgunaan berulang” terhadap alat tersebut untuk menghasilkan gambar-gambar yang tidak senonoh, eksplisit secara seksual, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator mengatakan pemberitahuan yang dikeluarkan bulan ini kepada X Corp. dan xAI yang menuntut perlindungan yang lebih kuat menghasilkan tanggapan yang terutama bergantung pada mekanisme pelaporan pengguna.
“Pembatasan ini diberlakukan sebagai tindakan preventif dan proporsional sementara proses hukum dan peraturan sedang berlangsung,” katanya, seraya menambahkan bahwa akses akan tetap diblokir sampai tindakan pengamanan yang efektif diterapkan.
Diluncurkan pada tahun 2023, Grok gratis untuk digunakan di X. Pengguna dapat mengajukan pertanyaan di platform media sosial dan menandai postingan yang mereka buat secara langsung atau membalas postingan dari pengguna lain. Musim panas lalu perusahaan menambahkan fitur pembuat gambar, Grok Imagine, yang menyertakan apa yang disebut “mode pedas” yang dapat menghasilkan konten dewasa.
Pembatasan di Asia Tenggara terjadi di tengah meningkatnya pengawasan terhadap Grok di negara lain, termasuk di Uni Eropa, Inggris, India, dan Prancis. Grok pekan lalu membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar menyusul reaksi global atas pemalsuan gambar yang bersifat seksual terhadap orang-orang, namun para kritikus mengatakan hal itu tidak sepenuhnya mengatasi masalah tersebut.
