Pemerintah menutup sementara akses chatbot Grok milik Elon Musk pada Sabtu karena risiko konten pornografi buatan AI. Langkah itu membuat Indonesia menjadi negara pertama yang memblokir alat AI tersebut.
Pemerintah, peneliti, dan regulator di Eropa hingga Asia mengambil langkah itu setelah mengecam aplikasi tersebut. Beberapa pihak membuka penyelidikan terhadap dugaan konten seksual yang merupakan hasil aplikasi itu.
Pada Kamis, xAI, pembuat Grok, mengatakan mereka membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar. Pihak berwenang menutup celah keamanan yang memungkinkan munculnya konten seksual, termasuk gambar anak-anak berpakaian minim.
Menteri Komunikasi dan Digital Meutya Hafid mengatakan pembuatan deepfake seksual tanpa persetujuan adalah pelanggaran serius. Tindakan itu merusak hak asasi, martabat, dan keamanan warga di ranah digital.
Kementerian juga memanggil beberapa pejabat X untuk membahas hal ini.
Musk mengatakan di X bahwa pengguna Grok yang membuat konten ilegal akan menghadapi sanksi yang sama seperti pengunggah konten ilegal.
Indonesia, sebagai negara dengan penduduk Muslim terbanyak, memberlakukan aturan ketat yang melarang penyebaran konten cabul secara daring.
Pemblokiran pemerintah ini menyusul keputusan Grok menonaktifkan fitur pembuatan gambar pada Jumat bagi sebagian besar pengguna. Pihak berwenang mengambil langkah itu setelah protes luas terhadap penggunaan aplikasi untuk membuat gambar seksual dan kekerasan.
Musk juga terancam denda, tindakan regulasi dan laporan yang berpotensi memicu pelarangan X di Inggris.
Tool ini juga dipakai untuk memanipulasi foto wanita agar tampak telanjang dan diposisikan secara seksual. Fitur ini kini dinonaktifkan kecuali bagi pelanggan berbayar.
Perdana Menteri Australia Anthony Albanese juga menyampaikan kekhawatiran tentang pemanfaatan AI pada chatbot Grok yang memungkinkan munculnya konten seksual eksploitatif.
Pada Sabtu, perdana menteri bergabung dengan deretan pemimpin dunia yang kian bertambah, termasuk PM Inggris Keir Starmer, untuk mengkritik platform media sosial ini.
AI Generatif
Ia mengatakan kepada wartawan di Canberra bahwa memanfaatkan AI generatif untuk mengeksploitasi atau melakukan tindakan seksual terhadap orang tanpa persetujuannya adalah perbuatan yang sangat tercela.
“Saya merasa sangat jijik bahwa orang memanfaatkan fitur pembuatan gambar Grok untuk tujuan ini.”
“Ini kembali menunjukkan bahwa platform media sosial ini mengabaikan tanggung jawab sosial, dan warga Australia serta dunia berhak mendapat layanan lebih baik.”
Walau jumlah laporan ke Kantor Keamanan Siber Australia masih terbatas, mereka mencatat peningkatan baru-baru ini dalam penggunaan Grok untuk membuat gambar seksual atau eksploitatif.
Pada Jumat, lembaga pengawas memperingatkan akan memakai wewenangnya, termasuk mengeluarkan pemberitahuan penghapusan, jika materi ini melampaui ambang batas yang ditetapkan Undang-Undang Keamanan Daring.
Pernyataan ini menyebutkan bahwa X, Grok dan layanan serupa wajib mematuhi kewajiban keselamatan sistemik untuk mendeteksi dan menghapus materi eksploitasi seksual anak serta konten ilegal lain sesuai kode dan standar industri internasional yang berlaku di Australia.
