Jakarta,
Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara terhadap layanan Grok AI, chatbot kecerdasan buatan milik perusahaan xAI yang dioperasikan di platform X (sebelumnya Twitter). Keputusan ini diambil menyusul meningkatnya penyalahgunaan teknologi AI untuk membuat konten deepfake asusila yang meresahkan.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa praktik pembuatan gambar atau konten seksual tanpa persetujuan merupakan bentuk pelanggaran hak asasi manusia dan membahayakan ruang digital masyarakat Indonesia.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan dengan teknologi kecerdasan artifisial, pemerintah memutus akses sementara terhadap aplikasi Grok,” tegas Meutya Hafid dalam siaran persnya.
Sebelumnya, sejumlah pengguna diketahui memanfaatkan fungsi generatif Grok untuk memanipulasi foto menjadi konten vulgar, termasuk permintaan eksplisit seperti mengganti pakaian atau posisi tanpa izin pemilik foto. Meski xAI telah membatasi fitur pembuatan dan pengeditan gambar hanya bagi pelanggan berbayar, regulasi tersebut dinilai belum cukup mencegah penyebaran konten yang berpotensi melanggar hukum dan merusak martabat korban.
Langkah pemutusan akses ini didukung oleh Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, yang mengatur kewajiban penyelenggara sistem elektronik untuk mencegah penyebaran konten terlarang. Komdigi juga telah memanggil pihak Platform X untuk memberikan klarifikasi dan menjelaskan langkah mitigasi yang akan dilakukan terhadap potensi kerusakan lebih lanjut.
Bukan hanya sekadar diblokir sementara, penyalahgunaan fitur AI yang menghasilkan deepfake berunsur pornografi juga dapat berujung pada ancaman pidana. Direktur Tindak Pidana Siber Bareskrim Polri menyatakan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya bisa dikategorikan sebagai tindak pidana, berlaku bagi pengguna Grok maupun alat AI lain yang serupa.
