Faktaaceh.id, NASIONAL – Kementerian Komunikasi dan Digital (Kemkomdigi) bergerak cepat menindaklanjuti dugaan penyalahgunaan fitur Grok AI pada platform X. Langkah ini diambil setelah ditemukannya indikasi bahwa fitur kecerdasan buatan tersebut dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi warga yang bersifat sensitif tanpa persetujuan.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil penelusuran awal timnya. Ditemukan bahwa Grok AI pada platform X belum memiliki sistem pengaturan yang memadai untuk mencegah produksi maupun distribusi konten pornografi yang berbasis foto nyata (realistik).
Kondisi ini dinilai sangat berbahaya karena berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), terutama ketika wajah seseorang dimanipulasi secara digital.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangannya di Jakarta, Rabu.
Ancaman Sanksi Pemblokiran
Kemkomdigi menegaskan bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, melainkan bentuk perampasan kendali atas identitas visual seseorang yang dapat memicu kerugian psikologis dan sosial. Oleh karena itu, pemerintah saat ini tengah berkoordinasi intensif dengan Penyelenggara Sistem Elektronik (PSE) terkait.
Alexander mengingatkan bahwa kepatuhan terhadap hukum Indonesia bersifat wajib bagi seluruh PSE yang beroperasi di wilayah NKRI. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi siap menjatuhkan sanksi tegas, mulai dari administrasi hingga pemutusan akses layanan.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Jerat Hukum KUHP Baru
Selain sanksi administratif bagi platform, pelaku pembuat dan penyebar konten manipulasi juga diancam pidana. Alexander menjelaskan bahwa sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, aturan mengenai pornografi semakin ketat.
Pasal 172 dan Pasal 407 KUHP secara spesifik mengatur hal ini. Pasal 407 menyebutkan ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun bagi pelanggar. Bagi masyarakat yang menjadi korban deepfake asusila, Kemkomdigi membuka jalur pengaduan dan menyarankan pelaporan ke aparat penegak hukum.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tutup Alexander.
