Jakarta|EGINDO.co Kementerian Komunikasi dan Digital (Komdigi) menegaskan komitmennya untuk menjaga keamanan ruang digital nasional di tengah maraknya penyalahgunaan teknologi kecerdasan buatan (artificial intelligence/AI), khususnya dalam bentuk manipulasi foto pribadi atau deepfake bermuatan asusila. Pemerintah bahkan membuka peluang untuk membatasi hingga memutus akses Grok AI dan platform X apabila ditemukan pelanggaran serius dan ketidakpatuhan terhadap regulasi yang berlaku.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menekankan bahwa praktik manipulasi foto pribadi secara digital bukan sekadar pelanggaran etika, melainkan ancaman langsung terhadap hak dasar warga negara.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam pernyataan resmi Komdigi, Rabu (7/1/2026).
Komdigi menilai sistem pengamanan pada layanan Grok AI masih belum optimal dalam mencegah pembuatan dan penyebaran konten deepfake yang menggunakan foto asli individu tanpa persetujuan. Oleh karena itu, pemerintah saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk pengelola platform X, untuk memastikan tersedianya mekanisme perlindungan yang efektif.
Pemerintah menuntut penguatan moderasi konten, pencegahan sejak tahap pembuatan deepfake asusila, serta prosedur penanganan laporan pelanggaran yang cepat dan transparan. Seluruh PSE yang beroperasi di Indonesia diwajibkan mematuhi ketentuan hukum nasional.
Komdigi menegaskan akan menjatuhkan sanksi administratif apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif dari penyedia layanan digital. Sanksi tersebut dapat berupa peringatan, pembatasan layanan, hingga pemutusan akses.
Selain itu, pemerintah mengingatkan bahwa ancaman hukum juga berlaku bagi pengguna individu. Pihak yang terbukti memproduksi atau menyebarkan konten manipulasi foto pribadi tanpa hak dapat dijerat sanksi pidana berdasarkan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku efektif pada 2 Januari 2026, dengan ancaman hukuman hingga 10 tahun penjara.
Pemerintah mengimbau masyarakat yang menjadi korban penyalahgunaan teknologi AI untuk segera melaporkan kasus tersebut kepada aparat penegak hukum maupun Komdigi. Pemerintah menegaskan bahwa ruang digital harus tetap berada dalam koridor hukum.
“Ruang digital bukan ruang tanpa aturan. Privasi dan hak atas citra diri setiap warga negara wajib dihormati dan dilindungi,” pungkas Alexander. (Sn)