Bareskrim Tegaskan Manipulasi Foto Jadi Konten Fulgar Lewat Grok AI Dapat Dipidana

JAKARTA, REQnews - Bareskrim Polri menanggapi terkait dengan Grok Artificial Intelligence (AI) yang dimanfaatkan untuk memanipulasi foto pribadi seseorang menjadi konten fulgar di media sosial X. 

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji menjelaskan bahwa tindakan memanipulasi foto menggunakan AI tersebut, termasuk deepfake yang merupakan tindak pidana. 

Himawan mengatakan bahwa Divisi Siber Bareskrim Polri saat ini memang tengah melakukan penyelidikan terkait dengan perkara tersebut. 

"Jadi memang rekan-rekan perkembangan teknologi itu sekarang mengarah kepada artificial intelligence, termasuk deepfake menggunakan AI. Karena itu memang kita sedang melakukan penyelidikan ke arah sana," kata Himawan di Mabes Polri, Jakarta Selatan dikutip pada Kamis 8 Januari 2026. 

Sehingga menurutnya, jika ada orang yang terbukti memanipulasi data elektronik orang lain tanpa persetujuan pemiliknya, maka dapat diproses pidana. Termasuk memanipulasi foto menjadi konten fulgar lewat aplikasi selain Grok AI. 

"Kalau bicara AI selama itu dapat diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana," ujarnya. 

Sebelumnya beredar di platform X, Grok AI diduga digunakan untuk konten asusila termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya. 

Kementerian Komunikasi dan Digital (Kemkomdigi) sedang mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila. 

"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi," kata Direktur Jenderal Pengawasan Ruang Digital Kemenkomdigi, Alexander Sabar. 

Ia juga mengimbau kepada masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum. 

"Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia," ujarnya.