Jakarta (Lampost.co)-— Badan Reserse Kriminal (Bareskrim) Polri menegaskan bahwa praktik manipulasi foto seseorang menjadi konten vulgar menggunakan teknologi kecerdasan buatan (AI).
Termasuk melalui fitur Grok AI di platform media sosial X, berpotensi melanggar hukum pidana. Tindakan tersebut dapat di proses apabila melakukan tanpa persetujuan pemilik foto.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, menyatakan bahwa pengeditan foto berbasis AI yang mengubah citra seseorang menjadi konten asusila tergolong sebagai kejahatan deepfake.
Baca juga: Bareskrim Telusuri Jaringan Pengendali Ekstasi
Fenomena ini, kata Bayu, saat ini tengah menjadi perhatian aparat penegak hukum seiring pesatnya perkembangan teknologi digital.
“Perkembangan teknologi saat ini sudah mengarah pada penggunaan artificial intelligence, termasuk deepfake yang memanfaatkan AI. Hal ini tentu menjadi perhatian kami,” ujar Himawan kepada wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Penyalahgunaan Teknologi
Menurut Himawan, kepolisian telah melakukan pemantauan dan penyelidikan terhadap dugaan penyalahgunaan teknologi tersebut. Jika menemukan adanya manipulasi data elektronik berupa foto atau gambar seseorang yang melakukan tanpa izin.
Maka perbuatan tersebut dapat mengenakan sanksi pidana sesuai ketentuan perundang-undangan.
“Sepanjang dapat dibuktikan bahwa itu merupakan manipulasi data elektronik oleh pihak lain tanpa persetujuan pemiliknya. Maka perbuatan tersebut bisa diproses secara hukum,” tegasnya.
Sebelumnya, Kementerian Komunikasi dan Digital (Kemkomdigi) juga mengambil langkah tegas terhadap platform X terkait dugaan penyalahgunaan fitur Grok AI. Fitur kecerdasan buatan tersebut dugaannya ada yang memanfaatkan untuk memproduksi dan menyebarkan konten pornografi berbasis foto pribadi atau deepfake tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil temuan awal menunjukkan Grok AI belum lengkap sistem moderasi. Hal ini yang memadai untuk mencegah pembuatan konten asusila dari foto nyata masyarakat, khususnya warga Indonesia.
“Temuan awal kami menunjukkan belum adanya pengaturan yang spesifik pada Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” kata Alexander dalam keterangan resmi di Jakarta, Rabu (7/1/2026).
Pelanggaran Privasi
Ia menambahkan, lemahnya mekanisme pengawasan tersebut berpotensi menimbulkan pelanggaran privasi dan merugikan masyarakat luas. Sehingga perlu penanganan serius dari penyedia platform.
Indonesia sendiri bukan negara pertama yang mempersoalkan keberadaan Grok AI di platform X. Sebelumnya, Prancis, India, dan Malaysia telah lebih dulu menyampaikan keberatan dan menggugat perusahaan milik Elon Musk tersebut. Atas dugaan penyalahgunaan teknologi AI yang berpotensi melanggar hukum dan etika digital.
Pemerintah bersama aparat penegak hukum kini terus berkoordinasi untuk memastikan ruang digital tetap aman serta melindungi hak privasi masyarakat dari ancaman kejahatan berbasis kecerdasan buatan.
