Jakarta (Lampost.co)-— Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan melakukan pemutusan akses sementara terhadap aplikasi Grok.
Fitur kecerdasan buatan (AI) yang terintegrasi dengan platform X. Kebijakan ini pemerintah tempuh sebagai langkah preventif untuk melindungi masyarakat. Khususnya perempuan dan anak-anak, dari maraknya konten pornografi palsu berbasis teknologi artificial intelligence.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan, keputusan tersebut berdasarkan temuan dan laporan mengenai penyalahgunaan teknologi deepfake seksual non-konsensual yang dinilai telah melanggar hak asasi manusia. Serta merusak martabat individu di ruang digital.
Baca juga: Hati-Hati! Manipulasi Foto Vulgar dengan Grok AI Bisa Diproses Pidana
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu hasil menggunakan teknologi kecerdasan artifisial. Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam keterangan resminya, Sabtu, 10 Januari 2026.
Kemaslahatan Publik
Menurut Meutya, teknologi AI seharusnya bermanfaat untuk kemajuan dan kemaslahatan publik. Bukan justru menjadi alat untuk melakukan kekerasan berbasis gender di ranah digital.
Pemerintah menilai praktik deepfake seksual tanpa persetujuan korban sebagai bentuk kekerasan digital yang serius/ Karena dapat menimbulkan dampak psikologis, sosial, dan hukum bagi para korban.
Komdigi juga menegaskan bahwa pemutusan akses ini bersifat sementara dan akan mengevaluasi secara berkala. Pemerintah membuka ruang berdialog dengan pihak pengelola platform.
Untuk memastikan adanya sistem pengamanan yang memadai agar fitur serupa tidak disalahgunakan di kemudian hari.
Sebagai tindak lanjut, Komdigi telah melayangkan surat panggilan resmi kepada manajemen Platform X. Panggilan tersebut bertujuan meminta klarifikasi mengenai mekanisme pengawasan, sistem moderasi konten. Serta langkah-langkah pencegahan yang diterapkan pada fitur Grok, khususnya terkait potensi penyebaran konten pornografi palsu.
“Kami meminta penjelasan menyeluruh dari pihak platform mengenai sistem pengamanan yang di terapkan. Termasuk bagaimana mereka mencegah dan menangani penyalahgunaan teknologi AI yang merugikan masyarakat,” kata Meutya.
Pemerintah juga menegaskan komitmennya untuk menegakkan regulasi ruang digital yang aman, beretika, dan berkeadilan. Komdigi mengingatkan seluruh penyedia platform digital agar mematuhi ketentuan hukum yang berlaku di Indonesia. Termasuk Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta regulasi perlindungan data dan anak.
Meutya menambahkan, negara tidak akan ragu mengambil tindakan tegas terhadap platform digital yang lalai melindungi penggunanya. Menurutnya, perlindungan terhadap kelompok rentan harus menjadi prioritas utama dalam pengembangan dan pemanfaatan teknologi kecerdasan buatan.
“Kami ingin memastikan ruang digital Indonesia tetap aman, bermartabat, dan menghormati hak asasi manusia,” pungkasnya.
