Kemkomdigi Usut Penyalahgunaan Fitur Grok AI, PSE Wajib Patuhi Aturan

08 Januari 2026

Kementerian Komunikasi dan Digital Usut dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitive tanpa persetujuan pemiliknya.

Tindakan manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial dan reputasi.

Kewajiban PSE

Penyelenggara Sistem Elektronik yang beroperasi di Indonesia wajib untuk :

1.      Memastikan teknologi yang disediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seskual, maupun perusakan martabat seseorang

2.      Memastikan tersediannya mekanisme pelindungan yang efektif

3.      Memperkuat system moderasi konten

4.      Mencegah pembuatan deepfake asusila

5.      Memastikan prosedur penanganan cepa tatas laporan pelanggaran privasi dan citra diri

Sanksi Bagi PSE yang Melanggar

Kementerian Komdigi menegaskan bahwa kepatuhan terhadap hukum Indonesia Wajib bagi seluruh PSE yang beroperasi di Indonesia. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatid, maka akan dijatuhkan sanksi administrative hingga pemutusan akses layanan Grok AI dan platform X