Grok AI Resmi Diblokir Komdigi, Ini Dugaan Penyebab dan Penjelasan Lengkapnya

JAMBI-INDEPENDENT.CO.ID - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi melakukan pemutusan akses sementara terhadap aplikasi Grok AI, chatbot berbasis kecerdasan artifisial milik platform X.

Langkah ini diambil menyusul temuan dugaan penyalahgunaan Grok AI yang berpotensi memicu pembuatan dan penyebaran konten deepfake asusila.

Menteri Komunikasi dan Digital, Meutya Hafid, menjelaskan bahwa kebijakan tersebut merupakan langkah perlindungan bagi masyarakat, khususnya perempuan dan anak, dari risiko konten pornografi palsu yang dihasilkan dengan teknologi AI.

BACA JUGA:Geopolitik Minyak Venezuela dan Ekonomi Indonesia

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya dalam keterangan resmi, Sabtu (10/1/2025).

Menurut Komdigi, pemutusan akses ini bersifat sementara dan dilakukan sebagai langkah preventif sembari menunggu klarifikasi dari pihak terkait.

Kementerian juga telah meminta platform X untuk segera hadir dan memberikan penjelasan mengenai dampak negatif penggunaan Grok AI, khususnya terkait penyebaran konten asusila berbasis manipulasi foto.

BACA JUGA:Kolaborasi SATGAS DPR RI dan Kementerian (Galapana), Telkomsel Pulihkan Seluruh BTS di Aceh Pascabencana

Secara regulasi, tindakan pemblokiran tersebut dilakukan berdasarkan kewenangan Komdigi sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Pada Pasal 9, ditegaskan bahwa setiap PSE wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Sebelumnya, Komdigi juga telah menyampaikan kekhawatiran terkait penggunaan Grok AI yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila di dalam platform X.

BACA JUGA:Pulang Kerja Tak Pernah Sampai Rumah, Perahu Tenggelam di Sungai Pengabuan: 1 Pekerja Tewas, 1 Hilang

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyebut bahwa Grok AI dinilai belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto nyata warga Indonesia.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi.

Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander, dikutip dari laman resmi Komdigi.

BACA JUGA:Gubernur Al Haris dan Bupati Kerinci Cicipi Teh Kayu Aro di Gerai PTPN Jambi Expo 2026

Ia menambahkan, penyalahgunaan teknologi AI semacam ini berpotensi merugikan individu karena foto seseorang dapat dimanipulasi dan disebarluaskan tanpa persetujuan, sehingga mencederai hak privasi dan reputasi korban di ruang digital.

Komdigi menegaskan bahwa pemerintah tidak menolak perkembangan teknologi kecerdasan artifisial. Namun, pemanfaatannya harus disertai tanggung jawab, sistem pengamanan yang kuat, serta kepatuhan terhadap hukum dan etika digital.

Pemutusan akses Grok AI disebut menjadi peringatan bagi seluruh penyelenggara sistem elektronik agar memastikan teknologi yang mereka kelola tidak disalahgunakan dan membahayakan masyarakat.

BACA JUGA:Toyota Innova Crysta Disuntik Mati, Padahal Jadi Andalan Mobil Keluarga

Ke depan, Komdigi akan terus memantau perkembangan kasus ini serta membuka ruang dialog dengan pihak platform untuk memastikan perlindungan maksimal bagi warga negara di era digital.

Sumber: