Grok AI Diblokir di Indonesia, Pemerintah Nilai Ancam Keamanan Ruang Digital
Grok AI
Jakarta — Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara terhadap layanan kecerdasan buatan Grok AI yang terintegrasi di platform X (sebelumnya Twitter). Keputusan ini diambil menyusul temuan penyalahgunaan Grok AI untuk memproduksi konten asusila berbasis deepfake, termasuk pornografi non-konsensual yang dinilai membahayakan masyarakat dan melanggar hukum nasional.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa langkah tersebut merupakan bentuk tanggung jawab negara dalam melindungi warga di ruang digital. Pemerintah menilai teknologi AI yang tidak dibarengi sistem pengamanan ketat berpotensi melukai hak privasi, martabat manusia, serta keamanan kelompok rentan, khususnya perempuan dan anak-anak.
Pemutusan akses dilakukan setelah Komdigi menerima laporan dan hasil pemantauan yang menunjukkan Grok AI dapat digunakan untuk memanipulasi foto individu menjadi gambar atau ilustrasi seksual tanpa persetujuan pemilik wajah. Praktik tersebut termasuk dalam kategori konten melanggar hukum, sebagaimana diatur dalam regulasi Indonesia.
Komdigi menyatakan bahwa tindakan ini memiliki dasar hukum yang jelas, merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE). Aturan tersebut mewajibkan setiap platform digital untuk mencegah penyebaran konten terlarang dan menjamin keamanan sistemnya. Apabila kewajiban tersebut tidak dipenuhi, pemerintah berwenang menjatuhkan sanksi administratif, termasuk pemutusan akses.
Pemerintah juga telah meminta klarifikasi resmi dari pihak Platform X dan pengembang Grok, yakni xAI, terkait mekanisme moderasi, pengamanan data, serta pencegahan penyalahgunaan fitur kecerdasan buatan mereka. Hingga keputusan pemblokiran diumumkan, Komdigi menilai belum ada jaminan teknis yang memadai untuk melindungi pengguna Indonesia dari risiko penyalahgunaan AI tersebut.
Isu Grok AI tidak hanya menjadi perhatian Indonesia. Sejumlah negara lain juga menyoroti potensi bahaya teknologi AI generatif dalam menciptakan konten seksual palsu dan manipulatif. Regulator di berbagai wilayah menilai fenomena deepfake pornografi sebagai ancaman serius terhadap hak asasi manusia dan stabilitas sosial di era digital.
Pengembang Grok sebelumnya menyatakan telah membatasi sebagian fitur pembuatan gambar dan memperketat aturan penggunaan. Namun, langkah tersebut dinilai belum cukup efektif mencegah penyalahgunaan oleh pengguna yang berniat jahat. Pemerintah Indonesia menegaskan bahwa inovasi teknologi tidak boleh berjalan tanpa kendali dan tanggung jawab.
Komdigi menekankan bahwa pemutusan akses Grok AI bersifat sementara, namun dapat diperpanjang atau menjadi permanen apabila platform terkait tidak menunjukkan komitmen nyata dalam memperbaiki sistem pengamanan dan mematuhi hukum nasional. Pemerintah menegaskan tetap terbuka terhadap dialog, selama keselamatan dan hak masyarakat menjadi prioritas utama.
Redaksi PenaHits.com
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa langkah tersebut merupakan bentuk tanggung jawab negara dalam melindungi warga di ruang digital. Pemerintah menilai teknologi AI yang tidak dibarengi sistem pengamanan ketat berpotensi melukai hak privasi, martabat manusia, serta keamanan kelompok rentan, khususnya perempuan dan anak-anak.
Pemutusan akses dilakukan setelah Komdigi menerima laporan dan hasil pemantauan yang menunjukkan Grok AI dapat digunakan untuk memanipulasi foto individu menjadi gambar atau ilustrasi seksual tanpa persetujuan pemilik wajah. Praktik tersebut termasuk dalam kategori konten melanggar hukum, sebagaimana diatur dalam regulasi Indonesia.
Komdigi menyatakan bahwa tindakan ini memiliki dasar hukum yang jelas, merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE). Aturan tersebut mewajibkan setiap platform digital untuk mencegah penyebaran konten terlarang dan menjamin keamanan sistemnya. Apabila kewajiban tersebut tidak dipenuhi, pemerintah berwenang menjatuhkan sanksi administratif, termasuk pemutusan akses.
BACA JUGA
Isu Grok AI tidak hanya menjadi perhatian Indonesia. Sejumlah negara lain juga menyoroti potensi bahaya teknologi AI generatif dalam menciptakan konten seksual palsu dan manipulatif. Regulator di berbagai wilayah menilai fenomena deepfake pornografi sebagai ancaman serius terhadap hak asasi manusia dan stabilitas sosial di era digital.
Pengembang Grok sebelumnya menyatakan telah membatasi sebagian fitur pembuatan gambar dan memperketat aturan penggunaan. Namun, langkah tersebut dinilai belum cukup efektif mencegah penyalahgunaan oleh pengguna yang berniat jahat. Pemerintah Indonesia menegaskan bahwa inovasi teknologi tidak boleh berjalan tanpa kendali dan tanggung jawab.
Komdigi menekankan bahwa pemutusan akses Grok AI bersifat sementara, namun dapat diperpanjang atau menjadi permanen apabila platform terkait tidak menunjukkan komitmen nyata dalam memperbaiki sistem pengamanan dan mematuhi hukum nasional. Pemerintah menegaskan tetap terbuka terhadap dialog, selama keselamatan dan hak masyarakat menjadi prioritas utama.
Redaksi PenaHits.com