Pemerintah Indonesia mengambil langkah tegas dengan memblokir sementara layanan kecerdasan buatan Grok AI. Kebijakan ini diambil menyusul meningkatnya kekhawatiran terhadap penyalahgunaan teknologi tersebut untuk pembuatan konten pornografi berbasis deepfake tanpa persetujuan. Langkah ini sekaligus menegaskan komitmen pemerintah dalam memperkuat keamanan digital dan etika pemanfaatan kecerdasan buatan di Tanah Air.
Melansir Antaranews.com, Kementerian Komunikasi dan Digital menyatakan bahwa pemblokiran dilakukan sebagai upaya melindungi perempuan, anak-anak, serta masyarakat luas dari dampak psikologis dan sosial akibat maraknya konten eksplisit berbasis AI yang melanggar hak asasi manusia.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik pembuatan pornografi deepfake non-konsensual merupakan pelanggaran serius terhadap martabat manusia dan keamanan warga di ruang digital. Menurutnya, penyalahgunaan kecerdasan buatan semacam ini termasuk dalam bentuk kekerasan berbasis digital yang harus ditangani secara tegas oleh negara.
Sebagai bagian dari penegakan regulasi, pemerintah menuntut seluruh platform digital yang beroperasi di Indonesia untuk membuktikan bahwa mereka memiliki sistem pengamanan yang memadai guna mencegah produksi maupun penyebaran konten terlarang. Dalam konteks tersebut, Platform X, yang sebelumnya dikenal sebagai Twitter, telah dipanggil secara resmi oleh kementerian untuk memberikan klarifikasi terkait dampak negatif dari konfigurasi Grok AI yang beredar saat ini.
Selain memberikan penjelasan, pihak platform juga diminta menyampaikan langkah mitigasi konkret, termasuk penerapan mekanisme teknis dan filter konten yang ketat untuk mencegah penyalahgunaan di masa mendatang. Pemerintah menegaskan bahwa kepatuhan terhadap standar etika AI dan regulasi nasional menjadi syarat mutlak bagi keberlanjutan layanan tersebut di Indonesia.
Pemblokiran sementara Grok AI ini didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Aturan tersebut memberikan kewenangan kepada pemerintah untuk membatasi atau menghentikan akses platform digital yang gagal mengendalikan konten terlarang atau tidak memenuhi kewajiban koordinasi dengan otoritas negara.
Meski pemblokiran bersifat sementara, masa depan Grok AI di Indonesia, sebagai salah satu pasar media sosial terbesar di dunia, sangat bergantung pada kesediaan pengelola platform untuk menerapkan pengamanan konten yang ketat serta prinsip kecerdasan buatan yang bertanggung jawab. (Boby)
