Komdigi Blokir Sementara Grok Demi Cegah Deepfake Porno, Lindungi Perempuan dan Anak di Ruang Digital

Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi melakukan pemutusan akses sementara terhadap aplikasi Grok. Langkah ini diambil sebagai bentuk perlindungan terhadap perempuan, anak, dan seluruh masyarakat dari risiko penyalahgunaan teknologi kecerdasan buatan atau artificial intelligence (AI) yang berpotensi menghasilkan konten pornografi palsu berbasis deepfake.

Kebijakan tersebut disampaikan langsung oleh Menteri Komunikasi dan Digital, Meutya Hafid, dalam pernyataan resminya di Jakarta, Sabtu (10/1). Menurut Meutya, negara memiliki tanggung jawab untuk menjaga ruang digital tetap aman, beretika, serta menghormati hak asasi manusia.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tegas Meutya.

Seiring dengan pesatnya perkembangan teknologi AI, berbagai platform digital kini memiliki kemampuan menghasilkan gambar, video, hingga suara yang nyaris tak bisa dibedakan dari aslinya. Namun, di sisi lain, teknologi ini juga membuka celah penyalahgunaan, termasuk dalam pembuatan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek.

Oleh karena itu, Meutya menegaskan bahwa penggunaan AI untuk memproduksi dan menyebarkan konten pornografi palsu merupakan bentuk kekerasan berbasis digital yang dapat menimbulkan dampak serius bagi korban, baik secara psikologis, sosial, maupun hukum.

“Korban bisa mengalami tekanan mental, kehilangan rasa percaya diri, bahkan mengalami stigma sosial akibat konten palsu yang beredar luas di internet,” ujarnya.

Langkah Preventif dan Korektif

Lebih lanjut, Meutya menjelaskan bahwa pemutusan akses terhadap Grok bersifat sementara. Artinya, kebijakan ini merupakan langkah preventif sekaligus korektif untuk mencegah potensi kerugian yang lebih besar di masyarakat.

Pemerintah, kata dia, perlu memastikan bahwa setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai. Dengan demikian, teknologi yang mereka kembangkan tidak disalahgunakan untuk memproduksi atau menyebarluaskan konten terlarang.

“Pemutusan akses ini dilakukan agar kami bisa melakukan evaluasi menyeluruh terhadap sistem dan mekanisme pengamanan yang diterapkan oleh pihak terkait,” jelas Meutya.

Selain memblokir sementara layanan Grok, Komdigi juga telah meminta Platform X sebagai pihak yang menaungi layanan tersebut untuk segera memberikan klarifikasi resmi. Klarifikasi ini dinilai penting guna menjelaskan potensi dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan dilakukan agar kejadian serupa tidak terulang.

“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya.

Dasar Hukum yang Jelas

Tindakan pemutusan akses ini, lanjut Meutya, bukanlah kebijakan yang diambil secara sepihak tanpa dasar hukum. Sebaliknya, langkah tersebut dilakukan berdasarkan kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Dalam regulasi tersebut, khususnya Pasal 9, setiap Penyelenggara Sistem Elektronik (PSE) diwajibkan memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan.

Dengan kata lain, setiap platform digital yang beroperasi di Indonesia memiliki kewajiban untuk menjaga layanannya tetap bersih dari konten ilegal, termasuk pornografi, kekerasan, dan pelanggaran hak asasi manusia.

“Regulasi ini dibuat untuk memastikan bahwa ruang digital Indonesia tetap sehat, aman, dan bertanggung jawab,” tambah Meutya.

Sorotan Dunia Internasional

Sebagaimana diketahui, Grok dalam beberapa waktu terakhir memang menuai kritik keras dari berbagai kalangan di seluruh dunia. Pasalnya, aplikasi tersebut dinilai memungkinkan pengguna membuat gambar bernuansa pornografi dengan bantuan teknologi AI.

Dalam sebuah pernyataan, pihak Grok menyebut bahwa hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar di layanan tersebut. Namun demikian, sejumlah pihak menuding bahwa pada praktiknya siapapun tetap bisa mengakses fitur tersebut tanpa harus membayar biaya berlangganan.

Akibatnya, kekhawatiran soal potensi penyalahgunaan teknologi ini semakin menguat. Sejumlah negara pun mulai bersuara.

Inggris, Uni Eropa, dan India secara terbuka mengecam X dan Grok karena dianggap membiarkan penggunaan teknologi pembuatan gambar tanpa pengamanan ketat. Uni Eropa bahkan meminta perusahaan pengembang xAI untuk menyimpan seluruh dokumentasi yang berkaitan dengan chatbot tersebut.

Sementara itu, pemerintah India dikabarkan telah memerintahkan Platform X untuk segera melakukan perubahan signifikan guna menghentikan penyalahgunaan fitur pembuatan gambar. Jika tidak, X terancam kehilangan perlindungan safe harbor di negara tersebut.

Tak hanya itu, lembaga pengawas komunikasi Inggris juga menyatakan telah menghubungi xAI untuk meminta penjelasan terkait persoalan ini.

Komitmen Jaga Ruang Digital

Di tengah derasnya arus digitalisasi, pemerintah Indonesia menegaskan komitmennya untuk terus menjaga ruang digital agar tetap aman dan bermanfaat bagi masyarakat.

Menurut Meutya, teknologi seharusnya menjadi alat untuk mendorong kemajuan, bukan justru menjadi sarana kekerasan dan pelanggaran martabat manusia.

“Kami mendukung inovasi, termasuk pengembangan teknologi AI. Namun, inovasi harus berjalan seiring dengan tanggung jawab dan etika,” tegasnya.

Ke depan, Komdigi akan terus memperkuat pengawasan terhadap platform digital serta mendorong kerja sama dengan berbagai pihak, baik di dalam maupun luar negeri, guna menciptakan ekosistem digital yang sehat, aman, dan berkelanjutan.

Dengan langkah pemutusan akses sementara terhadap Grok ini, pemerintah berharap dapat memberikan pesan tegas bahwa negara hadir untuk melindungi masyarakat dari ancaman kejahatan digital yang semakin kompleks.