Heboh Grok AI Bisa Bikin Foto Syur, Indonesia dan Berbagai Negara Kompak “Semprot” Elon Musk!

Platform media sosial X kini tengah berada di bawah sorotan tajam dunia internasional. Gelombang protes dari berbagai negara terus mengalir deras menyasar Grok AI, sistem kecerdasan buatan besutan Elon Musk. Pasalnya, teknologi ini dituding menjadi alat produksi konten asusila yang meresahkan masyarakat global.

Keresahan ini bermula ketika Grok AI meluncurkan fitur terbaru yang memungkinkan pengguna memanipulasi foto nyata menjadi gambar eksplisit atau “mesum”. Mirisnya, teknologi deepfake ini dilaporkan bisa menuruti permintaan konten senonoh, termasuk manipulasi foto anak-anak. Oleh karena itu, otoritas keamanan siber di berbagai belahan dunia mulai mengambil langkah tegas.

Protes Global dan Reaksi Indonesia

Kemarahan publik memuncak setelah sejumlah negara secara serentak mempertanyakan standar keselamatan, legalitas, hingga etika dari fitur Grok. Penggunaan AI untuk merendahkan martabat individu melalui manipulasi foto pribadi dianggap sebagai pelanggaran privasi yang sangat serius.

Selain itu, Indonesia tidak tinggal diam. Kementerian Komunikasi dan Digital (Komdigi) resmi melayangkan protes keras kepada manajemen X. Pemerintah Indonesia menyoroti bagaimana teknologi ini disalahgunakan untuk mengubah pakaian subjek menjadi minim tanpa persetujuan, yang jelas melanggar norma dan hukum yang berlaku di tanah air.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menegaskan bahwa temuan awal menunjukkan sistem moderasi Grok AI masih sangat lemah. “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resminya di Jakarta, Rabu (7/1/2026).

Pembelaan Pihak X: Sebut Kasus Terpisah

Melihat banjir kritikan yang tidak kunjung surut, pihak X akhirnya memberikan klarifikasi. Melalui pernyataan resmi, manajemen X mengakui bahwa sistem mereka memang sempat menghasilkan gambar yang tidak sesuai dengan kebijakan perusahaan. Namun demikian, mereka berkilah bahwa kejadian tersebut merupakan kasus terisolasi (isolated cases).

Pihak X menekankan bahwa mereka tetap berkomitmen menjaga keamanan platform. “Kami mengambil tindakan tegas terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak (CSAM). Langkah kami meliputi penghapusan konten, penangguhan akun secara permanen, hingga bekerja sama dengan penegak hukum,” tulis pihak X sebagaimana dikutip dari BBC, Kamis (8/1/2026).

Selanjutnya, X memperingatkan pengguna bahwa penyalahgunaan fitur AI untuk tujuan ilegal akan mendapatkan sanksi berat. Mereka menyatakan bahwa siapa pun yang mendorong Grok untuk menciptakan konten melanggar hukum akan menanggung konsekuensi serupa dengan pengunggah konten ilegal pada umumnya.

Tantangan Regulasi AI di Masa Depan

Meskipun sudah memberikan pembelaan, tantangan bagi Elon Musk tidaklah mudah. Negara-negara seperti Prancis, India, dan Malaysia telah lebih dulu menyatakan keberatan serupa sebelum akhirnya diikuti oleh Indonesia. Singkatnya, dunia internasional mendesak adanya transparansi dan proteksi yang lebih kuat pada algoritma Grok AI.

Di sisi lain, tren penggunaan AI untuk mengedit foto orang lain tanpa izin kini menjadi ancaman nyata bagi martabat individu di ruang digital. Jika X tidak segera melakukan perombakan signifikan pada sistem moderasinya, bukan tidak mungkin platform ini akan menghadapi pemblokiran atau denda administratif yang besar di berbagai negara.

Kemajuan teknologi AI seperti Grok memang menawarkan inovasi, namun tanpa regulasi dan etika yang kuat, ia dapat berubah menjadi senjata yang merusak. Kini, publik menunggu langkah konkret X dalam menyempurnakan sistem mereka agar kejadian serupa tidak terulang kembali di masa depan.