India Desak X Benahi Chatbot Grok, Konten AI Tak Senonoh Jadi Sorotan Parlemen

Pemerintah India mengambil langkah tegas terhadap platform media sosial X milik Elon Musk menyusul mencuatnya polemik seputar chatbot berbasis kecerdasan buatan (AI) bernama Grok. Pasalnya, alat tersebut diduga menghasilkan berbagai konten tidak senonoh yang memicu kekhawatiran publik, pengguna, hingga anggota parlemen.

Langkah ini menandai meningkatnya keseriusan pemerintah India dalam mengawasi pemanfaatan teknologi AI, terutama yang berpotensi melanggar norma hukum dan sosial. Terlebih lagi, India merupakan salah satu pasar digital terbesar di dunia dengan jumlah pengguna internet yang sangat masif.

Mengutip laporan TechCrunch pada Jumat (2/1), Kementerian Teknologi Informasi India secara resmi memerintahkan X untuk segera membenahi aspek teknis dan prosedural Grok. Dalam instruksi tersebut, pemerintah menegaskan bahwa platform wajib mencegah pembuatan maupun penyebaran konten yang mengandung ketelanjangan, seksualisasi berlebihan, konten seksual eksplisit, hingga materi lain yang dilarang oleh hukum setempat.

Sebagai bagian dari perintah tersebut, pemerintah memberi tenggat waktu 72 jam kepada X untuk menyerahkan laporan tertulis. Laporan ini harus merinci langkah-langkah konkret yang telah diambil perusahaan guna mencegah munculnya konten yang dikategorikan cabul, vulgar, pornografis, pedofilik, atau melanggar hukum.

Lebih jauh, Kementerian Teknologi Informasi juga memperingatkan bahwa kegagalan mematuhi instruksi ini dapat berdampak serius. Salah satu konsekuensi terberatnya adalah terancamnya status safe harbor X, yakni perlindungan hukum yang selama ini membebaskan platform dari tanggung jawab langsung atas konten buatan pengguna.

Kekhawatiran pemerintah bukan tanpa alasan. Dalam beberapa waktu terakhir, sejumlah pengguna membagikan contoh penggunaan Grok untuk memanipulasi foto individu, khususnya perempuan, agar tampak mengenakan pakaian minim seperti bikini. Konten semacam ini dengan cepat menyebar dan memicu kritik luas di media sosial.

Situasi tersebut kemudian menarik perhatian kalangan legislatif. Anggota parlemen India, Priyanka Chaturvedi, secara resmi melayangkan pengaduan dan mendesak pemerintah untuk bertindak tegas terhadap penyalahgunaan teknologi AI yang dinilai merugikan dan melanggar etika.

Tak hanya itu, laporan yang lebih serius juga mengemuka. Beberapa pihak menyoroti adanya penggunaan Grok untuk menghasilkan gambar seksual yang melibatkan anak di bawah umur. Dalam pernyataan sebelumnya, pihak X mengakui bahwa kasus tersebut terjadi akibat celah dalam sistem pengamanan yang dimiliki Grok.

Meski gambar-gambar yang melibatkan anak telah dihapus, persoalan belum sepenuhnya selesai. Hingga berita ini diturunkan, sejumlah gambar perempuan hasil manipulasi AI masih dapat ditemukan di platform X, sehingga memicu pertanyaan mengenai efektivitas pengawasan internal perusahaan.

Sebelum mengeluarkan perintah khusus kepada X, pemerintah India sebenarnya telah lebih dulu mengeluarkan imbauan umum kepada seluruh platform digital. Pada Senin sebelumnya, Kementerian Teknologi Informasi menegaskan bahwa kepatuhan terhadap hukum lokal terkait konten cabul dan seksual eksplisit merupakan syarat mutlak untuk mempertahankan perlindungan hukum.

Dalam imbauan tersebut, pemerintah mendesak perusahaan teknologi untuk memperkuat sistem pengamanan internal, terutama dalam menghadapi lonjakan konten yang dihasilkan AI. Pemerintah juga mengingatkan bahwa kelalaian dalam pengawasan dapat berujung pada tindakan hukum berdasarkan Undang-Undang Teknologi Informasi serta hukum pidana India.

“Ketidakpatuhan terhadap ketentuan ini akan dipandang sebagai pelanggaran serius dan dapat berujung pada konsekuensi hukum yang tegas,” demikian pernyataan resmi kementerian. Tindakan hukum tersebut, menurut pemerintah, dapat menyasar platform, pejabat yang bertanggung jawab, hingga pengguna yang terlibat dalam pelanggaran.

Dalam konteks global, langkah India ini dinilai sebagai sinyal penting. Sebagai pasar digital raksasa, kebijakan yang diterapkan India berpotensi menjadi preseden bagi negara lain dalam menuntut pertanggungjawaban platform atas konten berbasis AI.

Namun demikian, hubungan antara X dan pemerintah India bukan tanpa gesekan. Selama beberapa waktu terakhir, X diketahui menggugat sejumlah aspek regulasi konten India di pengadilan. Perusahaan menilai kewenangan pemerintah dalam menghapus konten dinilai terlalu luas dan berpotensi melampaui batas kebebasan berekspresi.

Meski begitu, X tetap mematuhi sebagian besar permintaan pemblokiran konten yang diajukan pemerintah. Hingga saat ini, baik X maupun perusahaan AI miliknya, xAI, belum memberikan tanggapan resmi atas permintaan komentar dari TechCrunch terkait instruksi terbaru pemerintah India.

Ke depan, polemik ini diperkirakan akan terus berkembang seiring meningkatnya penggunaan teknologi AI di ruang publik. Bagi pemerintah India, kasus Grok menjadi ujian penting dalam menyeimbangkan inovasi teknologi dengan perlindungan hukum, etika, dan keselamatan masyarakat.