X Dibanjiri Tren Konten Deepfake Bermuatan Asusila dari Grok, Inggris Desak Platform

Menteri Teknologi Inggris Liz Kendall menyebut bahwa tren konten deepfake bermuatan asusila yang menampilkan gambar anak-anak dan perempuan sangat mengrikan. Apalagi, konten tersebut dihasilkan dari layanan chatbot AI milik Elon Musk yakni Grok. 

Liz mengecam bahwa konten deepfake asusila tersebut tidak dapat diterima oleh masyarakat yang beradab. Oleh sebab itu, platform media sosial X perlu menindak untuk menangani hal ini dengan segera. Dirinya mendukung regulator Inggris Ofcom untuk mengambil tindakan penegakan hukum. 

“Kita tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan dan menghina ini, yang secara tidak proporsional ditujukan kepada perempuan dan anak perempuan,” ungkap Liz yang dikutip dari The Gurdian pada Kamis (8/1). 

“Inggris tidak akan mentolerir penyebaran materi menjijikan dan kasar yang tak ada habisnya secara daring. Kita semua harus bersatu untuk memberantasnya,” tegas Liz. 

Pada hari Senin (5/6), Ofcom menyatakan bahwa mereka menyadari kekhawatiran yang disebabkan oleh Grok. Pasalnya, chatbot AI ini dapat membuat gambar orang tanpa busana dan gambar anak-anak bermuatan seksual. 

Mereka menyatakan telah menghubungi X dan xAI untuk memberi jawaban soal langkah yang harus diambil platform dalam mematuhi kewajiban hukum sekaligus melindungi penggunanya di Inggris. Kemudian, Ofcom melakukan penyelidikan berdasarkan tanggapan perusahaan. 

Ofcom berwenang untuk memberi denda terhadap platform teknologi hingga GBP 18 juta atau 10% dari pendapatan global yang memenuhi syarat. Hukuman terbesar hingga saat ini terjadi bulan lalu ketika penyedia konten pornografi yang gagal melakukan pengecekan usia wajib didenda GBP 1 juta. 

X tidak menanggapi permintaan komentar terkait pernyataan Liz. Namun, platform telah memberi pernyataan resmi pada Senin lalu. 

“Kami mengambil tindakan terhadap konten ilegal di X, termasuk materi pelecehan seksual anak, dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan,” tulis X.