Kejahatan AI Kian Meningkat, Indonesia Darurat Regulasi AI

Laporan Empowering Indonesia 2025 yang diterbitkan oleh Indosat Ooredoo Hutchison menyebut menemukan bahwa kejahatan dengan memanfaatkan teknologi AI kian meningkat. Oleh sebab itu, regulasi AI harus segera diterbitkan. 

Menurut catatan dari laporan tersebut, jumlah insiden AI di Indonesia teurs meningkat tajam dari sekitar 10 insiden pada tahun 2018, menjadi sekitar 270 pada tahun 2024. Tahun 2025, diproyeksikan terjadi sekitar 132 insiden kejahatan AI. 

“AI bukan hanya soal teknologi, tetapi tentang kemandirian bangsa. Kedaulatan AI berarti kita membangun teknologi yang merefleksikan nilai-nilai Pancasila, menjamin etika dan keamanan, serta memastikan manfaatnya dirasakan secara merata oleh seluruh masyarakat,” ungkap Wakil Menteri Komunikasi dan Digital Nezar Patria dalam acara peluncuran Empowering Indonesia di Jakarta, Senin (27/10).

Meskipun diproyeksikan terjadi sedikit penurunan di tahun 2025, Indonesia perlu memiliki regulasi AI yang memadai. Sehingga, dapat melindungi masyarakat dari risiko kerugian akibat kejahatan berbasis AI. 

Adapun beberapa contoh kasus insiden AI yang dilaporkan. Di antaranya ialah kasus penipuan deepfake menggunakan identitas Presiden Prabowo pada tahun 2023 yang menyebabkan kerugian Rp. 800 ribu hingga Rp. 1 juta per orang. 

Lebih parah lagi, teknologi deepfake kini juga disalahgunakan untuk melakukan pemerasan terhadap tokoh masyarakat maupun selebriti. Di samping itu, sekitar 2.470 serangan phising  menggunakan AI terjadi di kuartal I 2023. 

Penelitian ini menemukan bahwa maraknya penyalahgunaan AI di Indonesia karena literasi digital dan kerangka tata kelola digital yang masih lemah dan belum merata. Oleh sebab itu, Indonesia perlu adanya regulasi AI yang kuat guna  menanggulangi masalah ini. 

Menurut laporan Empowering Indonesia 2025 ini ada empat aspek utama yang perlu diperhatikan dalam menyusun regulasi AI. Pertama, etika yang meliputi kesadaran ketangguhan sistem AI terhadap bias, diskriminasi dan perlindungan privasi.

Kedua, keselamatan guna memastikan kendalian dan ketangguhan sistem AI agar tidak menimbulkan dampak yang tidak diinginkan. Ketiga, keamanan yang meliputi perlindungan dari serangan, ancaman, penyalahgunaan serta keberlanjutan. 

Terakhir, tata kelola yang melibatkan struktur, kebijakan dan mekanisme. Guna mengelola dan mengawasi risiko AI.

Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) tengah merampungkan Peta Jalan dan regulasi AI. Keduanya telah memasuki tahap finalisasi draf dan akan segera diterbitkan.

Nezar memastikan draf terkait aturan AI ini akan diselelesaikan pada bulan ini. Meskipun, draf tersebut masih harus memenuhi beberapa tahapan sebelum disahkan. 

“Bulan ini drafnya selesai, tapi kan ada proses lagi karena setiap peraturan itu kan ada proses harmonisasi dan lain-lain dilihat agar dia tidak overlap dengan peraturan-peraturan yang ada,” jelas Nezar pada Jumat (17/10).