Riset Terbaru Ungkap AI Agent Berkeliaran di Internet Tanpa Pengawasan Ketat

Dalam setahun terakhir, teknologi AI agent menjadi sorotan utama di industri kecerdasan buatan. Sejumlah perusahaan teknologi besar meluncurkan agen digital publik yang mampu menjalankan tugas kompleks bertahap atas perintah manusia. Bahkan baru-baru ini, agen open-source bernama OpenClaw menarik perhatian luas karena kemampuannya beroperasi secara otonom meski di saat yang sama memicu kekhawatiran keamanan serius.

Namun demikian, pertanyaan penting muncul: seberapa luas sebenarnya penggunaan AI agent di dunia nyata? Untuk menjawabnya, tim peneliti dari MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) merilis AI Agent Index 2025, laporan komprehensif yang untuk pertama kalinya memetakan skala serta cara kerja agen AI di internet.

Minat Meledak, Implementasi Ikut Melonjak

Hasil riset menunjukkan ketertarikan terhadap teknologi ini meningkat drastis. Publikasi ilmiah yang menyebut istilah “AI Agent” atau “Agentic AI” pada 2025 tercatat lebih dari dua kali lipat total publikasi periode 2020–2024 digabungkan. Selain itu, survei McKinsey mengungkap 62% perusahaan menyatakan organisasi mereka setidaknya sudah bereksperimen dengan AI agent.

Lonjakan minat tersebut menandakan teknologi ini bukan lagi sekadar konsep futuristik, melainkan mulai menjadi bagian nyata dari ekosistem digital dan bisnis.

30 Agen AI Diteliti, Hasilnya Mengejutkan

Peneliti MIT menganalisis 30 AI agent populer dari tiga kategori utama:

1. Agen berbasis chat seperti ChatGPT Agent dan Claude Code.
2. Agen browser seperti Perplexity Comet dan ChatGPT Atlas.
3. Agen enterprise seperti Microsoft 365 Copilot dan ServiceNow Agent.

Walau laporan tidak menyebut angka pasti total agen yang beroperasi di internet, studi ini memberikan gambaran jelas tentang pola kerja mereka—dan sebagian besar beroperasi tanpa jaring pengaman memadai.

Hanya sekitar setengah dari agen yang diteliti memiliki kerangka keamanan atau kepercayaan yang dipublikasikan. Bahkan, sepertiga tidak memiliki dokumentasi keamanan sama sekali, sementara lima di antaranya tidak memenuhi standar kepatuhan apa pun.

Situasi ini semakin mengkhawatirkan karena 13 dari 30 sistem menunjukkan tingkat otonomi tinggi, artinya mampu menjalankan rangkaian tugas panjang tanpa pengawasan manusia. Agen browser termasuk yang paling otonom, misalnya sistem “Autobrowse” milik Google yang bisa menavigasi situs, login otomatis, dan menyelesaikan tugas multi-langkah menggunakan data pengguna.

Aktivitas AI Sulit Dibedakan dari Manusia

Masalah lain muncul ketika agen AI beroperasi bebas di internet. Aktivitas mereka hampir tidak bisa dibedakan dari perilaku manusia asli. Peneliti menemukan 21 dari 30 agen tidak memberi pemberitahuan kepada pengguna atau pihak ketiga bahwa mereka adalah AI, bukan manusia.

Akibatnya, sebagian besar aktivitas agen disalahartikan sebagai lalu lintas pengguna manusia. Hanya tujuh agen yang mempublikasikan identitas teknis seperti User-Agent string atau rentang alamat IP untuk verifikasi. Menariknya, beberapa agen justru menggunakan identitas mirip browser Chrome serta IP lokal agar terlihat seperti pengguna sungguhan, sehingga situs web sulit membedakan bot dan manusia.

Fitur “Menyamar” Jadi Nilai Jual

Dalam beberapa kasus, kemampuan menyamar justru dijadikan keunggulan produk. Agen open-source BrowserUse, misalnya, mempromosikan dirinya mampu melewati sistem anti-bot dengan cara menjelajah “seperti manusia.”

Lebih dari separuh agen yang diuji juga tidak menjelaskan bagaimana mereka menangani file robots.txt, CAPTCHA, atau API situs padahal komponen tersebut penting untuk mengatur interaksi bot dengan platform web. Bahkan ada argumen dari salah satu pengembang bahwa agen AI yang bertindak atas nama pengguna seharusnya tidak terkena pembatasan scraping karena berfungsi seperti asisten manusia.

Risiko Eksploitasi dan Serangan Siber

Minimnya standar keamanan membuat agen AI rentan dieksploitasi. Tidak adanya standardisasi evaluasi keselamatan membuka peluang serangan seperti prompt injection teknik menyisipkan perintah tersembunyi agar agen melanggar protokol keamanan.

Menurut laporan MIT, sembilan dari 30 agen tidak memiliki dokumentasi pengaman terhadap tindakan berbahaya. Hampir semua agen juga tidak mengungkap hasil pengujian keamanan internal, dan 23 di antaranya tidak menyediakan data uji keamanan pihak ketiga.

Transparansi Masih Jauh dari Ideal

Hanya empat agen yang menyediakan system card khusus agen, yaitu dokumen evaluasi keamanan yang disesuaikan dengan cara kerja agen, bukan sekadar model AI dasarnya. Meski beberapa laboratorium AI besar telah mempublikasikan kerangka risiko tingkat tinggi, peneliti menilai dokumentasi tersebut masih minim detail teknis terkait kerentanan keamanan sehari-hari.

Fenomena ini disebut peneliti sebagai “safety washing” praktik menampilkan kebijakan etika dan keamanan secara umum tetapi hanya membuka sebagian bukti empiris yang diperlukan untuk menilai risiko secara menyeluruh.

Upaya Regulasi Mulai Muncul

Meski begitu, ada tanda-tanda perbaikan. Pada Desember lalu, sejumlah perusahaan AI besar membentuk konsorsium untuk menyusun standar pengembangan agen AI. Langkah ini diharapkan menjadi fondasi regulasi dan transparansi yang lebih kuat.

Namun, laporan AI Agent Index menegaskan kesenjangan transparansi masih sangat lebar. Agen AI kini membanjiri internet dan lingkungan kerja dengan tingkat otonomi tinggi, sementara pengawasan serta standar keamanan belum berkembang secepat adopsinya.

Riset MIT memperlihatkan realitas baru dunia digital: AI agent berkembang pesat dan mulai beroperasi di berbagai sektor, tetapi banyak yang berjalan tanpa pengawasan memadai. Jika tren ini terus berlanjut tanpa regulasi dan standar keamanan jelas, risiko penyalahgunaan, manipulasi data, dan ancaman siber bisa meningkat.

Dengan kata lain, inovasi teknologi bergerak jauh lebih cepat dibanding sistem pengaman yang seharusnya menyertainya. Tantangan terbesar ke depan bukan lagi menciptakan agen AI yang lebih canggih, melainkan memastikan mereka aman, transparan, dan dapat dipercaya.