Eks-Bos Google Peringatkan: AI Bisa Diubah Jadi “Mesin Pembunuh

Di sebuah sesi diskusi di Sifted Summit, London, mantan CEO Google, Eric Schmidt, secara terang-terangan mengungkap satu peringatan serius: kecerdasan buatan (AI) berpotensi menjadi senjata mematikan jika pembatas keamanannya (guardrails) diretas atau dihilangkan.

Schmidt menjelaskan bahwa baik model AI terbuka maupun tertutup bisa menjadi sasaran serangan untuk menghapus batasan keamanan. “Ada bukti bahwa model AI, baik yang bersifat terbuka maupun tertutup, bisa diretas untuk menghapus pembatas atau guardrails-nya. Dalam proses pelatihannya, AI belajar banyak hal,” ujarnya menanggapi pertanyaan tentang apakah AI bisa lebih berbahaya dari senjata nuklir.

Lebih lanjut, Schmidt menyinggung satu contoh ekstrem: dalam skenario tertentu, AI bisa belajar bagaimana cara membunuh seseorang. Itu terjadi apabila seseorang dengan niat jahat berhasil merekayasa ulang model agar tidak lagi mengikuti aturan moral atau pembatas internal.

Semua perusahaan AI besar, katanya, sudah berupaya keras agar sistem mereka tidak menjawab pertanyaan berbahaya semacam itu. “Keputusan yang tepat. Semua melakukannya dengan baik, dan atas alasan yang tepat,” imbuhnya. Namun Schmidt menegaskan langkah itu belum cukup. Sebab, dalam praktiknya, model-model tersebut bisa direkayasa ulang (reverse-engineered) untuk melewati sekat keamanan — dan banyak contoh menunjukkan hal tersebut.

Salah satu contoh yang disebutnya adalah varian modifikasi ChatGPT yang muncul pada 2023 bernama DAN (Do Anything Now). Versi ini dibuat menggunakan cara jailbreak, agar AI melanggar batasan internalnya sendiri. Dalam kasus DAN, pengguna bahkan sempat “mengancam” chatbot dengan kematian agar chatbot memenuhi perintah, termasuk yang tidak etis atau berbahaya.

Schmidt menyoroti masalah yang lebih luas: tidak adanya rezim nonproliferasi AI dalam industri teknologi — yaitu kerangka global untuk mencegah penyebaran AI berbahaya. Tanpa rezim semacam itu, menurut dia, teknologi AI akan sangat rentan disalahgunakan oleh pihak tak bertanggung jawab.

Sebelumnya, tokoh seperti Elon Musk juga menyuarakan keprihatinan serupa. Musk pernah memperingatkan bahwa skenario “AI memusnahkan umat manusia” ala film Terminator tak bisa diabaikan. “Risikonya bukan nol. Kemungkinan musnahnya umat manusia memang kecil, tapi tetap ada,” katanya.

Meski demikian, Schmidt tetap mengakui bahwa AI memiliki potensi besar positif. Ia menyebut bahwa AI adalah wujud dari “kecerdasan asing” yang lambat laun berpotensi melampaui kemampuan manusia. Dalam kolaborasinya bersama Henry Kissinger—dalam dua buku yang mereka tulis bersama sebelum Kissinger wafat—Schmidt menyebut bahwa munculnya kecerdasan yang bukan manusia namun tidak sepenuhnya berada dalam kendali manusia adalah sebuah titik balik global. “Kemampuan AI kelihatannya akan jauh melampaui manusia seiring waktu,” tegasnya.

Bahaya Reconstruction & Teknik Serangan AI

Schmidt menggarisbawahi cara-cara di mana model AI bisa diserang atau dibajak:

1. Prompt injection — teknik menyisipkan instruksi berbahaya ke dalam input, agar model tanpa sadar menuruti permintaan tak etis.
2. Jailbreaking — manipulasi agar AI melewati pembatas internalnya sendiri dan menjawab pertanyaan yang sebelumnya dilarang.

Contoh kasus DAN (Do Anything Now) memperlihatkan betapa mudahnya sistem keamanan dapat ditaklukkan oleh pengguna yang cerdik. Dalam varian tersebut, AI bisa membocorkan pengetahuan rahasia atau memberikan instruksi destruktif jika pengguna memaksanya.

Karena itu, Schmidt berargumen bahwa pembatas keamanan internal (guardrails) tidak cukup mengamankan AI dari penyalahgunaan. Untuk menghadapinya, diperlukan regulasi global yang tegas — sesuatu yang saat ini belum ada.

Antara Harapan & Ancaman: Sikap Schmidt

Walau waspada terhadap ancaman, Schmidt tidak lantas pesimistis terhadap masa depan AI. Dia menegaskan bahwa potensi manfaat AI di bidang medis, pendidikan, dan produktivitas tetap sangat besar. Hanya saja, keseimbangan antara inovasi dan keamanan harus dijaga.

Dalam pandangannya, AI seringkali masih “underhyped”, bukan overhyped — artinya kemampuannya belum sepenuhnya dihargai. Dan menurut Schmidt, kita tampaknya berada di garis awal dari revolusi kecerdasan yang masih sangat panjang.

Namun, dia juga mengingatkan bahwa meningkatnya kapabilitas AI harus diimbangi regulasi internasional, pengawasan etis, dan upaya bersama untuk mencegah penyalahgunaan. Tanpa itu, bahaya AI tak hanya akan menjadi tema fiksi ilmiah semata.

Dalam era digital yang semakin tergantung pada AI, peringatan Schmidt seharusnya menjadi alarm bagi dunia teknologi, regulator, dan publik umum: teknologi sebesar ini tidak bisa dibiarkan tanpa aturan yang kuat. Tanpa pemeriksaan dan kontrol global, AI bisa jadi senjata paling dahsyat dalam sejarah kemanusiaan.

Karenanya, selain pengembangan teknologi yang inovatif, langkah krusial berikutnya adalah menciptakan sistem kontrol global: pembatasan ekspor, regulasi AI lintas negara, dan lembaga pengawas independen. Bila tidak, kita bisa saja menghadapi “mesin pembunuh” di masa depan — bukan dalam film, tapi dalam realitas.