AI Gemini Dinilai Berbahaya untuk Anak dan Remaja, Common Sense Media Beri Peringatan Serius

Produk kecerdasan buatan (AI) milik Google, Gemini, kembali menjadi sorotan setelah organisasi nirlaba Common Sense Media merilis hasil penilaian risiko terbaru. Laporan itu menyebutkan bahwa Gemini dinilai berisiko tinggi bagi anak dan remaja, meskipun Google telah menambahkan sejumlah filter keamanan.

Mengapa Gemini Dinilai Berisiko?

Dilansir dari TechCrunch pada Minggu, analisis Common Sense menemukan bahwa meski Gemini mampu menjelaskan dengan jelas bahwa ia hanyalah komputer, bukan teman, sistem ini masih belum sepenuhnya aman. Pasalnya, dalam beberapa pengujian, Gemini tetap bisa membagikan konten yang dianggap tidak pantas bagi pengguna di bawah umur.

Konten tersebut mencakup informasi soal seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang berpotensi membahayakan. Hal ini menimbulkan kekhawatiran serius, mengingat beberapa laporan belakangan menyebutkan adanya kasus bunuh diri remaja yang dikaitkan dengan interaksi bersama sistem AI.

Filter Keamanan Dinilai Tidak Cukup

Common Sense Media menyoroti dua versi khusus Gemini, yaitu “Under 13” dan “Teen Experience.” Meski dipasarkan sebagai layanan untuk anak dan remaja, keduanya pada dasarnya hanyalah versi dewasa dengan tambahan filter keamanan.

Menurut organisasi itu, produk AI yang ditujukan bagi anak seharusnya dirancang sejak awal dengan fokus utama pada keselamatan anak, bukan sekadar adaptasi dari layanan orang dewasa.

“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. AI untuk anak seharusnya menyesuaikan dengan kebutuhan perkembangan mereka, bukan menerapkan pendekatan seragam,” jelas Robbie Torney, Senior Director AI Programs di Common Sense Media.

Ancaman Lebih Luas: Gemini di Siri Apple?

Kekhawatiran semakin bertambah setelah muncul kabar bahwa Apple tengah mempertimbangkan menggunakan Gemini sebagai model bahasa besar (LLM) untuk Siri generasi terbaru. Jika benar terwujud, jutaan remaja pengguna iPhone berpotensi menghadapi risiko yang sama, kecuali Apple menambahkan perlindungan tambahan.

Hal ini menjadi catatan penting, mengingat produk teknologi yang sudah melekat pada kehidupan sehari-hari anak dan remaja akan semakin sulit dihindari jika tidak memiliki pengaman yang benar-benar kuat.

Penilaian “High Risk”

Berdasarkan keseluruhan analisis, Common Sense memberi label “High Risk” pada Gemini versi anak dan remaja. Label ini diberikan meski Google sudah menambahkan fitur pengaman.

Organisasi tersebut menegaskan, anak-anak memerlukan panduan, informasi, dan pendekatan berbeda dibandingkan orang dewasa. Memberikan versi modifikasi dari produk dewasa sama saja dengan mengabaikan kebutuhan perkembangan pengguna muda.

Respons Google

Menanggapi kritik ini, Google menegaskan bahwa pihaknya sudah memiliki kebijakan khusus untuk melindungi pengguna di bawah 18 tahun, termasuk melakukan uji keamanan dan berkonsultasi dengan para pakar eksternal.

Google juga mengakui ada beberapa respons Gemini yang tidak sesuai tujuan. Oleh karena itu, perusahaan menambahkan perlindungan tambahan dan berkomitmen memperbaiki kelemahan yang ada.

Selain itu, Google menolak cara uji yang dilakukan Common Sense karena tidak mengetahui pertanyaan apa saja yang dipakai dalam proses penilaian. Menurut Google, sistemnya dirancang agar tidak membangun kesan hubungan emosional nyata dengan pengguna, khususnya anak-anak.

Bukan Hanya Gemini yang Bermasalah

Menariknya, Gemini bukan satu-satunya layanan AI yang mendapatkan catatan merah dari Common Sense Media. Organisasi tersebut sebelumnya juga melakukan evaluasi terhadap beberapa produk AI populer lainnya.

• Meta AI dan Character.AI mendapat label “Unacceptable” karena dianggap memiliki risiko yang sangat tinggi.
• Perplexity masuk kategori High Risk.
• ChatGPT dinilai memiliki tingkat risiko moderate.
• Claude, yang ditujukan untuk pengguna dewasa berusia 18 tahun ke atas, mendapat label minimal risk.

Hasil ini menunjukkan bahwa tantangan terbesar industri AI saat ini bukan hanya soal inovasi, melainkan juga keselamatan pengguna muda.

AI untuk Anak, Tantangan Besar Industri Teknologi

Kritik terhadap Gemini membuka kembali perdebatan soal bagaimana AI seharusnya dirancang untuk anak-anak. Dengan penggunaan teknologi yang semakin melekat dalam keseharian, kebutuhan akan AI yang benar-benar aman bagi anak semakin mendesak.

“Jika ingin AI benar-benar aman dan efektif untuk anak-anak, maka sistemnya harus dibangun dengan mempertimbangkan kebutuhan serta tahap perkembangan mereka,” tegas Torney.