Kendali Penuh Orang Tua, Fitur Baru Meta AI Siap Deteksi Obrolan Sensitif pada Akun Remaja

Meta secara resmi mengumumkan langkah perlindungan tambahan guna menjaga keselamatan pengguna remaja saat berinteraksi dengan teknologi kecerdasan buatan mereka, Meta AI. Fokus utama dari kebijakan ini adalah memberikan respons yang aman, empatis, dan terarah ketika mendeteksi adanya obrolan sensitif terkait isu kesehatan mental, seperti kecenderungan melukai diri sendiri atau bunuh diri. Langkah ini dirancang untuk memvalidasi perasaan remaja sekaligus menjembatani mereka untuk mendapatkan pertolongan yang tepat.

​Salah satu terobosan penting yang dihadirkan adalah sistem peringatan proaktif kepada orang tua. Jika percakapan seorang remaja dengan Meta AI menunjukkan indikasi kuat atau bahkan pesan tersirat mengenai risiko menyakiti diri sendiri, sistem akan secara otomatis mengarahkan remaja tersebut ke saluran bantuan krisis. Pada saat yang sama, orang tua juga akan menerima notifikasi serta panduan khusus dari para ahli agar mereka dapat segera mendampingi dan memulai obrolan yang sensitif ini dengan anak mereka.

​Untuk meminimalkan kesalahan deteksi, Meta mengembangkan sistem kecerdasan buatan khusus yang dilatih bersama para pakar keselamatan anak. Guna menjaga keseimbangan antara privasi remaja dan kehati-hatian, setiap percakapan yang ditandai oleh AI akan melewati proses peninjauan manual oleh tim manusia terlebih dahulu sebelum notifikasi dikirimkan ke orang tua. Langkah ini diambil untuk memastikan tindakan pencegahan tetap diprioritaskan sekalipun konteks pesan anak masih tergolong samar.

​Pendekatan ini mendapat dukungan dari para ahli keselamatan digital, salah satunya Larry Magid dari ConnectSafely, yang menilai kebijakan ini berhasil menyeimbangkan privasi anak dengan kebutuhan informasi mendesak bagi orang tua. Saat ini, fitur pengawasan tersebut sudah aktif untuk akun Instagram yang disupervisi di wilayah Amerika Serikat, Inggris, Australia, dan Kanada, serta ditargetkan meluncur secara global di seluruh dunia pada akhir tahun ini.

​Selain melibatkan peran orang tua, Meta juga tengah mengintegrasikan fitur darurat yang memungkinkan sistem untuk langsung menghubungi layanan penyelamatan jika mendeteksi adanya risiko kritis pada pengguna remaja maupun dewasa. Upaya proteksi langsung ini melengkapi program serupa yang sebelumnya telah berjalan di Facebook dan Instagram, di mana puluhan ribu rujukan darurat telah dikirimkan ke petugas di lapangan untuk memeriksa kondisi pengguna yang membutuhkan bantuan segera.

​Dalam merancang respons Meta AI agar tidak terkesan kaku atau menghakimi, Meta berkolaborasi dengan dewan penasihat khusus serta lebih dari 75 pakar kesehatan mental remaja. Berdasarkan masukan klinis tersebut, Meta AI kini dilatih untuk tetap memvalidasi emosi yang dirasakan oleh remaja dan mengarahkan mereka ke bantuan profesional secara halus, alih-alih langsung memutuskan obrolan secara sepihak dan tiba-tiba.

​Dari sisi batasan konten harian, akun remaja secara otomatis dipasangi pengaturan bawaan yang ramah untuk usia 13 tahun ke atas. Meta AI telah diprogram untuk menolak berpartisipasi dalam topik-topik dewasa, seperti percakapan romantis atau seksual, serta enggan memberikan instruksi terkait zat terlarang maupun alkohol, guna memastikan batasan interaksi tetap berada di koridor yang aman.

​Sebagai perlindungan tambahan yang dapat dikontrol secara mandiri, orang tua juga bisa memanfaatkan fitur pembatasan konten yang disinkronkan langsung dengan akun Instagram anak. Ketika fitur batasan ketat ini diaktifkan, sistem Meta AI secara otomatis memperluas filter penolakannya terhadap berbagai kategori perintah sensitif lainnya, sehingga meminimalkan potensi terjadinya percakapan yang kurang pantas bagi perkembangan usia remaja.