Google Messages Luncurkan Peringatan Konten Sensitif untuk Gambar Syur

GadgetDIVA - Aplikasi Google Messages mulai meluncurkan peringatan konten sensitif yang berisi gambar syur. Fitur ini telah diluncurkan awal tahun lalu.

Fitur tersebut akan melakukan dua tindakan utama jika sistem berbasis AI mendeteksi pesan yang berisi gambar syur. Yakni, mengaburkan foto tersebut dan memciu peringatan jika pengguna anak mencoba membuka, mengirim maupun meneruskan gambar.

Terakhir, fitur peringatan konten sensitif ini akan menyediakan sumber daya bagi pengguna dan anak untuk mendapatkan bantuan. Semua deteksi dilakukan pada perangkat untuk memastikan gambar dan data tetap bersifat pribadi.

Peringatan konten sensitif ini dapat diaktifkan secara default untuk pengguna yang diawasi dan remaja tanpa pengawasan. Orang tua dapat mengontrol fitur ini melalui aplikasi Family Link, akan tetapi remaja yang tidak diawasi berusia 13 hingga 17 tahun dapat menonaktifkannya melalui opsi Settings pada Google Messages. Fitur ini juga dapat dinonaktifkan secara default untuk semua orang.

Dengan mengaktifkan peringatan konten sensitif, gambar akan diburamkan serta perintah “speed bump” akan terbuka yang memungkinkan pengguna untuk memblokir pengirim sekaligus menawarkan link ke halaman sumber daya yang merinci mengapa foto syur dapat berbahaya.

Selanjutnya, aplikasi akan bertanya kepada pengguna apakah mereka masih ingin membuka dengan opsi “Tidak, jangan lihat,” dan “Ya, lihat”. Jika terdeteksi adannya upaya untuk mengirim gambar, aplikasi akan menyediakan opsi serupa.

Jadi, aplikasi tidak sepenuhnya memblokir anak-anak agar tidak mengirim foto syur, tetapi hanya memberikan peringatan.

Fitur ini didukung oleh sistem SafetyCore milik Google yang memungkinkan klasifikasi konten pada perangkat yang didukung AI tanpa mengirim “data yang dapat diidentifikasi atau konten atau hasil yang diklasifikasikan ke server Google”. Menurut laporan Engadget, fitur ini baru saja mulai tersedia di perangkat Android dan belum tersedia secara luas.