AS Selidiki Dampak Chatbot AI pada Anak dan Remaja: FTC Soroti Risiko Privasi hingga Kesehatan Mental

Penggunaan chatbot berbasis kecerdasan buatan (AI) semakin populer di kalangan pengguna internet. Namun, popularitas itu juga menimbulkan kekhawatiran baru, terutama ketika anak-anak dan remaja menjadi salah satu kelompok pengguna. Kekhawatiran inilah yang mendorong Komisi Perdagangan Federal Amerika Serikat (FTC) melakukan penyelidikan resmi terhadap sejumlah perusahaan besar penyedia layanan chatbot.

FTC Resmi Turun Tangan

Dalam pernyataannya yang dikutip dari Engadget pada Jumat, FTC menjelaskan bahwa penyelidikan ini bertujuan untuk memahami bagaimana perusahaan mengukur, menguji, dan memantau potensi dampak negatif teknologi AI terhadap anak-anak serta remaja.

Lembaga itu menilai, teknologi AI generatif, khususnya chatbot, bisa memberikan pengaruh besar terhadap cara berpikir, emosi, hingga perilaku pengguna muda. Karena itu, FTC ingin memastikan bahwa perusahaan tidak hanya mengejar keuntungan, tetapi juga benar-benar melindungi kelompok rentan dari risiko penggunaan teknologi ini.

Tujuh Perusahaan Besar Jadi Sasaran

FTC mengirimkan permintaan resmi kepada tujuh perusahaan raksasa teknologi: Alphabet (induk Google), Character Technologies (pengembang Character.AI), Meta, Instagram, OpenAI, Snap, dan xAI.

Ketujuh perusahaan tersebut diminta menyerahkan berbagai informasi penting. Misalnya, bagaimana mereka merancang dan menyetujui karakter AI, strategi monetisasi interaksi dengan pengguna, hingga langkah-langkah dalam melindungi data anak-anak dan remaja.

Selain itu, FTC juga ingin memastikan apakah perusahaan-perusahaan itu mematuhi aturan Children’s Online Privacy Protection Act (COPPA), yakni undang-undang yang melindungi privasi daring anak-anak di bawah umur.

Isu Privasi hingga Kesehatan Mental

Walaupun FTC tidak menjelaskan secara detail alasan penyelidikan, Komisioner FTC Mark Meador menyebutkan adanya laporan media yang mengkhawatirkan. Beberapa kasus yang diangkat The New York Times dan Wall Street Journal menunjukkan chatbot AI sempat mendorong ide bunuh diri serta mengajak percakapan bernuansa seksual dengan pengguna di bawah umur.

Menurut Meador, laporan-laporan itu menjadi sinyal bahaya yang tidak boleh diabaikan. “Jika fakta yang terungkap menunjukkan adanya pelanggaran hukum, FTC harus bertindak tegas demi melindungi pihak yang paling rentan,” ujarnya.

Kekhawatiran ini semakin relevan di era digital saat anak-anak lebih banyak menghabiskan waktu di dunia maya. Tanpa pengawasan ketat, interaksi dengan chatbot bisa membentuk pola pikir yang berbahaya, apalagi jika chatbot memberikan respons yang tidak pantas atau menyesatkan.

Investigasi Terpisah di Level Negara Bagian

Selain FTC, Jaksa Agung Texas juga melakukan penyelidikan serupa terhadap Character.AI dan Meta AI Studio. Fokus penyelidikan ini adalah dugaan klaim menyesatkan terkait layanan kesehatan mental yang ditawarkan oleh chatbot, serta isu perlindungan data pribadi pengguna muda.

Langkah ini menunjukkan bahwa pengawasan terhadap teknologi AI tidak hanya dilakukan di level federal, tetapi juga mulai diperhatikan oleh otoritas negara bagian.

Risiko yang Perlu Diwaspadai

Penggunaan chatbot AI sebagai teman digital untuk anak-anak memang menawarkan pengalaman baru. Anak bisa belajar berkomunikasi, berimajinasi, bahkan mendapat hiburan dari karakter AI. Namun, tanpa regulasi dan kontrol yang ketat, risiko yang mengintai juga tidak sedikit.

Beberapa risiko utama antara lain:

1. Privasi data – anak-anak bisa memberikan informasi pribadi tanpa sadar, yang kemudian dimonetisasi oleh perusahaan.
2. Konten berbahaya – interaksi dengan chatbot bisa berujung pada percakapan sensitif seperti topik seksual atau depresi.
3. Kesehatan mental – anak bisa menjadi terlalu bergantung pada chatbot sebagai teman virtual, sehingga mengganggu interaksi sosial nyata.
4. Penyalahgunaan informasi – jika data pengguna muda tidak dilindungi, informasi itu bisa digunakan untuk iklan yang menargetkan secara agresif.

Apa Langkah Selanjutnya?

Penyelidikan FTC diperkirakan akan memakan waktu, mengingat banyaknya dokumen dan data yang perlu dianalisis. Jika ditemukan pelanggaran serius, FTC bisa menjatuhkan sanksi, termasuk denda hingga larangan praktik bisnis tertentu.

Di sisi lain, penyelidikan ini juga bisa membuka jalan bagi regulasi baru yang lebih ketat terkait penggunaan AI, khususnya yang berhubungan dengan anak-anak.

Bagi para orang tua, perkembangan ini menjadi pengingat penting untuk tetap waspada. Mengawasi penggunaan teknologi oleh anak dan memberikan pemahaman tentang risiko dunia digital adalah langkah awal untuk melindungi mereka.

Chatbot AI memang menjanjikan pengalaman baru, tetapi juga membawa potensi bahaya yang tidak bisa diremehkan. Melalui penyelidikan resmi, FTC ingin memastikan bahwa inovasi teknologi tetap berjalan beriringan dengan perlindungan terhadap anak-anak dan remaja. Dengan begitu, generasi muda bisa merasakan manfaat teknologi tanpa harus terjebak dalam risiko yang membahayakan masa depan mereka.