Sam Altman Tegaskan OpenAI Bukan Polisi Moral Dunia

CEO OpenAI Sam Altman menegaskan bahwa perusahaannya bukan polisi moral terpilih dunia. Hal ini disampaikannya melalui sebuah cuitan di X. 

Sam Altman menyatakan bahwa OpenAI tidak bertanggung jawab atas pengawasan moral dan bertujuan untuk menyeimbangkan pengalaman pengguna dengan keamanan. 

Altman menambahkan bahwa OpenAI ingin menerapkan batasan-batasan konten. Ia mengambil contoh selayaknya film yang diberi batasan rating serupa dengan yang diterapkan oleh masyarakat.

“Kami bukanlah polisi moral dunia yang dipilih. Sebagaimana masyarakat membedakan batasan-batasan yang pantas (misalnya, film-film dengan rating R), kami ingin melakukan hal serupa di sini,” ungkap Altman dikutip dari Mint pada Senin (20/10). 

Pernyataan Sam Altman ini merupakan sebuah klarifikasi yang merajuk pada fitur Mode Dewasa pada ChatGPT. Sebelumnya, ia mengumumkan bahwa chatbot AI ini akan segera mengizinkan konten dewasa, termasuk erotika bagi pengguna terverifikasi.

Kendati demikian, hal ini memicu banyak kritik di media sosial. Oleh sebab itu, ia mengklarifikasi bahwa contoh erotika itu hanya dimaksudkan sebagai contoh bagaimana ChatGTP akan memberikan lebih banyak kebebasan kepada pengguna dewasa sambil mencatat bahwa perusahaan tersebut bukanlah polisi moral terpilih dunia. 

“Tweet tentang perubahan mendatang pada ChatGPT ini meledak karena isu erotika, jauh lebih dari yang saya duga! Ini dimaksudkan hanya sebagai salah satu contoh bagaimana kami memberikan lebih banyak kebebasan pengguna untuk orang dewasa,” ungkap Altman. 

Altman menyatakan bahwa OpenAI tetap tidak akan mengizinkan hal-hal yang dapat membahayakan orang lain maupun memperlakukan pengguna dengan krisis kesehatan mental secara berbeda. Ia mencatat bahwa tanpa bersikap paternalistik, perusahaan akan berusaha membantu pengguna mencapai tujuan jangka panjang mereka. 

“Kami tidak melonggarkan kebijakan apapun terkait kesehatan mental. Ini adalah teknologi baru dan canggih, dan kami yakin anak di bawah umur membutuhkan perlindungan yang signifikan. Kami juga sangat memperhatikan prisnip memperlakukan pengguna dewasa sebagaimana layaknya orang dewasa,” imbuhnya. 

Dalam postingan sebelumnya, Altman mengaku bahwa OpenAI telah membuat ChatGPT “cukup ketat” untuk melindungi pengguna dari risiko kesehatan menta. Akan tetapi, pendekatan ini justru membuat chatbot tersbeut kurang bermanfaat atau menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental. 

Dia menegaskan bahwa OpenAI kini mampu meringankan masalah kesehatan mental yang serius dan memiliki alat-alat baru yang memungkinkan mereka untuk melonggarkan pembatasan dengan aman dalam sebagaian besar kasus. 

OpenAI sendiri mengumumkan bahwa merkea tengah mengembangkan teknologi prediksi usia untuk secara otomatis menerapkan pengaturan yang sesuai untuk remaja saat mereka teridentifikasi sebagai anak di bawah umur. Selain itu, orang tua juga dapat menghubungkan akun mereka dengan akun remaja untuk mengontrol langsung sekaligus menerima notifikasi saat sistem mendeteksi bahwa anak remaja mereka tengah dalam kesulitan.