Waspada, Sam Altman Sebut AI Suka Halu

Bos OpenAI Sam Altman menyatakan bahwa AI sering berhalusinasi. Ia memperingatkan para pengguna ChatGPT untuk tidak percaya dengan chatbot miliknya tersebut. 

ChatGPT tidak hanya menjadi chatbot AI paling populer di pasaran tetapi juga menjadi kebutuhan dalam kehidupan sebagian besar pengguna. Namun, CEO OpenAI Sam Altman memperingatkan agar tidak menaruh kepercayaan buta pada ChatGPT, mengingat chatbot AI ini rentan mengalami halusinasi (membuat hal-hal yang tidak benar). 

“Orang-orang memiliki tingkat kepercayaan yang sangat tinggi terhadap ChatGPT yang menarik karena AI bisa berhalusinasi. Ini seharusnya teknologi yang tidak boleh terlalu dipercaya,” ungkap Sam Altman dalam episode pertama podcast OpenAI dikutip dari Mint pada Jumat (11/7). 

Perlu diingat bahwa chatbot AI ini rentan terhadap halusinasi, yaitu membuat hal-hal yang tidak sepenuhnya benar dengan keyakinan yang tinggi. Ada beberapa alasan di balik halusinasi LLMs (blok bangunan di balik chatbot AI) seperti data pelatihan yang bias, kurangnya landasan pengetahuan dunia nyata, tekanan untuk selalu merespons dan generasi teks prediktif. 

Masalah halusinasi dalam AI tampaknya sistematis dan saat ini tidak ada perusahaan AI besar yang mengklaim bahwa chatbot mereka bebas dari halusinasi. Altman juga mengulang prediksinya sebelumnya dalam podcast tersebut, menyatakan bahwa anak-anaknya tidak akan pernah lebih pintar dari AI. 

“Tapi mereka akan tumbuh menjadi jauh lebih mampu daripada kita saat tumbuh dewasa dan mampu melakukan hal-hal yang bahkan kita tidak bisa bayangkan,” imbuhnya.