GadgetDIVA - Meta menyatakan bahwa pihaknya kemungkinan akan menghentikan pengembangan sistem AI yang dianggap terlalu berisiko. Hal ini disampaikan melalui sebuah dokumen kebijakan baru.
Dokumen bernama Frontier AI Framework menyatakan bahwa ada beberapa skenario tertentu di mana mereka mungkin tidak akan merilis sistem AI berkemampuan tinggi yang dikembangkannya sedcara internal. Ada dua sistem AI yang dianggap terlalu berisiko untuk dirilis, yakni “risiko tinggi” dan “risiko kritis”.
Kedua sistem berisiko ini mampu membantu serangan siber, kima dan biologi. Perbedannya ialah sistem berisiko kritis dapat mengakibatkan hasil yang sangat buruk dan tak dapat dimitigasi dalam konteks penerapan yang diusulkan.
Baca Juga
Advertisement
Sebaliknya, sistem berisiko tinggi mungkin dapat membuat serangan lebih mudah. Akan tetapi, tidak seandal atau dapat diandalkan seperti sistem berisiko kritis.
Sebelumnya, CEO Meta Mark Zuckerberg telah berjanji untuk membuat artificial general intelligence (AGI) merupakan AI yang dapat menyelesaikan tugas apapun yang dilakukan manusia. Nantinya, sistem tersebut akan tersedia secara terbuka suatu hari nanti.
Meta memberikan beberapa contoh seperti automated end-to-end compromise pada lingkungan skala korporat yang dilindungi dengan praktik terbaik dan proliferasi senjata biologis yang berdampak tinggi. Daftar kemungkinan bencana dalam dokumen Meta masih jauh dari lengkap.
Baca Juga
Advertisement
Perusahaan turut mengklasifikasikan risiko sistem tidak berdasarkan pada satu tes empiris, tetapi berdasarkan masukan dari para peneliti internal dan eksternal yang akan ditinjau oleh “pengambil keputusan tingkat senior.” Mengapa? Meta mengatakan bahwa mereka tidak percaya bahwa ilmu evaluasi “cukup kuat untuk memberikan metrik kuantitatif yang pasti” untuk menentukan risiko sistem.
Melansir dari TechCrunch, Meta sendiri telah merancang strategi untuk membuat teknologi AI-nya ini tersedia secara terbuka. Meskipun, bukan open source.
Bagi perusahaan, pendakatan rilis terbuka telah terbukti menjadi berkah sekaligus kutukan. Rangkaian model AI perusahaan ini yang disebut Llama telah mengumpulkan ratusan juta unduhan.
Baca Juga
Advertisement
“Kami percaya bahwa dengan mempertimbangkan manfaat dan risiko dalam mengambil keputusan tentang bagaimana mengembangkan dan menggunakan AI tingkat lanjut. Adalah mungkin untuk menghadirkan teknologi tersebut ke masyarakat dengan cara yang menjaga manfaat teknologi tersebut bagi masyarakat sekaligus mempertahankan tingkat risiko yang sesuai,” pungkas perusahaan.
Cek berita teknologi, review gadget dan video Gadgetdiva.id di Google News. Baca berita otomotif untuk perempuan di Otodiva.id, kalau butuh in-depth review gadget terkini kunjungi Gizmologi.id. Bagi yang suka jalan-jalan, wajib baca Traveldiva.id.