Bisnis.com, JAKARTA - Sam Altman selaku CEO OpenAI mengakui ChatGPT dapat memberikan respon bias yang tidak disengaja. Misalnya dalam memberikan rekomendasi kuliner.
Menurutnya bias ini dapat muncul karena algoritma tersebut belajar dari data yang mencerminkan preferensi, keyakinan, dan asumsi sosial yang mungkin ada dalam teks yang dipelajarinya.
“Bisa dibilang ChatGPT sangat besar kemungkinannya mereproduksi bias yang ada dalam teks tersebut, termasuk bias sosial, budaya, dan gender,” ujarnya dalam Live Streaming Conversation With Sam Altman, Rabu (14/6/2023).
Dia menyampaikan dalam penggunaan sistem AI yang kuat, pihaknya tetap mengusulkan adanya batasan yang ditetapkan secara global demi melindungi keamanan dan kesejahteraan semua orang.
Perbedaan hukum dan nilai-nilai antar negara yang dapat mempengaruhi pandangan terhadap apa yang dianggap wajar atau aman pun menjadi satu komitmen OpenAI untuk bisa memberikan batasan dalam pengembangan sistemnya.
Singgung Topik soal Nasi Goreng
Dalam sesi yang sama, Altman turut menyontohkan soal bagaimana seseorang menggunakan ChatGPT untuk konteks pertanyaan pribadi, seperti menanyakan makanan paling lezat
“Ketika saya bertanya ke AI, makanan apa yang paling lezat? Lalu, menurut saya nasi goreng, nah kan itu pendapat saya, personal” ujarnya yang disambut gelak tawa penonton.
Artinya, dia menegaskan sejumlah konteks pertanyaan yang menghasilkan jawaban sangatlah subjektif.
“Apa yang satu orang anggap sebagai makanan paling lezat mungkin tidak sama dengan yang dipikirkan oleh orang lain. Setiap orang memiliki selera yang berbeda-beda,” tambahnya.
Apabila seseorang menggunakan sistem AI seperti ChatGPT untuk memberikan rekomendasi makanan, maka responsnya yang akan didapatkan pasti berdasarkan data dan pola yang telah dipelajarinya dari sumber teks.
Investor asal Amerika itu menegaskan, meskipun model ini dapat memberikan saran tentang makanan yang mungkin disukai oleh sebagian orang berdasarkan preferensi umum, tetapi tidak ada jaminan, jika rekomendasi tersebut akan sesuai dengan selera pribadi setiap individu.
Dia menjelaskan, dalam hal ini, penting bagi sistem AI untuk mengakui keragaman preferensi makanan dan memberikan respons yang mempertimbangkan variasi tersebut.
Tak menutup kemungkinan, sistem yang dia buat ini pun akan mengalami perbaikan sistem agar bisa memberikan preferensi individu pengguna dan memberikan rekomendasi yang lebih personal yang sesuai dengan preferensi pengguna.
Namun, Altman mengingatkan penting juga untuk diingat dalam hal-hal yang melibatkan preferensi pribadi, manusia masih memiliki keunggulan dalam memahami preferensi yang lebih kompleks dan kontekstual.
“Penggunaan AI sebagai alat bantu dalam memberikan rekomendasi makanan atau preferensi pribadi lainnya dapat memberikan panduan, tetapi keputusan akhir tetap ada pada individu itu sendiri,” tutupnya.
