Ahli Sebut Chatbot AI Bisa Salah hingga 45

Ahli Sebut Chatbot AI Bisa Salah hingga 45

London-Para ahli memperingatkan bahwa konten yang dihasilkan AI seperti ChatGPT dapat menyebarkan informasi yang salah hingga 45 dari waktu, dan pengguna harus berhati-hati saat merujuknya.

Kevin Veale, seorang dosen senior di bidang studi media di Sekolah Humaniora, Media dan Kreativitas, Universitas Massey (Selandia Baru), menjelaskan bahwa kecerdasan buatan (AI) generatif digunakan untuk menghasilkan teks, gambar, dan bentuk data lainnya berdasarkan informasi mentah yang telah diterimanya.

Namun, generasi AI dapat menjadi alat untuk menciptakan informasi yang salah lebih cepat daripada kemampuan manusia untuk memverifikasinya, yang dapat menyebabkan konsekuensi di dunia nyata jika pengguna menaruh kepercayaan mutlak padanya.

Model bahasa skala besar, seperti ChatGPT atau Claude, beroperasi berdasarkan probabilitas kemunculan kata-kata yang berdekatan untuk membentuk kalimat yang masuk akal, bukan menjamin keakuratannya.Menurut studi tersebut, informasi yang salah yang dihasilkan oleh AI mencakup hingga 45 dari berita, terlepas dari bahasa atau lokasi geografis. OpenAI juga mengakui bahwa tidak ada cara untuk sepenuhnya mencegah informasi yang salah muncul sebagai "kebenaran."

Para peneliti menyamakan model-model ini dengan siswa yang menghadapi pertanyaan sulit, yang, ketika ragu, akan menebak daripada mengakui bahwa mereka tidak tahu.

Bapak Veale menyarankan pengguna untuk berkonsultasi dengan sumber yang dapat diandalkan terlebih dahulu, atau menggunakan buku dan dokumen tradisional sebagai referensi.

Para ahli menekankan perlunyapendidikandan penetapan aturan untuk penggunaan AI yang hati-hati, terutama karena AI secara bertahap terlibat dalam pekerjaan pemerintah, lembaga administrasi, dan organisasi kompleks.