ChatGPT Is Bullshit, Sisi Mengerikan Dari Halusinasi Artificial Intelegensi
Beberapa penelitian terkait Artificial Intelijen menemukan sisi mengerikan dari Artificial Intelijen. Sisi mengerikan ini didefinisikan sebagai halusinasi AI.
Sisi halusinasi dari teknologi AI ini, gagal memahami secara keseluruhan makna kebenaran sejati dalam kosa kata manusia.
Teknologi Artificial Intelijen yang berada dalam kondisi halusinasi, membuat sebuah definisi yang berbeda dengan apa yang dimaksud oleh kata-kata yang diucapkannya oleh manusia sebagai trainer nya.
Kondisi ini membuat sebuah output dari teknologi Artificial Inteligen juga bergeser dari apa yang dimaksud kan sebenarnya oleh input. Output yang salah ini disebut sebagai kondisi bullshit. Kondisi bulshit ini menjadi berbahaya jika kemudian muncul dalam layanan publik di lingkungan pemerintahan dan bisnis.
Keputusan yang diusulkan oleh AI menjadi salah dalam realitas manusia, meskipun memiliki kebenaran dalam realitas teknis. Karena itu state ini disebut sebagai state halusinasi dari AI. Kebenaran yang dilakukan berbasis AI adalah kebenaran yang penuh ilusi, penuh halusinasi yang salah.
Penelitian soal state halusinasi dari AI ini ditulis awal Juni yang lalu dalam jurnal Etika dan IT (Ethics and Information Technology). Tulisan berjudul ChatPGT is Bullshit ini menyoroti penggunaan teknologi AI ChatPGT yang berpotensi mengundang masalah baru dalam proses komunikasi dua arah antara AI ChatPGT dengan obyek yang dilayani oleh AI.
Munculnya sebuah state ilusi halusinasi yang diciptakan oleh AI ini menimbulkan banyak pertanyaan baru dalam penelitian unsur pembentuk kebenaran dalam sebuah proses komunikasi. Karena kebenaran nisbi yang muncul dari ChatPgT dan cenderung memunculkan multi tafsir dan level kebenaran baru dianalisis muncul dari unsur-unsur pembentuk kata yang dianalisis dan ditraining oleh AI sebelum digunakan untuk melayani obyek-obyek orang yang dilayani oleh mesin (GIW)
https://doi.org/10.1007/s10676-024-09775-5