LLM Halüsinasyonu Ne Demek Neden Olur ve Nasıl Azaltılır

LLM Halüsinasyonu Nedir

Bir dil modeli, soruya cevap verirken gerçekte var olmayan bir kaynağı atıf gösterebilir, yaşanmamış bir olayı kesin bir dille anlatabilir ya da mantıksal olarak çelişkili bir detayı düzgün cümlelerle sunabilir. Buna "halüsinasyon" denir. Model, söz dizimi ve tonu kusursuz kurar; okuyucu ilk bakışta ikna edici bir metin görür, ancak içerik uydurmadır. Örneğin hiç yayımlanmamış bir makaleyi varmış gibi listeye koyabilir, bir tarihçinin aslında söylememiş olduğu bir sözü ona atfedebilir.

Buradaki kritik fark şudur: model bilerek yalan söylemez. Temelde "bir sonraki en olası kelime" mantığıyla çalıştığı için doğruluğu garanti edemez. Halüsinasyon, modelin kendi bilgi sınırının dışına çıkıp boşluğu istatistiksel olarak doldurma eğiliminin doğrudan bir sonucudur.

Neden Ortaya Çıkar

Birkaç temel mekanizma bu davranışı bes