Yapay Zeka Halüsinasyonu Nedir?

 

Yapay Zekâ Halüsinasyonu Nedir?

Öncelikle Halüsinasyon nedir? sorusuna insani açıdan "çeşitli sebeplere bağlı olarak kişinin algısının değişmesi ile ortaya çıkan bir rahatsızlıktır." olarak tanımlasa da Fransız psikiyatrist Dominique Esquirol’a göre halüsinasyon; dış bir kaynağı olmayan nesneleri veya olayları algılama deneyimi olarak tanımlanabilir. Örneğin kimsenin duymadığı bir sesle çağrılan bir sesi duymak ya da var olmayan nesneleri görmek gibi.

Yapay zeka halüsinasyonu ise derin öğrenme ve büyük dil modeli (Large Language Model=LLM)'nin veri analizi, görüntü işleme gibi görevler sırasında gerçek dışı, çelişkili veya yanıltıcı sonuçlar üretmesini ifade ediyor. 

Yapay zekâ halüsinasyonları, modelin veri setindeki desenleri yanlış yorumlaması veya genelleme yaparken hatalı sonuçlar üretmesiyle ilişkilendiriliyor. 

Bu olgu, genelde modelin eğitildiği verilerin yetersiz ya da çelişkili olması, aşırı öğrenme (overfitting) veya modelin karmaşıklığından kaynaklanabilir. 

Kısaca; Yapay zekâ halüsinasyonu algoritmik işlemlerin hesaplanamaz yanlış çıktıları olarak ifade edilebilir.