Yapay zeka halüsinasyonu, yapay zeka sistemlerinin gerçekte var olmayan, yanlış veya yanıltıcı bilgileri gerçekmiş gibi ifade etmesi durumuna verilen isimdir. Bu terim, insan halüsinasyonuyla doğrudan benzerlik kurmasa da, üretken AI’nin çıktılarında uydurma veya hatalı bilgi üretimini anlatmak için kullanılır. AI halüsinasyonları özellikle büyük dil modelleri (LLM) gibi üretken sistemlerde, modelin eğitim verilerinde olmayan ya da doğruluğu kontrol edilmemiş bilgileri “kesin bilgi” gibi sunmasıyla ortaya çıkar.
Bu kavram, AI’nın tarihsel gelişimi içinde 1980’lerden beri farklı anlamlarda kullanılagelmiştir. İlk kullanım bağlamı, bilgisayar görüsü alanında düşük çözünürlüklü görüntülerden yeni detaylar üreten algoritmalar için “face hallucination” gibi olumlu bir teknik terim olarak yapılmıştır; bunun örnekleri 1999 tarihli çalışmalarda geçmektedir. 2010’lu yıllarda ise istatistiksel makine çevirisi ve öğrenen modellerde ortaya çıkan hatalı çıktılar için terim kullanılmaya başlanmıştır. 2015’te Andrej Karpathy gibi araştırmacılar, RNN tabanlı dil modellerinin yanlış alıntılar üretmesini “hallucinated output” olarak nitelendirmiştir ve bu tür kullanımlar daha sonra ChatGPT gibi geniş çapta jeneratif modeli olan araçlarla birlikte genel kavram hâline gelmiştir.
Yapay zeka halüsinasyonlarının nedenleri birden fazladır. Büyük dil modelleri, eğitim verilerindeki istatistiksel örüntüler ve kelime kombinasyonlarına göre çıktı üretir; ancak bazı girdilerle karşılaştıklarında gerçek dışı bağlantılar kurabilirler. Bu durum, özellikle verinin doğrudan temsili olmayan sorularla işlendiği, az bilinen veya nadir konuların istendiği durumlarda ortaya çıkar. Model tasarımı, eğitim verilerinin yönlendirilmesi ve eğitim sürecindeki sınırlamalar da bu hatalı çıktılara katkı sağlayabilir.
AI halüsinasyonları özellikle üretken AI sistemlerinde, büyük dil modellerinde ve görsel- dil modellerinde gözlemlenir. Bu sistemler; ChatGPT, Google Gemini, Meta’nın BlenderBot, DeepSeek gibi hem metin hem görsel içerik üretebilen modelleri içerir. Bu araçlar, kullanıcının girdisine dayanarak mantıklı görünen ancak gerçeğe dayanmayan yanıtlar üretebilirler.
Güncel olaylar, AI halüsinasyonunun gerçek dünya etkilerini de göstermektedir. Örneğin, Google’ın AI Overviews özelliği, arama sonuçlarını özetlerken yanlış veya yanıltıcı bilgiler üretmesiyle eleştirilmiş; “pizza sosuna yapıştırıcı ekleme” gibi uydurma tavsiyeler önerdiği iddiaları medyada yer almıştır. Bu, AI’nin gerçek görünüşlü ama hatalı bilgiler üretebileceğini gösteren somut örneklerden biridir.
Benzer şekilde Google’ın Gemma AI modeli, ABD’de bir senatöre sahte ve ciddi iddialarda bulunan çıktılar verdiği için geliştirici kullanımına çekilmiştir. Bu olay, sadece halka açık chatbot’larda değil, daha spesifik amaçlar için tasarlanmış modellerde bile halüsinasyon riskinin var olduğunu göstermiştir.
AI halüsinasyonları sadece metin değil görsel çıktılarda da görülebilir. Örneğin büyük görsel-dil modelleri, analiz ettikleri görsel verilerde var olmayan nesneleri yanlış şekilde tespit edebilirler; bu durum, AI tabanlı görsel tanıma sistemlerinde de potansiyel riskler yaratır.
Bu durumlara karşı araştırmacılar terimi yeniden tanımlamaya veya daha tutarlı kullanılmasına vurgu yapmaktadır. Halüsinasyon teriminin bazı uzmanlarca antropomorfik olduğu ve “algoritmik hata” veya “yanıltıcı üretim” gibi daha teknik terimlerin tercih edilebileceği de tartışma konusudur.
Sonuç olarak, yapay zeka halüsinasyonu, AI sistemlerinin güvenilirlik ve doğruluk açısından önemli bir sorun alanıdır. Kullanıcıların AI’dan gelen her yanıtı doğrulaması ve model geliştiricilerinin bu yanlış üretimleri minimize etmek için teknik çözümler üretmesi giderek kritik hale gelmektedir.
