2. Neden Halüsinasyon Görürüz

Bölüm 1'de modelin her adımda bir sonraki en olası tokeni seçtiğini gördük. Bu bölüm, o mekanizmanın en önemli sonucunu ele alıyor: modelin gerçekte var olmayan şeyleri, tam bir özgüvenle üretmesi. Bu olgu bir arıza değil, sistemin tasarımından doğan yapısal bir özelliktir. Anlaşılmadığında, kullanıcıyı gerçek ve ölçülebilir zararlara açık hale getirir.

Bu bölümün amacı korkutmak değil; riski doğru konumlandırmak ve yönetilebilir hale getirmektir. Halüsinasyonu anlayan bir kullanıcı, anlamayan bir kullanıcıdan kat kat daha üretken olur, çünkü nerede güveneceğini ve nerede duracağını bilir.

2.1 Terim Sorunu: "Halüsinasyon" Doğru Kelime mi?

Bu olguyu adlandırmak için kullanılan "halüsinasyon" terimi eleştiriye açıktır. Terim, psikiyatriden ödünç alınmıştır ve modelde algısal bir bozukluk olduğunu ima eder. Oysa model "yanılmaz", çünkü doğruyu görmeye çalışmamaktadır. Bazı araştırmacılar bu nedenle "uydurma" (fabrication) veya "kendinden emin hata" terimlerini tercih eder.

Ayrım önemsiz değildir. "Halüsinasyon" terimi, sorunun ara sıra ortaya çıkan istisnaî bir bozukluk olduğu izlenimini verir. Gerçekte ise bu, üretim mekanizmasının sürekli açık olan bir olasılığıdır. Model her yanıtında aynı süreci işletir; kimi zaman sonuç doğrudur, kimi zaman değildir, ve modelin ikisi arasındaki farkı içsel olarak deneyimlemesi söz konusu değildir.

Kitap boyunca yerleşik kullanım nedeniyle "halüsinasyon" terimini kullanacağız; ancak okuyucunun bu terimi "modelin doğrulanmamış üretimi" olarak okuması daha isabetli olur.

2.2 Kökeni: Ön Eğitimde Kaçınılmaz Olan Hata

Halüsinasyonun neden ortaya çıktığına dair en açıklayıcı kuramsal çalışmalardan biri, Kalai, Nachum, Vempala ve Zhang tarafından yayımlanan çalışmadır. Yazarların temel tezi şudur: halüsinasyonlar transformer mimarisinin gizemli bir yan etkisi değil, eğitim hedefinden ve değerlendirme yönteminden kaynaklanan istatistiksel hatalardır.

Argümanın çekirdeği şöyle özetlenebilir. Ön eğitimde model, eğitim verisinin olasılık dağılımını taklit etmeye çalışır; ifadelerin doğruluğunu denetlemeye değil. Bir metin üretmek, bir metnin geçerli olup olmadığını sınıflandırmaktan istatistiksel olarak daha zor bir iştir. Dolayısıyla model, hatasız bir derlemle eğitilse dahi hata üretecektir. Yazarlar bunu bir sınıflandırma problemine indirgeyerek gösterir: modelin doğru ile yanlışı ayırt etme başarısı ne kadar düşükse, üretim sırasındaki uydurma oranı da o kadar yüksektir.

Bu tezin pratik açıdan en önemli sonucu şudur: eğitim verisinde yalnızca bir kez geçen olgular, model için özellikle kırılgan bölgelerdir. Nadir bilgi, seyrek örneklem demektir; seyrek örneklem ise zayıf istatistiksel temel demektir. Bu, halüsinasyonun neden rastgele değil, öngörülebilir bölgelerde yoğunlaştığını açıklar.

Kaynak: Kalai, A. T., Nachum, O., Vempala, S. S., Zhang, E. — "Why Language Models Hallucinate" (arXiv:2509.04664) ve OpenAI'nin konuya ilişkin açıklaması: https://openai.com/index/why-language-models-hallucinate/

2.3 Neden "Bilmiyorum" Demiyor?

Kullanıcıların en sık sorduğu soru budur. Model emin değilse, neden bunu söylemez?

Aynı çalışmanın ikinci ve daha çarpıcı tezi bu soruyu yanıtlar: modeller, standart eğitim ve değerlendirme yöntemleri tahmin yürütmeyi belirsizliği kabul etmeye tercih ettiği için halüsinasyon üretir. Yaygın karşılaştırma ölçütlerinin çoğu ikili puanlama kullanır — cevap doğruysa puan, yanlışsa puan yok. Bu puanlama düzeninde "bilmiyorum" demek, yanlış cevap vermekle aynı sonucu doğurur: sıfır puan.

Böyle bir sistemde tahmin yürütmek her zaman baskın stratejidir. Emin olmadığı bir soruda tahmin eden model, ara sıra tutturur ve puan kazanır; çekimser kalan model hiçbir zaman kazanamaz. Model eğitim süreci boyunca bu teşviği içselleştirir. Yazarların benzetmesiyle model, boş bırakmanın da yanlış cevabın da aynı şekilde puansız olduğu bir sınavda, her soruyu dolduran bir öğrenci gibi davranır.

Bu tespitin doğrudan pratik bir karşılığı vardır: modele belirsizliği açıkça izin verilen bir seçenek haline getirmek, uydurma riskini azaltır. Bölüm 17'de ayrıntılandıracağımız bu teknik, en basit haliyle talimatın içine yerleştirilir.

Şekil 2.1 — Aynı mekanizma, iki farklı sonuç. Fark çıktının kendisinde görünmez.

2.4 Halüsinasyon Türleri

Tüm halüsinasyonlar aynı değildir. Türlerini ayırt etmek, hangi doğrulama yönteminin gerekli olduğunu belirler.

Bu türler arasında en tehlikelisi genellikle nitelik kaymasıdır. Kaynak gerçektir, yazar gerçektir, dergi gerçektir — dolayısıyla yüzeysel bir kontrolde doğrulanmış görünür. Yanlış olan tek şey, o kaynağın gerçekte ne söylediğidir. Bu tür hatalar ancak kaynağın kendisi okunarak yakalanır.

2.5 Risk Haritası: Nerede Dikkatli Olmalı?

Halüsinasyon riski soru türüne göre sistematik biçimde değişir. Aşağıdaki harita, hangi durumda doğrulama yükünün artması gerektiğini gösterir.

Tablonun son iki satırı, verimli kullanımın anahtarını içerir. Model, kendisine verdiğiniz metin üzerinde çalışırken uydurma riski büyük ölçüde düşer, çünkü kaynak bilgi bağlam penceresindedir ve üretilmesi gerekmez. Bu ilke, ilerideki bölümlerde ele alacağımız birçok tekniğin temelidir: mümkün olduğunca modelden bilgi çekmek yerine, ona bilgi vermek.

2.6 Belgelenmiş Bir Alan: Hukukta Uydurma Atıflar

Halüsinasyonun soyut bir risk olmadığını gösteren en iyi belgelenmiş alan hukuktur. Mahkemeye sunulan dilekçelerde yapay zekâ tarafından uydurulmuş dava atıflarının kullanılması, 2023'ten bu yana dünya çapında sistematik biçimde kayıt altına alınmaktadır.

Sürecin başlangıcı olarak kabul edilen olayda, bir avukat bir havayolu şirketine karşı açılan davada mahkemeye altı adet var olmayan dava kararı sunmuş; kararlar uydurma alıntılar ve icat edilmiş dosya numaralarıyla birlikte gelmişti. Avukat para cezasına çarptırıldı.

Bu tekil olay bir istisna olarak kalmadı. HEC Paris'ten bir araştırmacının sürdürdüğü kamuya açık veri tabanı, mahkemelerin yapay zekâ kaynaklı uydurma içeriğe tepki verdiği karar sayısını izlemektedir. 2026 ortası itibarıyla bildirilen sayılar kaynaktan kaynağa 1.100 ile 1.600 arasında değişmektedir; bu farklılık, veri tabanının sürekli güncellenmesinden ve farklı raporların farklı tarihlerdeki anlık görüntüleri aktarmasından kaynaklanır. Kesin sayı ne olursa olsun, eğilim tartışmasızdır: vaka sayısı bir yıl içinde birkaç yüzden bine aşmıştır.

Kaynaklar arasında sayısal tutarsızlık bulunmaktadır (1.148 / 1.313 / 1.490 / 1.598 gibi farklı değerler bildirilmiştir). Bu nedenle metinde tek bir kesin sayı yerine aralık verilmiştir. Birincil kaynak: Damien Charlotin (HEC Paris) tarafından sürdürülen AI Hallucination Cases veri tabanı. Doğrulama tarihi: 25 Ağustos 2026.

Bu vakalardan çıkarılacak üç ders, hukuk alanının çok ötesine geçer.

• Yaptırımlar, hatanın kendisinden çok üstünü örtme çabası nedeniyle ağırlaşmıştır. Hatayı erken kabul etmek, savunmaya çalışmaktan daima daha az maliyetlidir.
• Uzmanlık amaçlı, alana özel araçlar da uydurma üretmiştir. Profesyonel bir araç kullanmak, doğrulama yükümlülüğünü ortadan kaldırmaz.
• Modele kendi çıktısını doğrulatmak işe yaramaz. İlk vakada avukat, kararların gerçek olup olmadığını yine aynı modele sormuş ve model kendi uydurmalarını onaylamıştır.

2.7 Arama ve Kaynak Bağlama Sorunu Çözer mi?

Modele web araması yaptırmak veya kendi belgelerinizi bağlamak (bilgi getirmeli üretim, yaygın kısaltmasıyla RAG) halüsinasyon riskini belirgin biçimde azaltır. Model artık bilgiyi üretmek yerine önündeki metinden okumaktadır.

Ancak bu bir muafiyet değildir; üç kısıt geçerliliğini korur.

• Arama sonuç bulamadığında veya sonuçlar belirsiz olduğunda, aynı tahmin yürütme teşviki yeniden devreye girer.
• Model, bulduğu kaynağı yanlış yorumlayabilir veya kaynakta olmayan bir sonucu ona atfedebilir — yani nitelik kayması riski sürer.
• Kaynağın kendisi güvenilmez olabilir. Model, bir kaynağın niteliğini değerlendirmekte insan uzman kadar iyi değildir.

Bu nedenle en güvenilir yapılandırma, modelin bağlantı verdiği kaynağın kullanıcı tarafından açılıp okunabildiği düzendir. Tıklanabilir, doğrulanabilir bir atıf; doğrulamayı gerçekten yapılacak kadar hızlı hale getirir.

2.8 Pratik Doğrulama Protokolü

Aşağıdaki protokol, akademik ve mühendislik çalışmalarında modelden gelen çıktının nasıl ele alınması gerektiğini tanımlar. Bu kitabın geri kalanında bu protokole atıf yapılacaktır.

• Sınıflandır: Çıktıdaki her ifadeyi "olgusal iddia" veya "dönüştürme/yorum" olarak ayır. Yalnızca birincisi doğrulama gerektirir.
• Risk seviyesini belirle: 2.5'teki haritayı kullanarak iddianın risk düzeyini tespit et.
• Bağımsız kaynağa git: Yüksek riskli her iddiayı, model dışındaki birincil kaynaktan doğrula. Modelin verdiği bağlantıyı aç ve gerçekten o içeriği taşıdığını gör.
• Sayıları ayrıca kontrol et: Sayısal değerler, akıcı metnin içinde en kolay gözden kaçan ve en kolay sapan öğedir.
• İkinci bir modele çapraz sor: Farklı bir platforma aynı soruyu sor. Çelişki çıkması, o noktanın araştırılması gerektiğinin güçlü işaretidir. Uyum çıkması ise doğruluk kanıtı değildir — iki model aynı hatalı örüntüyü paylaşabilir.
• Belgele: Hangi iddianın doğrulandığını, hangisinin doğrulanmadığını kayıt altına al. Akademik çalışmada bu kayıt, sonradan yapılacak denetimin temelidir.

Beşinci adım, bu kitabın Kısım III'ünde ayrıntılı ele alınacak çoklu-model doğrulama metodolojisinin çekirdeğidir. Buradaki uyarı önemlidir: iki modelin aynı cevabı vermesi, bağımsız iki tanığın aynı ifadeyi vermesiyle aynı şey değildir. Modeller büyük ölçüde örtüşen veri kaynaklarıyla eğitilmiştir; dolayısıyla ortak hataları da paylaşabilirler.

2.9 Doğru Zihinsel Model

Bu bölümü kapatmak için önerdiğimiz zihinsel model şudur: yapay zekâ modelini, alanında çok geniş okumuş, olağanüstü akıcı konuşan, ancak notlarına bakmadan konuşan ve hiçbir zaman "emin değilim" demeyi öğrenmemiş bir meslektaş olarak düşünün.

Böyle bir meslektaşla verimli çalışılabilir. Fikir üretmek, taslak hazırlamak, bir metni yeniden düzenlemek, bir problemi farklı açılardan tartışmak için son derece değerlidir. Ancak söylediği hiçbir olgusal ayrıntı, bağımsız doğrulama yapılmadan bir rapora veya makaleye girmez.

Bu ayrımı kuran kullanıcı, aracı hem güvenli hem de son derece verimli kullanır. Kurmayan kullanıcı ise er ya da geç, Bölüm 2.6'da anlatılan türden bir maliyetle karşılaşır.

2.10 Bölüm Özeti

• Halüsinasyon bir arıza değil, olasılıksal üretimin yapısal sonucudur.
• Ön eğitim, doğruluğu değil veri dağılımını taklit etmeyi hedefler; hata bu nedenle kaçınılmazdır.
• Değerlendirme ölçütleri tahmin yürütmeyi ödüllendirdiği için model çekimser kalmayı öğrenmez.
• Halüsinasyonun türleri farklıdır; en sinsi olanı gerçek kaynağa yanlış içerik atfetmektir.
• Risk, soru türüne göre öngörülebilir biçimde değişir; kaynak ve sayı istemek en riskli bölgedir.
• Modele bilgi vermek, modelden bilgi çekmekten daima daha güvenlidir.
• Modelin kendi çıktısını yine kendisine doğrulatmak geçersiz bir yöntemdir.
• Arama ve kaynak bağlama riski azaltır, ortadan kaldırmaz.
• Doğrulama, model dışı bağımsız kaynaktan yapılmalı ve kayıt altına alınmalıdır.

Güncellik kontrolü: Bu bölümdeki kuramsal içerik yavaş eskiyen niteliktedir. Vaka sayıları ve yaptırım tutarları hızla değişmektedir; 25 Ağustos 2026 itibarıyla doğrulanmıştır. Birincil kaynaklar: arXiv:2509.04664 ve AI Hallucination Cases veri tabanı.