34. Sınırlar

Bu kitap boyunca yapay zekânın ne yapabildiği anlatıldı. Son bölüm, ne yapamadığını anlatıyor.

Sınırları bilmek, yeteneklerini bilmekten daha önemlidir. Bir aracın ne yapabildiğini bilmeyen kişi ondan yeterince yararlanamaz; ne yapamadığını bilmeyen kişi ise zarar görür.

34.1 İki Tür Sınır

Sınırlar iki kategoriye ayrılır ve bu ayrım kritiktir, çünkü biri değişecek, diğeri değişmeyecektir.

34.2 Yapısal Sınırlar

Aşağıdakiler Bölüm 1'deki mekanizmadan doğar ve model ne kadar gelişirse gelişsin ortadan kalkmaz.

Doğruluk Garantisi Veremez

Model, bir sonraki en olası tokeni üretir. Bu mekanizma doğruluğu hedeflemez; olasılığı hedefler. Daha iyi bir model daha az yanılır, ama yanılmayacağını garanti edemez.

Sonuç: hiçbir model kuşağı, doğrulama yükümlülüğünü ortadan kaldırmayacaktır.

Kendi Emin Olup Olmadığını Bilemez

Bölüm 2.3'te görüldüğü gibi, modelin ifade ettiği güven kalibre değildir. Model, bilmediğini bilmez — yalnızca üretmeye devam eder.

Bu, teknik bir eksiklik değil, mekanizmanın doğasıdır. Sistem, doğruluk ile olasılığı içsel olarak ayırt etmez.

Kendi Çıktısını Bağımsız Doğrulayamaz

Bir modele kendi yanıtını kontrol ettirmek, bağımsız bir doğrulama üretmez. Önceki yanıt bağlamda durduğu için, model onunla tutarlı olma eğilimindedir.

Bu sınır, kaç kez sorulursa sorulsun geçerlidir.

Kalıcı Hafızası Yoktur

Bölüm 1.7 ve 30.3'te görüldüğü gibi, model durum tutmaz. Hafıza gibi görünen her şey, çevresindeki sistemin bir özelliğidir. Bu mimari bir gerçektir, bir eksiklik değil.

Sorumluluk Üstlenemez

Bu, kitabın Kısım V ve VI'sının tamamının dayanağıdır. Bir sistem hesap veremez, çıkar çatışması beyan edemez, imza atamaz, mahkemeye çıkamaz.

34.3 Mevcut Sınırlar

Aşağıdakiler bu kitabın yazıldığı dönemde gözlemlenen sınırlardır. Bunlar değişebilir ve kısmen değişecektir.

34.4 Bu Kitabın Üretiminde Gözlemlenenler

Bu alt bölüm, kitabın metodolojik tutarlılığı açısından gereklidir. Kitap boyunca araçların hatalarını belgeledik; kitabı yazan aracın hatalarını belgelememek tutarsızlık olurdu.

Aşağıdakiler bu projede fiilen gözlemlenen hatalardır.

Bu Listeden Çıkan Üç Ders

Birincisi: hataların hiçbiri hata mesajı üretmedi. Hepsi "başarılı" görünen işlemlerin içindeydi. Bu, Kısım IV'ün tek cümlelik özetinin kitabın kendi üretimindeki doğrulanmasıdır.

İkincisi: hataların çoğu görsel veya sayısal denetimle bulundu. İkisi de ucuz ve hızlı yöntemlerdir; atlanmalarının nedeni zorlukları değil, gereksiz görünmeleridir.

Üçüncüsü ve en önemlisi: iki hata yalnızca kullanıcı müdahalesiyle bulundu. Model kendi başına bulamazdı.

34.5 Sınır Sanılan Ama Olmayanlar

Bazı davranışlar sınır olarak yorumlanır ancak aslında yanlış kullanımdan doğar.

Bu tablo, kitabın pratik özeti sayılabilir. Şikâyetlerin çoğu araçtan değil, yapılandırmadan kaynaklanır.

34.6 İnsan Tarafındaki Sınırlar

Bu bölüm eksik kalırdı: sınırların bir kısmı araçta değil, kullanıcıdadır.

Doğrulama Yorgunluğu

Doğrulama disiplini bilişsel yük getirir ve bu yük zamanla aşınır. Bölüm 29'da aktarılan bulgu, doğrulama güveninin kullanım süresiyle azaldığını göstermektedir.

Bu, bilinmesi gereken bir zayıflıktır: en tehlikeli an, aracı yeni kullanmaya başladığınız an değil, ona alıştığınız andır.

Algı Açıklığı

Bölüm 4.1'deki bulgu geçerliliğini korur: hissedilen verimlilik, ölçülen verimlilik değildir. Bu proje de bunu gösterdi — sayfa tahmini yüzde yetmiş şaştı ve bu ancak ölçümle görüldü.

Otomasyon Yanlılığı

Akıcı ve kendinden emin bir metin, yetkinlik izlenimi verir. Bu izlenim, denetimi gevşetir. Model yanlış olduğunda da doğru olduğu kadar iyi yazar.

34.7 Sınırlar Ne Hızla Değişiyor?

Bu kitabın yazımı yaklaşık bir ay sürdü. O bir ay içinde bile değişiklikler oldu: yeni bir ürün duyuruldu, bir özellik başka bir yüzeye taşındı, bir kaynak güncellendi.

Bu, kitabın Bölüm 3.9'da kurduğu ilkeyi doğrular: hızlı eskiyen veriyi metne sabitlemek yerine, yapıyı öğretmek ve güncel değeri kaynağa bırakmak gerekir.

34.8 Geriye Ne Kalır?

Bu kitap kapandığında, içindeki teknik ayrıntıların bir kısmı eskimiş olacak. Kalıcı olan şey aşağıdakilerdir.

• Model bir bilgi deposu değil, olasılıksal bir üreticidir.
• Akıcılık doğruluğun kanıtı değildir.
• Başarı mesajı doğrulama değildir.
• Var olmak ile sizin ortamınızda kullanılabilir olmak farklı şeylerdir.
• Modele bilgi vermek, modelden bilgi çekmekten güvenlidir.
• Doğrulama yükü, hatanın maliyetiyle orantılı olmalıdır.
• Sorumluluk devredilemez.
• Aracı kullanma biçiminiz, ondan ne kazanacağınızı belirler.

Bu sekiz cümle, kitabın üç yüz sayfasının damıtılmış hâlidir. Geri kalan her şey bunların uygulamasıdır.

34.9 Bölüm Özeti

• Sınırlar yapısal ve mevcut olarak ikiye ayrılır; biri değişmez, diğeri hızla değişir.
• Yapısal sınırlar mekanizmadan doğar: doğruluk garantisi, kalibre güven, bağımsız öz-doğrulama, kalıcı hafıza ve sorumluluk.
• En kalıcı sınır kavramsaldır: bir sistem sorumluluk taşıyan bir özne değildir.
• Mevcut sınırlar test edilebilir ve düzenli olarak yeniden ölçülmelidir.
• Bu kitabın üretiminde gözlemlenen hataların hiçbiri hata mesajı üretmedi.
• İki hata yalnızca kullanıcı müdahalesiyle bulundu — ortaklık modelinin ampirik kanıtı.
• Şikâyetlerin çoğu araçtan değil yapılandırmadan kaynaklanır.
• Sınırların bir kısmı kullanıcıdadır: doğrulama yorgunluğu, algı açıklığı, otomasyon yanlılığı.
• En tehlikeli an, araca alıştığınız andır.

Güncellik kontrolü: Bu bölümdeki yapısal sınırlar uzun ömürlüdür. Mevcut sınırlar 7 Eylül 2026 itibarıyla gözlemlenmiştir ve değişecektir. Bu kitabın üretiminde gözlemlenen hatalar, 12 Ağustos – 7 Eylül 2026 arasındaki çalışma sürecinden alınmıştır.